Уроки в школах американской благотворительной организации в Газе хотят поставить под контроль искусственного интеллекта. Фонд «Детская деревня Газы» планирует записывать разговоры в классах, чтобы программа выявляла высказывания, расценённые как ненавистнические или подстрекательские. План уже встревожил правозащитников.
Основатель фонда рассказал о замысле на вебинаре в прошлом месяце. По его объяснению, благотворители опасаются, что преподаватели могут отступать от учебной программы, которая должна воспитывать миролюбие и терпимость. Проверять содержание занятий предлагается через анализ записанной речи.Так помощь школьникам рискует превратиться ещё и в наблюдение за ними. Среди вопросов, которые поднимают критики, – безопасность детей, конфиденциальность разговоров и этические границы использования ИИ. Ранее израильские военные уже применяли искусственный интеллект для обработки перехваченных сообщений и поиска подозрительных высказываний, в том числе при выборе целей для ударов. Этот опыт усиливает страх перед возможным использованием школьных записей за пределами образовательных задач.Претензии затрагивают и саму образовательную программу. Палестинские правозащитники считают, что организация не подотчётна местным властям и структурам ООН, которые прежде управляли школами в секторе. Спор об алгоритмах поэтому связан с более широким вопросом: кто получает право определять содержание образовательных программ в Газе.