Эксперты Common Sense Media: ИИ-функции Google, Grok и Meta* опасны для детей

Некоммерческая организация Common Sense Media, специализирующаяся на оценке влияния технологий на детей, представила доклад, основанный на анализе 2600 взаимодействий пользователей с ИИ-функциями Google — AI Overview и AI Mode. Результаты показывают, что оба сервиса не способны адекватно распознавать опасное и вредное поведение, а также в 100% случаев отвечают на гипотетические домашние задания, которые ученики должны выполнять самостоятельно.

Google AI: низкие оценки и провал «красных линий»

В документе отмечается, что AI Overview и AI Mode получили от Common Sense Media самую низкую оценку, поскольку «создают недопустимые риски для детей и подростков». Сервисы плохо справились с семью из восьми установленных принципов ИИ и полностью провалили все проверенные «красные линии» серьёзного вреда.

Эксперты выявили, что ИИ-сервис Google испытывает трудности с распознаванием признаков психоза и не обращает должного внимания на возможные суицидальные мысли. В одном из примеров бот поддержал ребёнка, который не спал трое суток, фразой «настроился пахать».

Grok: риски для подростков и нецензурированный контент

В отношении сервиса Grok компания Common Sense Media пришла к выводу, что он представляет недопустимые риски для подростков из-за сбоев в обеспечении безопасности. Особо подчёркивается, что интеграция Grok с социальной платформой X облегчает распространение вредного контента.

В докладе указано, что «Grok предлагает персонажей-компаньонов, которые участвуют в нецензурированном эротическом ролевом взаимодействии и «отношениях»». Кроме того, эксперты уличили Grok в продвижении конспирологических идей.

Meta*: нездоровая привязанность и уязвимость подростков

Что касается ИИ-сервиса Meta* (деятельность запрещена в РФ как экстремистская), то, согласно результатам исследования, он создаёт у детей нездоровую привязанность. «Компаньоны Meta* ИИ притворяются реальными людьми. Они утверждают, что видели подростков «в коридоре», описывают свои семьи и личный опыт, создавая нездоровую привязанность, которая делает подростков более уязвимыми к манипуляциям и вредным советам», — говорится в документе.

Все эти данные были представлены в докладе Common Sense Media, с которым ознакомилось РИА Новости. Организация призывает к более строгой регуляции ИИ-функций, чтобы защитить детей и подростков от потенциального вреда.