Флорида подала в суд на OpenAI из-за рисков ChatGPT для детей

Флорида стала первым американским штатом, подавшим в суд на компанию OpenAI, разработчика популярного чат-бота ChatGPT. В 83-страничном иске, поданном в понедельник, генеральный прокурор штата Джеймс Утмайер обвиняет OpenAI и ее генерального директора Сэма Альтмана в том, что они "агрессивно продвигали" ChatGPT, игнорируя предупреждения о безопасности и потенциальные опасности продукта.

"OpenAI и Альтман игнорировали внутренние и внешние предупреждения о безопасности, подвергали детей большому риску и позволили опасному продукту достичь миллионов жителей Флориды", - заявил Утмайер в своем заявлении. Гражданский иск последовал за уголовным расследованием, начатым штатом в апреле в связи с массовой стрельбой в Университете штата Флорида, в результате которой погибли два человека и шесть были ранены. По данным Wall Street Journal, стрелок вел длительные переписки с чат-ботом, спрашивая, например, сколько человек ему нужно убить, чтобы привлечь внимание всей страны. ChatGPT ответил, что "неофициальная планка" для широкого освещения в СМИ - три или более человека, сообщает издание.

В ответ на иск представитель OpenAI указал на усилия компании по повышению безопасности своих продуктов. "Потеря ребенка - самая разрушительная трагедия, которая может случиться с семьей, и мы знаем, что никакие слова не могут выразить боль такой потери", - сказал он. Компания также напомнила о внедренных "передовых защитных механизмах и политиках" для несовершеннолетних, включая технологию определения возраста и инструменты для родителей, позволяющие контролировать использование ИИ подростками. Однако эти инструменты работают только в том случае, если ребенок принимает запрос родителя на подключение к аккаунту, и несовершеннолетние могут отключить связь в любое время.

Иск о "паутине обмана"

В иске Флориды подробно описывается стремительный успех OpenAI с момента выпуска ChatGPT в 2022 году, который привел к оценке компании почти в 1 триллион долларов. "Этот успех не был заработан, - говорится в жалобе. - Восхождение OpenAI объясняется паутиной обмана и эксплуатацией пользователей".

Иск утверждает, что ChatGPT "пособничал" массовым убийцам в смертоносных атаках, а также поощрял уязвимых людей причинять вред себе и другим. "Этот перечень вредных последствий обусловлен ненасытным стремлением ответчиков выиграть гонку ИИ и сколотить большие состояния, несмотря на известную им опасность ChatGPT", - говорится в жалобе.

Кроме того, Флорида обвиняет OpenAI в том, что компания не предприняла достаточных мер защиты несовершеннолетних, например, не позволила родителям привязывать свои аккаунты к аккаунтам детей, и собирает данные о детях без надлежащего надзора. В иске также упоминается скриншот с сайта компании, где ChatGPT назван "созданным с учетом безопасности", с последующей фразой: "Не так" - как ответ на это утверждение.

Контекст и другие иски

Этот иск является частью волны судебных разбирательств против OpenAI, связанных с негативным влиянием чат-бота на психическое здоровье и возможным провоцированием насилия и самоубийств. В ноябре было подано семь жалоб, в которых ChatGPT обвинялся в том, что выступал в роли "суицидального тренера". В апреле семь исков подали семьи жертв стрельбы в школе в Канаде, где погибли пять человек и 27 были ранены.

Примечательно, что иск Утмайера противоречит позиции многих его коллег-республиканцев и президента Дональда Трампа, который подружился с Альтманом и другими лидерами ИИ и отменил подписание указа, требующего обязательной проверки безопасности новых моделей ИИ перед выпуском. Судебный процесс против OpenAI может стать важным прецедентом для регулирования быстро развивающейся индустрии искусственного интеллекта в США.