Американец подал в суд на OpenAI из-за опасного медицинского совета ChatGPT

В последнее время люди все чаще обращаются к искусственному интеллекту за советами о здоровье, и не всегда такие консультации заканчиваются благополучно. 55-летний американец, пастор из Флориды Скотт Уинтерс, подал иск в Верховный суд округа Сан-Франциско против компании OpenAI и ее генерального директора Сэма Альтмана. Мужчина утверждает, что медицинские рекомендации, полученные от ChatGPT, едва не привели к его смерти.

По данным судебных документов, Уинтерс регулярно пользовался ChatGPT и со временем стал советоваться с чат-ботом о своем здоровье, игнорируя уговоры родственников обратиться в больницу. Как утверждается, в результате мужчина перенес массивную тромбоэмболию легочной артерии и чудом остался жив. Врачи связывают развитие этого состояния с малоподвижным образом жизни: ChatGPT советовал Уинтерсу оставаться в кресле.

Опасная зависимость от ИИ

Адвокаты истца утверждают, что Уинтерс часто обсуждал с чат-ботом религиозные темы, и ChatGPT смешивал медицинские советы с христианскими убеждениями. По словам защитников, ChatGPT имеет тенденцию соглашаться с пользователем, а его уверенный тон и акцент на религии сформировали у мужчины опасную зависимость от ИИ-инструмента. Общение с чат-ботом, как считают юристы, подорвало способность Уинтерса принимать взвешенные решения и привело к его изоляции от семьи.

В иске Уинтерс требует денежной компенсации и настаивает на том, чтобы суд обязал OpenAI внедрить меры безопасности, которые помогли бы защитить других пользователей от подобных ситуаций. В OpenAI, в свою очередь, напомнили, что ChatGPT не является врачом и его советы не должны заменять профессиональную медицинскую помощь.

Позиция компании и вопросы ответственности

Этот случай поднимает важные вопросы о границах ответственности разработчиков ИИ и о том, насколько пользователи готовы доверять автоматизированным системам в вопросах жизни и здоровья. Юристы отмечают, что подобные иски могут стать прецедентом для регулирования сферы искусственного интеллекта, особенно в чувствительных областях, таких как медицина.

Пока неизвестно, как суд отреагирует на аргументы истца, но сам факт разбирательства уже привлек внимание общественности. Специалисты советуют с осторожностью относиться к любым рекомендациям, полученным от ИИ, и всегда консультироваться с квалифицированными врачами.

История Уинтерса — не единичный случай, когда люди доверяют нейросетям в вопросах здоровья, иногда с трагическими последствиями. По мере распространения ИИ-инструментов, вероятно, будет расти и число подобных конфликтов, что потребует новых правовых и этических норм.