ChatGPT вводит функцию «Доверенный контакт» для защиты пользователей в кризисных ситуациях

Новая функция Trusted Contact стала частью обновления безопасности ChatGPT и доступна на добровольной основе. Как пояснили в компании, цель опции — создать дополнительный слой поддержки для людей, которые могут оказаться в уязвимом состоянии во время общения с AI-ассистентом.

Как работает доверенный контакт?

Для активации функции пользователь должен самостоятельно назначить контактное лицо — друга, родственника или иного близкого человека. Если в ходе диалога с ChatGPT система с высокой вероятностью определит признаки суицидального риска или намерения причинить себе вред, она может отправить уведомление этому доверенному лицу.

Важно, что механизм запускается только при явных сигналах, а не при любом упоминании тяжёлых тем. OpenAI подчёркивает, что не ведёт превентивный мониторинг всех бесед — анализ происходит в момент общения, когда пользователь уже сообщает о кризисной ситуации.

Почему это важно?

Запуск Trusted Contact отражает растущее внимание разработчиков AI к вопросам этики и безопасности. ChatGPT, как и другие чат-боты, всё чаще используется для общения на личные темы, включая психологические трудности. Однако нейросеть не может заменить профессиональную помощь, и в критические моменты своевременное оповещение близкого человека может спасти жизнь.

Пока функция находится на ранней стадии внедрения и доступна только для взрослых учётных записей. OpenAI планирует собирать отзывы пользователей и в будущем, возможно, расширит сценарии использования, например, для подростков или в образовательных целях.

В компании подчёркивают, что Trusted Contact — дополнительная опция, а не обязательная. Пользователь может отказаться от неё в любой момент. Также OpenAI заверяет, что данные о назначенном контакте хранятся безопасно и не используются для других целей, кроме отправки экстренного уведомления.

Нововведение уже обсуждается как важный шаг к более ответственному AI, который не просто отвечает на запросы, но и способен распознать момент, когда человеку нужна реальная человеческая поддержка.