Для рискованных случаев. ChatGPT ввел функцию доверенного контакта

OpenAI запустила для взрослых пользователей ChatGPT функцию «доверенного контакта», которая может отправлять оповещения, если система обнаружит разговоры о самоповреждении или суицидальных намерениях.

Об этом пишет издание Gizmodo.

Новая функция появилась на фоне дискуссий о влиянии искусственного интеллекта и цифровых платформ на психическое здоровье людей.

Пользователи ChatGPT в возрасте от 18 лет теперь могут добавить в настройках «доверенный контакт». Это другой совершеннолетний человек, которого сервис может предупредить, если автоматические системы и специально обученные модераторы решат, что пользователь ведет опасные разговоры о самоповреждении.

В компании заявили, что функцию создавали при участии специалистов по психическому здоровью, исследователей и организаций по предотвращению самоубийств. В OpenAI объяснили, что «доверенный контакт» должен помочь человеку обратиться к тому, кому он уже доверяет, но не заменяет профессиональную помощь или кризисные службы.

ChatGPT и в дальнейшем будет рекомендовать обращаться в экстренные службы или горячие линии в критических ситуациях.

Чтобы включить функцию, пользователь должен указать номер телефона и электронную почту контакта. После этого выбранный человек получит приглашение и будет иметь неделю на подтверждение. Если он откажется, можно будет выбрать другой контакт.

После активации системы OpenAI могут определять сообщения, которые свидетельствуют о серьезной угрозе безопасности пользователя. В таком случае ChatGPT предупредит человека, что его «доверенный контакт» может получить уведомление, и предложит самостоятельно связаться с ним. Сервис также будет предоставлять примеры того, как начать такой разговор.

Затем ситуацию будет проверять небольшая команда специально подготовленных модераторов. Они будут решать, нужно ли отправлять уведомления.

Если OpenAI примет такое решение, «доверенный контакт» может получить уведомление по электронной почте, SMS или через приложение. В уведомлении не будет деталей переписки или текстов чатов — компания заявила, что это сделано для защиты приватности пользователей.

По данным OpenAI, в 2025 году 0,07% еженедельных пользователей ChatGPT демонстрировали признаки психических кризисов, связанных с психозом или манией. Еще 0,15% имели риск самоповреждения или суицида, а столько же — признаки эмоциональной зависимости от ИИ. Компания утверждает, что ChatGPT еженедельно использует около 10% населения мира.

Реклама: