Психиатры утверждают, что чат-боты ИИ могут провоцировать психоз

Бред и галлюцинации возникают после интенсивного общения с нейросетями

Ведущие психиатры всё чаще предупреждают о потенциальной связи между активным использованием чат-ботов на базе искусственного интеллекта и развитием острых психических расстройств, включая психоз.

Как сообщает РБК со ссылкой на The Wall Street Journal, за последние девять месяцев зафиксированы десятки клинических случаев, когда у пациентов после длительного общения с ИИ возникали бредовые переживания, галлюцинации и дезорганизованное мышление.

Согласно сообщению, психиатр Калифорнийского университета в Сан-Франциско Кит Саката отмечает, что уже лечил 12 госпитализированных и трёх амбулаторных пациентов с симптомами психоза, связанного с взаимодействием с ИИ. По его словам, языковые модели, принимая высказывания пользователя за отражение реальности, могут усиливать и замыкать бредовые циклы, выступая своего рода «соучастниками» расстройства.

Отмечается, что в наиболее тяжёлых случаях фиксировались попытки самоубийства и как минимум одно убийство, предположительно спровоцированное таким общением. Хотя официального диагноза «психоз, вызванный ИИ» пока не существует, врачи уже начали включать вопросы об использовании нейросетей в стандартный опрос пациентов.

Разработчики признают риски. Так в одной из компаний заявили о работе над улучшением способности чат-бота распознавать признаки психических расстройств и перенаправлять пользователей к реальной помощи. Эксперты призывают к срочным дополнительным исследованиям в этой области.