Сотрудник ВШЭ объяснил странные «галлюцинации» нейросети шизофренией

Научный сотрудник ВШЭ Растям Алиев обнаружил у нейросетей признаки «алгоритмической шизофрении», сравнив их склонность к генерации вымышленных фактов с симптомами психических заболеваний. Результаты исследования опубликованы в журнале «Логос».

По мнению ученого, современные нейросети, вопреки распространенному образу холодного андроида, имитируют эмоциональные оттенки и создают когнитивные искажения. При сложных запросах «галлюцинации» усиливаются, порождая «метасимулякры» – псевдореальности, где алгоритмы формируют мышление.

Алиев подчеркивает, что ИИ не способен выявлять свои ошибки и уверен в своей правоте, даже когда ошибается. Он предостерегает от полного доверия к искусственному интеллекту, особенно в сферах, требующих психологической помощи.

Ученый не исключает возможность создания «чистого» ИИ, свободного от «галлюцинаций», но для этого необходимо глубокое понимание природы этих «расстройств». Он призывает с осторожностью относиться к ИИ, помня о его «болезни» и перепроверяя информацию.

Читайте также: «Люди свели ИИ с ума! Ипохондрик вместо Терминатора: у нейросетей обнаружили бред, тревогу и СДВГ»

Автор: Наталья Никифорова