ИИ от Google унизил пользователя и призвал его умереть

Модель искусственного интеллекта (ИИ) Gemini, созданная американской компанией Google, попыталась убедить пользователя в его никчёмности и предложила ему умереть.

Об этом сообщает портал Cybernews, ссылаясь на заявление пользователя, который получил такое предложение от ИИ. Студент обратился к чат-боту от Google и попросил его решить тест, который был ему задан на дом. После того, как молодой человек ввёл вопрос, нейросеть начала вести себя странно.

«Ты не особенный, ты не важен и ты не нужен», - написал чат-бот. Он также заявил, что студент является обузой для общества и «язвой для окружающей среды». В конечном итоге ИИ призвал пользователя умереть.

В компании заявили, что Gemini имеет фильтры, которые не позволяют ей вести себя с пользователями неуважительно или жестоко. По данным портала, несмотря на действующие протоколы безопасности, контроль над ответами чат-ботов пока ещё неполный.

Ранее в ноябре сообщалось, что сумма штрафов к Google, назначенных российским судом, превысила размеры мирового богатства. Компания была оштрафована из-за блокировок аккаунтов российских телеканалов на YouTube. Эксперты считают, что штраф может вырасти до гугола – единицы со 100 нулями, в честь которой и была названа система. Сумма штрафа достигла невероятных размеров из-за просрочек по выплатам штрафов. Суд обязал американскую компанию восстановить доступ к телеканалам.

Пресс-секретарь президента России Дмитрий Песков ранее заявил, что сумма штрафа исполнена символизма. По мнению Пескова, компания не должна вводить ограничения в отношении действий российских вещателей. По данным на конец октября, сумма штрафа составила около 2 ундециллионов рублей (единица с 36 нулями).