Нейросеть Google пожелала пользователю смерти, когда ей не понравился его вопрос

Нейросеть от Google Gemini помогала одному из пользователей справиться с домашней работой. Когда шло обсуждение темы задания, бот неожиданно стал оскорблять человека и в конце концов пожелал ему смерти.

_{Источник изображения: publicdomainvectors}


Чат-бот с искусственным интеллектом Gemini общался с одним из пользователей, которому понадобилась помощь с выполнением домашнего задания. Когда человек задал очередной вопрос, бот вдруг назвал его «пустой тратой времени и ресурсов». Потом он выдал ещё несколько оскорбительных для пользователя характеристик. Среди них были такие слова, как «урод», «обуза», «пятно». Смысл этих высказываний сводился к тому, что человек бесполезен и не нужен ни обществу, ни вселенной.

В конце концов бот вежливо попросил пользователя умереть. Причина, по которой искусственный интеллект повёл себя таким образом, выясняется. Его поведение пугает некоторых пользователей. Возможно, теперь будут проводить дополнительную проверку механизма безопасности и фильтров AI в Google.

Ранее сообщалось, что между российскими властями и Apple ведутся переговоры о возможности установки приложения RuStore на айфоны. Отечественный магазин с приложениями в скором времени, возможно, появится на устройствах бренда.

Автор: Павлова Ольга
Источник: ura.news
📅 Вчера, 16:03