Глава Anthropic призвал замедлить развитие возможностей моделей ИИ

Генеральный директор американской компании Anthropic Дарио Амодеи призвал замедлить темпы наращивания возможностей моделей искусственного интеллекта, чтобы меры безопасности успевали за развитием технологии.

«Мы должны замедлить темпы, с которыми совершенствуем возможности моделей ИИ», — говорится в статье, опубликованной на сайте предпринимателя.

При этом он подчеркнул, что речь не идёт об остановке обучения моделей или технического прогресса. По мнению Амодеи, компаниям необходимо выделять достаточно времени на обеспечение безопасности и согласование поведения моделей с заданными принципами, а независимым экспертам — на проверку этих мер.

Необходимость такого подхода глава Anthropic объяснил, в частности, резким ускорением развития ИИ примерно с этого лета. По его словам, одним из основных факторов стала растущая способность искусственного интеллекта участвовать в создании следующего поколения ИИ. Амодеи предупредил, что без должного контроля этот процесс может опередить способность людей понимать и контролировать такие системы.

Ранее американский бизнесмен Билл Гейтс заявил, что искусственный интеллект развивается быстрее, чем власти и общество успевают подготовиться к последствиям этого.