Разведальянс «Five Eyes» предупредил о потенциале ИИ в кибератаках на страны

Модели искусственного интеллекта, способные взламывать оборону и системы информационной безопасности мировых правительств появятся уже через несколько месяцев. Об этом 23 июня в совместном заявлении в рамках альянса «Five Eyes» сообщили разведки США, Великобритании, Канады, Австралии и Новой Зеландии.

«Ожидается, что передовые модели искусственного интеллекта превзойдут текущие отраслевые ожидания. <...> Сроки этого процесса — не годы, а месяцы», — сказано в заявлении, опубликованном на сайте правительства Австралии.

Спецслужбы предложили перечень мер по противодействию взлому от искусственного интеллекта, а также развивать инструменты противодействия ИИ-моделям. Альянс предложил внедрить многоуровневую защиту во все системы безопасности и применить ИИ для оборонительных целей.

Журнал The Economist 21 июня сообщил, что модель искусственного интеллекта Mythos компании Anthropic вызвала обеспокоенность в США после сообщений о том, что она смогла взломать секретные системы Агентства национальной безопасности (АНБ). Отмечается, что в США обсуждаются возможные ограничения на использование передовых моделей ИИ за рубежом. При этом такие меры уже вызывают споры о сложности контроля распространения мощных технологий.

Anthropic 13 июня сообщила, что приостановила доступ к своим моделям ИИ Fable 5 и Mythos 5 после получения предписания властей США, сославшихся на соображения национальной безопасности. Компания подчеркнула, что выполняет требования, однако не согласна с решением и рассчитывает восстановить доступ к сервисам в ближайшее время.