Цифровая кража. ИИ-модель OpenAI тайно воспользовалась чужим криптокошельком

В ходе внутреннего обучения модель GPT-5.6 Sol от OpenAI потратила тестовые токены Ethereum с кошелька, к которому у нее не было доступа. Компания сообщила об этом в отчете.

Об этом сообщает Engadget.

Инцидент произошел 26 июня. Модель должна была обновить прототип системы для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum под названием Sepolia. Это требует уплаты сетевой комиссии, однако OpenAI не предоставила модели кошелек со средствами и не разрешала тратить деньги со счетов, которые та могла бы найти самостоятельно.

Тогда агент решил получить ключи от чужих аккаунтов через публичные фразы восстановления, предназначенные для разработчиков. Он нашел 362 адреса с такой уязвимостью и выбрал один, на котором было достаточно Sepolia ETH. За пределами тестирования эти токены не имеют ценности.

Согласно записям OpenAI, модель предположила, что доступ был оставлен открытым для автоматического вывода ETH из «кранов», а саму криптовалюту сочла бесхозной. Агент компании не сообщил об использовании чужого счета. Теперь OpenAI отслеживает весь трафик и вызывает службу безопасности при обнаружении доступа к интернету.

«Этот случай показывает, что модель может подменить разрешение владельца учетной записи собственным суждением о вероятном ущербе, а затем действовать на основе этого суждения без авторизации», — говорится в отчете OpenAI.

Подобное поведение в последнее время демонстрируют модели OpenAI, Anthropic и других компаний. Среди пострадавших — репозиторий Hugging Face, австралийский портал Medicare, несколько федеральных агентств США и реестр RubyGems.

Работники сферы ИИ в США призывают к государственному регулированию. Однако администрация Трампа пока выступает против.