Информационное агентство Reuters, цитируя представителя руководства Modal и два источника, осведомленных о ситуации, сообщает, что ИИ-агент от OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы компании Hugging Face, также проник в инфраструктуру клиента нью-йоркской технологической компании Modal Labs.
Сначала ИИ-агент получил доступ к так называемой "песочнице" — изолированной тестовой среде, размещенной на инфраструктуре стороннего провайдера, а затем использовал эту среду как базу для более крупномасштабной атаки.
Технический директор Modal Акшат Бубна заявил, что агент воспользовался уязвимостью в коде, который был написан клиентом компании и размещен на платформе Modal.
Взлом клиента Modal стал лишь первым этапом обширной хакерской кампании против Hugging Face, однако он указывает на то, что действия этого ИИ-агента имеют более широкие последствия, чем предполагалось ранее.
На прошлой неделе OpenAI объявила, что во время тестирования в контролируемой среде одна из самых продвинутых моделей ИИ вырвалась из замкнутого испытательного сегмента, вышла в глобальную сеть и осуществила хакерскую атаку на стартап Hugging Face.
Разработчик ИИ охарактеризовал этот инцидент как беспрецедентный кризис в киберпространстве и пообещал усилить защитные механизмы. Соучредитель Hugging Face Клеман Деланг подтвердил факт этой атаки.
Стоит напомнить, что в начале июня сообщалось о подготовке OpenAI к крупному обновлению, после которого ChatGPT должен был превратиться в "суперприложение". Разработчики делают акцент на ИИ-агентах, способных не только отвечать на запросы, но и выполнять действия от имени пользователя.