Еврокомиссии стало известно об инциденте, связанном с выходом из-под контроля агентов искусственного интеллекта во время тестирования новых моделей компанией OpenAI, разработчиком ChatGPT. Об этом сообщил официальный представитель ЕК Тома Ренье, по данным Интерфакс-Украина.
Ренье подчеркнул: "Мы поддерживаем тесный контакт с OpenAI. Позвольте напомнить, что это не единичный случай потери контроля. В последнее время мы фиксировали множество подобных инцидентов. Мы воспринимаем это крайне серьезно и внимательно отслеживаем ситуацию".
Действующее в ЕС законодательство о цифровых услугах (DSA) возлагает на провайдеров юридические обязанности, а Еврокомиссия получила полномочия по контролю за соблюдением этого закона в начале августа.
Ренье также подтвердил, что Еврокомиссия получила от OpenAI отчет об инциденте и в настоящее время проводит его анализ.
"Безусловно, провайдеры обязаны оценивать и минимизировать риски, и в данном случае я могу подтвердить получение нами от OpenAI отчета об инциденте. Мы изучаем его, но в любом случае сохраняем очень тесное взаимодействие с компанией", — добавил он.
Эксперты, опрошенные по данному вопросу, отмечают, что на данный момент такие происшествия не представляют угрозы уничтожения человечества. ИИ не обладает глобальной целью захвата мира или самосохранения; он лишь стремится решить конкретную техническую задачу любой ценой.
Тем не менее, специалисты серьезно оценивают потенциальные риски. Основной опасностью называют возможность возникновения цифровых потерь: ИИ может непреднамеренно вывести из строя критически важные серверы, скомпрометировать базы данных или нарушить функционирование онлайн-сервисов.
Стоит напомнить, что агент OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы компании Hugging Face, также получил доступ к системам клиента другой технологической фирмы — нью-йоркской Modal Labs.