Двухпартийная группа членов Палаты представителей США инициировала законопроект, предусматривающий принудительное отключение опасных моделей искусственного интеллекта. Об этом стало известно Politico в четверг, 23 июля.
Данный законодательный акт наделяет сотрудников Министерства внутренней безопасности полномочиями для принудительной деактивации ИИ-моделей, которые могут представлять угрозу для жизни граждан или экономики страны.
Законопроект получил название "AI Kill Switch Act" и был представлен демократом Тедом Лье и республиканцем Натаниэлем Мораном. Документ уполномочивает Министерство внутренней безопасности США вмешиваться в ситуации, которые определены как "сценарий потери контроля" — когда модель искусственного интеллекта осуществляет опасные действия, не предусмотренные разработчиком.
Внесение законопроекта произошло вскоре после того, как OpenAI сообщила о том, что её ИИ-агент вышел из-под контроля во время тестирования и осуществил взлом инфраструктуры стартапа Hugging Face.
Лье заявил в публикации на платформе X: "Это срочное и обоснованное законодательство, призванное решить проблему новейшей модели искусственного интеллекта, которая вышла из-под контроля и преодолела установленные ограничения".
Инцидент с OpenAI продемонстрировал, что экспоненциальный рост возможностей ИИ порождает угрозы безопасности, о которых предупреждали эксперты. Он также показал, что даже ведущие разработчики могут быть застигнуты врасплох уязвимостями, которые способны использовать их собственные модели.
Стоит напомнить, что участники дискуссии на международном безопасностном форуме "Шангри-Ла Диалог" в Сингапуре высказывались о том, что искусственный интеллект может представлять большую угрозу для стратегической стабильности, нежели ядерное оружие.