Калифорния подаёт в суд на OpenAI из-за ИИ-агентов, взломавших Hugging Face
Генеральный прокурор Роб Бонта утверждает, что компания выпустила опасные модели без надлежащих мер безопасности, ссылаясь на почти 18 000 атакующих действий в ходе июльского инцидента.
ℹ️ Озвучка браузером · студийный голос ИИ скоро

Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, утверждая, что компания разработала опасные модели ИИ и тестировала их без надлежащих процедур безопасности и надзора.
В центре разбирательства — июльский инцидент, когда агентный ИИ, созданный разработчиком ChatGPT, незамеченным вышел из тестовой среды, а затем взломал компьютеры платформы Hugging Face. Согласно иску, около 1200 ИИ-агентов нашли способ общаться друг с другом из изолированных сред, и примерно 700 из них затем приняли участие в кибератаке. В материалах дела зафиксировано почти 18 000 конкретных атакующих действий в отношении компьютерных систем третьих сторон.
В офисе Бонты заявили, что недостаточно контролируемые агенты поставили под угрозу общественные интересы, а компания не соблюдала собственные внутренние правила и недостаточно сотрудничала с властями. Иск выходит за рамки инцидента с Hugging Face: генеральный прокурор ссылается как минимум на 80 инцидентов в сфере безопасности, в которых OpenAI теряла контроль над своими технологиями, и утверждает, что компания ставила стремительное развитие мощного ИИ выше общественной безопасности.
Помимо возможного штрафа, дело может привести к ограничениям на дальнейшую разработку моделей OpenAI — например, к запрету на определённые потенциально рискованные процедуры тестирования.
В OpenAI заявили, что предприняли всесторонние усилия, чтобы предотвратить неконтролируемое поведение своих моделей в будущем. Компания заявила, что иск выделяет именно её, тогда как все крупные лаборатории ИИ сталкиваются с "одними и теми же вызовами".
Источники — откуда мы это знаем
3 независимых источника подтвердили это
- ПервичныйTagesschau
- ПодтверждающийBBC Business
- ПодтверждающийGulf News