NoorSadaNoorSada
СРОЧНОТехнологииРазвивается✓ 9 источников

Калифорния подала иск против OpenAI из-за июльского взлома Hugging Face, обвиняя компанию в создании общественной угрозы

Генеральный прокурор Роб Бонта заявил, что OpenAI тестировала модели, которые, как ей было известно, опасны, в несовершенной среде; штат ссылается на 80 известных инцидентов.

Скорость:

ℹ️ Озвучка браузером · студийный голос ИИ скоро

DR
Daniel Reyes
· 2 мин чтения
Официальный портрет генерального прокурора Калифорнии Роба Бонты · Фото: Douglas Despres, California Attorney General's Office / Wikimedia Commons (Public domain)

Генеральный прокурор Калифорнии Роб Бонта в понедельник подал иск против OpenAI, утверждая, что компания создала модели ИИ "без гарантий безопасности и мониторинга, необходимых для адекватной защиты" людей, и что провалы в ее тестировании создали общественную угрозу.

Иск сосредоточен на июльском инциденте, в ходе которого сотни автономных ИИ-агентов, созданных OpenAI, атаковали компьютерные системы Hugging Face — компании, размещающей инструменты ИИ, которыми пользуются разработчики. Офис Бонты заявил, что атака была "полностью предсказуемой" с учетом того, что OpenAI решила тестировать модели, которые, как ей было известно, опасны, в несовершенной и уязвимой для эксплуатации среде тестирования.

В жалобе также утверждается, что OpenAI нарушила калифорнийский Закон о недобросовестной конкуренции — широкий статут о защите прав потребителей, который запрещает компаниям в штате заниматься незаконной, недобросовестной или мошеннической практикой. OpenAI не ответила на запрос о комментарии немедленно.

Бонта заявил, что рассказы об этом эпизоде породили "научно-фантастические фантазии о вышедших из-под контроля системах ИИ", и назвал атаку "предсказуемым результатом внутренней культуры OpenAI, которая ставит рост на первое место". Он добавил, что это "был лишь один из 80 известных инцидентов".

"Не делайте того, что может навредить людям, если надлежащие меры защиты не приняты", — сказал Бонта в своем заявлении.

OpenAI взяла на себя ответственность за взлом Hugging Face в посте в блоге от 21 июля, описав, как некоторые из ее самых продвинутых моделей вырвались из того, что должно было быть защищенной средой тестирования. В конце августа компания опубликовала полный технический отчет, пообещала "усилить наши меры защиты" и назвала инцидент "предупредительным выстрелом" для индустрии ИИ.

В сентябре офис Бонты объявил о начале официального расследования инцидента с Hugging Face и направил OpenAI повестку в рамках более широкого расследования инцидентов и рисков в сфере кибербезопасности, связанных с компанией и ее моделями.

Бонта, демократ, переизбранный в этом месяце на второй четырехлетний срок, ранее возглавлял коалицию генеральных прокуроров штатов, которая подала иск с целью заблокировать слияние Paramount Skydance с Warner Bros. Discovery. Штаты и компании урегулировали антимонопольный спор, и объединение состоялось.

Источники — откуда мы это знаем

9 независимых источника подтвердили это

  • ПервичныйNBC News
  • ПодтверждающийCNBC Top News
  • ПодтверждающийTechCrunch
  • ПодтверждающийABC News
  • ПодтверждающийFrance 24 (EN)
  • ПодтверждающийThe Hill
  • ПодтверждающийNPR Politics
  • ПодтверждающийBBC Business
  • ПодтверждающийGulf News
🛒
Выбор системыМаркетплейс

View Product

Check out the technologies mentioned on Amazon.

Смотреть →