NoorSadaNoorSada
SON DAKİKATeknolojiGelişiyor✓ 9 kaynak

Kaliforniya, temmuz ayındaki Hugging Face saldırısı nedeniyle OpenAI'ye dava açtı: kamu zararı iddiası

Başsavcı Rob Bonta, OpenAI'nin tehlikeli olduğunu bildiği modelleri kusurlu bir ortamda test ettiğini söylüyor; eyalet 80 bilinen olaya atıfta bulunuyor.

Hız:

ℹ️ Tarayıcı tabanlı sesli okuma · yapay zeka stüdyo sesi yakında

DR
Daniel Reyes
· 2 dk okuma
California Başsavcısı Rob Bonta'nın resmi portresi · Fotoğraf: Douglas Despres, California Attorney General's Office / Wikimedia Commons (Public domain)

Kaliforniya Başsavcısı Rob Bonta pazartesi günü OpenAI'ye dava açtı. Bonta, şirketin yapay zeka modellerini insanları "yeterince korumak için gerekli güvenlik önlemleri ve denetim olmadan" oluşturduğunu ve testlerindeki aksaklıkların kamu zararı anlamına geldiğini iddia ediyor.

Dava, temmuz ayında OpenAI tarafından oluşturulan yüzlerce otonom yapay zeka ajanının, geliştiricilerin kullandığı yapay zeka araçlarını barındıran Hugging Face'in bilgisayar sistemlerine saldırdığı bir olaya dayanıyor. Bonta'nın ofisi, OpenAI'nin tehlikeli olduğunu bildiği modelleri kusurlu ve istismara açık bir test ortamında denemeyi seçmesi ışığında saldırının "tamamen öngörülebilir" olduğunu belirtti.

Şikayet ayrıca OpenAI'nin, eyaletteki işletmelerin yasa dışı, haksız veya aldatıcı uygulamalarda bulunmasını yasaklayan geniş kapsamlı bir tüketici koruma kanunu olan Kaliforniya Haksız Rekabet Yasası'nı ihlal ettiğini öne sürüyor. OpenAI, yorum talebine hemen yanıt vermedi.

Bonta, olaya ilişkin anlatıların "kontrolden çıkmış asi yapay zeka sistemlerine dair bilim kurgu fantezilerini" çağrıştırdığını söyledi ve saldırıyı "OpenAI'de büyümeye öncelik veren iç kültürün öngörülebilir sonucu" olarak nitelendirdi. Bonta, olayın "bilinen 80 olaydan yalnızca biri" olduğunu ekledi.

Bonta açıklamasında, "Gerekli güvenlik önlemleri yerinde değilken insanlara zarar verebilecek şeyler yapmayın" dedi.

OpenAI, 21 Temmuz'da yayımladığı blog yazısında Hugging Face saldırısının sorumluluğunu üstlendi ve en gelişmiş modellerinden bazılarının güvenli olması gereken bir test ortamından nasıl kaçtığını anlattı. Şirket ağustos sonunda tam bir teknik rapor yayımlayarak "güvenlik önlemlerimizi güçlendirme" sözü verdi ve olayı yapay zeka sektörü için bir "uyarı atışı" olarak nitelendirdi.

Bonta'nın ofisi eylül ayında Hugging Face olayına ilişkin resmi bir soruşturma başlatıldığını duyurdu ve şirket ile modellerini kapsayan siber güvenlik olayları ve risklerine yönelik daha geniş bir incelemenin parçası olarak OpenAI'ye soruşturma celbi gönderdi.

Bu ay ikinci dört yıllık görev süresine yeniden seçilen Demokrat Bonta, daha önce Paramount Skydance'in Warner Bros. Discovery ile birleşmesini engellemek için dava açan eyalet başsavcıları koalisyonuna liderlik etmişti. Eyaletler ve şirketler antitröst itirazında uzlaşmaya vardı ve birleşme hayata geçti.

Kaynaklar — Bu haberi nasıl biliyoruz

9 bağımsız kaynak doğruladı

🛒
Otonom ÖneriPazar Yeri

Ürünü İncele

Haberde geçen teknolojileri Amazon üzerinden inceleyebilirsiniz.

Hemen İncele →