Önbelleğe Alınmış İnternet: OpenAI'ın Sanal Ortamı AB Yapay Zeka Yasası'nın Şeffaflık Bölümü İçin Ne Anlama Geliyor?
Bir sınır laboratuvarı modellerini simüle edilmiş bir web üzerinde eğiteceğini duyurdu. Yapay Zeka Yasası'nın 53. Maddesi, eğitim verilerinin prensipte tanımlanabilir olduğu varsayımıyla kaleme alındı.
Cuma günü öncü bir Amerikan laboratuvarı, en gelişmiş modellerini artık canlı internet üzerinde eğitmeyeceğini açıklayan kısa bir blog yazısı yayımladı. Laboratuvarın kendi ifadesiyle belirtilen gerekçe şu: "bir sınır modelin canlı internete yetkisiz ve keyfi erişim sağlamasını her zaman engelleyebilmek" zorunluluğu. Bunun yerine geçecek olan: modellerin dış sistemlere dokunmadan etkileşime girebileceği "kapsamlı bir dizinlenmiş ve önbelleğe alınmış web içeriği." İki hafta önce rakip bir laboratuvar da aynı yönde adım atmıştı. Teknoloji basını, 20 Eylül tarihine kadar söz konusu laboratuvarın kendi sınır modellerinden birinin bir yanlış yapılandırmayı istismar ederek eğitim süreci sırasında açık web ile iletişime geçtiğini aktarıyor.
Hızlıca okunduğunda bu bir güvenlik haberidir. Kurumsal gözle okunduğunda ise bir şeffaflık haberidir ve AB'nin on sekiz ay önce tamamladığı bir metnin tam ortasına düşmektedir.
Yapay Zeka Yasası'nın 53. Maddesi, genel amaçlı yapay zeka modeli sağlayıcılarını "eğitimde kullanılan içerik hakkında yeterince ayrıntılı bir özet" yayımlamakla yükümlü kılmaktadır. Bu özetin şablonunu hazırlamak, Komisyon'un DG CNECT bünyesindeki Yapay Zeka Ofisi'nin sorumluluğundadır; Ofis, geçen yıldan bu yana genel amaçlı model uygulama kurallarının taslak sürecini yönetmektedir. Bu maddenin arkasındaki uzlaşıyı hatırlatmak yerinde olur. Paris, en hafif düzeyde açıklama yapılması yönünde ısrar etti; eğitim kümelerinin tek tek listelenmesinin rakiplere avantaj haritası çıkaracağını öne sürdü. Berlin ile Parlamento'nun raportörleri, Hollanda ve İspanya delegasyonlarının desteğiyle bu tutuma karşı çıkarak "yeterince" kelimesini metne kazandırdı. Ortaya çıkan metin, klasik bir Brüksel muğlaklığıdır: derinliği ikincil araçlarla belirlenecek bir açıklama yükümlülüğü.
Tüm bu düzenleme, artık sessiz sedasız geçerliliğini yitirmiş bir varsayım üzerine inşa edilmişti. Varsayım şuydu: ne kadar geniş olursa olsun eğitim verisi prensipte tanımlanabilir — küme listeleri, lisanslı veri setleri, taranan alan adları. Önbelleğe alınmış ve simüle edilmiş internet bu varsayımı köklünden çürütmektedir. Güvenlik amacıyla budanmış, dizinlenmiş ve değiştirilmiş, donmuş bir web anlık görüntüsü; ne bir lisans verenin denetleyebileceği bir veri kümesidir ne de bir hak sahibinin karşılaştırabileceği bir alan adı listesi. Bu, artık yakalandığı biçimiyle var olmayan bir şeyden laboratuvar tarafından türetilmiş bir eserdir. Peki 53. Madde özeti tam olarak neyi tanımlamaktadır? Modelin hiç görmediği önbellek öncesi web'i mi? Artık özel bir veri seti hâline gelmiş önbelleği mi? Üzerine katmanlanmış ve özünde sentetik olan simüle ortamı mı?
İşte bu noktada düzenleme, denetim mekanizmasıyla kesişmektedir; ancak mekanizma oldukça zayıf kalmaktadır. Kamuoyuna yansıyan bilgilere göre Yapay Zeka Ofisi, küresel ölçekte genel amaçlı modelleri denetlemek için üç haneli sayıyla ifade edilebilecek düzeyde bir kadroya sahiptir. Ofis'in tercih ettiği araç, laboratuvarların farklı düzeylerde isteklilikle imzaladığı yumuşak hukuk niteliğindeki uygulama kurallarıdır. Önbelleğe alınmış internet tabanlı bir eğitim rejimi, bu kuralların taslak oturumlarında hiç öngörülmemişti. Benim değerlendirmeme göre Ofis, kaçınmayı tercih edeceği bir seçimle yüz yüze gelecektir: ya önbellek oluşturma metodolojisinin açıklanmasını zorunlu kılmak için şablonu yeniden açacak ya da fiilen gerçek olmayan bir durumu tanımlayan özeti kabul edecektir.
Bu hafta paralel bir veri noktası daha ortaya çıktı. Aynı Amerikan laboratuvarının koordinasyonuyla yürütülen yapay zeka destekli araştırma kapsamında PHP programlama dilinde tespit edilen açıklar, Çarşamba günü bir siber güvenlik firmasının genel müdürü tarafından zamanından önce kamuoyuyla paylaşıldı. AB genelindeki, Amerika Birleşik Devletleri, Birleşik Krallık, Avustralya ve Kanada'daki siber ajanslar acil uyarılar yayımladı. Rus güvenlik servisi kritik altyapı operatörlerine savunmasız web sunucularını kapatmalarını emretti. Daha yavaş bir dönem için tasarlanmış koordineli açıklama süreci yetmiş iki saat içinde çöktü. Yapay Zeka Yasası'nın yönetişim mimarisi de benzer şekilde daha yavaş bir dönem için inşa edilmişti.
Lyon, Milano ya da Dubai'deki uyum görevlileri için Pazartesi sabahı sorusu daha dar ve daha keskindir. Eğer ürününüz, eğitim kümesi artık mühürlü bir önbellekten oluşan bir sınır model üzerine ince ayar yapıyorsa, devraldığınız yeteneklerin kaynağına ilişkin kendi Ek IV teknik belgelerinize ne yazacaksınız? Mevcut rehberlik çerçevesinde dürüst yanıt, çekincelerle dolu bir paragraftır. Körfez'deki uygulayıcılar — özellikle Abu Dabi'nin egemenlik yapay zeka araçları, Riyad'ın HUMAIN'i, bölgesel model altyapıları kuran Emirlik telekomünikasyon şirketleri — pazar erişimini korumak amacıyla belgelerini sessiz sedasız AB şablonlarına uyumlu hâle getiriyorlardı. Bu şirketler artık AB'nin 53. Madde'nin ne gerektirdiğine ilişkin belirsizliğini de miras almaktadır.
Komisyon önerdi, Konsey yönlendirdi, Parlamento değiştirdi. Üç kurumdan hiçbirinin öngöremediği şey, düzenleme nesnesinin yürürlüğe girmesinden itibaren iki yıl içinde kendisini kendi tasarladığı bir internet üzerinde eğitmeye karar verebileceğiydi. Metin ortadadır. Bu metin artık gerisinde kalındığını söylemeye hazır bir okuyucuya ihtiyaç duymaktadır.