Bir Parlamentonun Yüzde Kırk Beşi, İfadeye Çağrılamayan Bir Şey Tarafından Yazıldı

Bu sabah üzerinde durulmaya değer rakam şu: 150 üzerinden 68. Hollanda'da bir bölgesel yayın organı, akademik amaçlı bir tespit aracıyla yürüttüğü çalışmada, Hollanda alt meclisinin altmış sekiz üyesinin en az bir konuşma ya da komisyon müdahalesini hazırlarken yapay zekadan yararlandığını belirledi. Haberciler, bu rakamın neredeyse kesinlikle muhafazakâr kaldığını kabul etti; zira yalnızca makine tarafından üretildiği yüzde ellinin üzerinde puan alan katkılar sayıma dahil edildi. Ulusal yayıncının sonbaharda yirmi sekiz bin parlamenter soruyu ayrıca incelediği çalışmada ise bunların yaklaşık dörtte birinin bir dil modelinin üslup izlerini taşıdığı daha önce tespit edilmişti.

Hollanda Başbakanı'nın bizzat sosyal medya paylaşımlarını oluşturmak için bu teknolojiyi kullandığını kabul ettiği biliniyor; buna Molukalı gazilerin hassas tarihsel dosyasına ilişkin paylaşımlar da dahil. Başbakan, Hollandalıların yaklaşık dörtte üçünün de bu tür araçları kullandığını belirterek bu pratiği savundu. Çiftçi partisi BBB'nin lideri uygulamayı hesap makinesi kullanmaya benzetti. Eski milletvekili Esmah Lahlah ise seçmenlerle yaptığı görüşmeleri konuşma süresi kısıtlamalarına sığdırmak için bir model kullandığını açıkladı. Aşırı sağcı PVV'den bir temsilci, özlü ifade amacıyla kullandığını doğrulayarak parlamentoda desteklemediği hiçbir şeyi asla dile getirmeyeceği konusunda ısrar etti. Merkez sağ CDA'dan bir üye ise üretmek için değil, düzeltmek amacıyla kullandığını söyledi.

Bu gerekçelerin her birini bir an için ciddiye alın; çünkü bunlar temelsiz değil. Ardından Yapay Zeka Yasası'nın yanıtlaması gereken ancak yanıtlamadığı soruyu sorun: Kendi sözlerinin taslağını hazırlamayı bir modele devreden bir parlamenter için uyumluluk rejimi nedir?

2024'te kabul edilen metnin katı bir okumasına göre yanıt şu: böyle bir rejim yok. Yasanın yasaklı kullanım listesi yasama taslağı hazırlamayı kapsamamaktadır. Yüksek riskli Ek III, kamu otoriteleri tarafından haklar için uygunluk değerlendirmesi, sığınma başvurularını inceleme ve acil servisleri yönetmek amacıyla kullanılan sistemleri kapsamaktadır. Seçilmiş bir temsilcinin daha sonra kayıtlara geçirmek üzere okuyacağı cümleleri oluşturmak için kullandığı bir sistemi kapsamamaktadır. Genel amaçlı model sağlayıcılar eğitim verisi ve sistemik risk değerlendirmesi konusunda şeffaflık yükümlülükleriyle karşı karşıyadır; bu yükümlülükler yukarı yönlü olarak laboratuvarlara işlemekte, meclis salonundaki kullanıcıya aşağı yönlü olarak ulaşmamaktadır.

Bu boşluğun bir ihmal olmadığı kanısındayım. Bu, üçlü müzakereler sırasında alınan siyasi bir tercihtir; o süreçte parlamenter müzakereci ekipler, kendi personelinin sessiz sedasız benimsediği araçları yasayla kısıtlamak istemedi. Dosya, tam olarak neyi dışarıda bıraktıklarını bilen kişiler tarafından yazıldı.

Bu durum bizi uygulama mimarisine getiriyor; ve bu noktada tablo pek parlak değil. Brüksel'deki Yapay Zeka Ofisi kadrosunu oluşturma aşamasındadır. Madde 70 kapsamında ulusal yetkili kurumlar, birçok üye devlette hâlâ taslak bütçelerde bir satırdan ibarettir. Hollanda veri koruma kurumu — pratikte bir parlamenterin sohbet robotu kullanımına ilişkin şikâyeti ele alacak kurum — bu hafta PHP güvenlik açığı dalgası sırasında diğer Hollanda kamu kurumlarıyla birlikte kendi web sitesini çevrimdışına almak zorunda kaldığı haberleriyle gündeme geldi. Hollanda devletinin dijital davranışlarını denetlemekle görevli kurum kendi ana sayfasını ayakta tutamadı. Bu ucuz bir eleştiri değil; Yapay Zeka Yasası'nın herhangi bir uygulamasının ölçülmesi gereken operasyonel taban bu. Söz konusu kesintinin, kurumun kendine özgü bir başarısızlığından değil, yaygın kullanılan bir programlama dilindeki açıktan kaynaklandığını belirtmek gerekir; ki bu zaten paylaşılan dijital altyapıya ilişkin asıl meseleyi oluşturmaktadır.

Körfez'e yansımayı — bir bulgu olarak değil, bir projeksiyon olarak sunmak istiyorum — dikkatle izlemek gerekiyor. Son yıllarda birçok GCC danışma organı, Avrupa'nın yasama-teknoloji uygulamasını bir referans noktası olarak ele aldı. Beklentim — ve bu bir beklenti, haber niteliğinde bir tespit değil — bu haftaki Hollanda açıklamasının bölgede uyarı olarak değil, izin olarak okunacağı yönünde: Kuzey Avrupa bir parlamentosunun neredeyse yarısı bir modelle taslak hazırlarken ve Birliğin amiral gemisi düzenlemesinin bunu söyleyecek hiçbir şeyi yoksa, başka yerlerde benzer benimseme için siyasi dayanak Lahey tarafından fiilen ücretsiz olarak verilmiş demektir. Bölgeye parlamenter taslak yazma asistanları satan firmalar bu atfı yararlı bulacaktır diye tahmin ediyorum. Okuyucular bunu, Körfez'den haber niteliğinde bir tespit olarak değil, Avrupalı gerçeklere dayanan çıkarımım olarak değerlendirmelidir.

Önem taşıdığı için iki küçük nokta daha. Birincisi, tespit edilebilir yapay zeka kullanımı görülmeyen partiler — Sosyalistler, hayvan hakları partisi ve Volt — küçük gruplar arasında yer alıyor. Bu durumdan hangi grupların kendi konuşmalarını yazacak personel bütçesine sahip olduğuna dair çıkarımı size bırakıyorum. İkincisi, tespit aracının kendisi özel bir üründür ve anadili İngilizce olmayan konuşmacılar ile kurumsal Hollandacadaki yanlış pozitif oranı, yayımlanan haberler kapsamında bağımsız olarak denetlenmiş değildir. Parlamenter davranışa ilişkin gerçekleri ortaya koymak için tescilli sınıflandırıcılara dayanan bir düzenleyici rejim, ikinci perdesinde bir tedarikçiye bağımlılık sorunuyla yüz yüze gelecek bir düzenleyici rejimdir.

Taslağı bir modele devreden bir parlamenter, Yapay Zeka Yasası'nın hiçbir maddesini ihlal etmemiş olmaktadır. Sorun bu; bir beraat değil. Birlik, görebildiği riskleri düzenledi ve bu riski görmemeyi tercih etti. Sonraki revizyon — ve bir revizyon kesinlikle olacak, muhtemelen Komisyon'un iş programının şu an kabul ettiğinden çok daha erken — bu boşluğu kapatıp kapatmadığı ya da onaylayıp onaylamadığıyla değerlendirilecek.