Yapay zeka, bilgi sınırlarını tanımayı öğreniyor

Güney Koreli araştırmacılar, yapay zeka sistemlerinin yanlış veya uydurma bilgi üretmeye başvurmak yerine, bilmediklerini kabul etmelerini sağlayan yeni bir yöntem geliştirdi. Bu adım, hızla yaygınlaşan bu teknolojinin güvenilirlik standartlarını yeniden tanımlayabilir.

Tekniğin temel fikri, büyük dil modellerini kendi bilgi sınırlarını tanımaya eğiterek, yetersiz bilgi veya belirsizliği açıkça kabul etmeye ve yanılmış olsa bile emin görünen cevaplar vermek yerine bu durumu itiraf etmeye yönelik olarak tasarlanmıştır. Bu durum teknik çevreler tarafından "halüsinasyon" olarak bilinir.

Bu gelişme, hassas sektörlerde yapay zeka uygulamalarının güvenliğine ilişkin artan endişeler bağlamında ortaya çıkmaktadır. Araştırmacılar, bu tekniklerin uygulanması için en acil iki alanın sağlık hizmetleri ve otonom araçlar olduğunu düşünmektedir; zira yanlış bilgiler bu alanlarda insanların hayatı ve güvenliği üzerinde ciddi sonuçlar doğurabilir.

Araştırmacılar, bu düzeyde otomatik doğruluk sağlanmasının kullanıcılar ve yapay zeka sistemleri arasında daha derin bir güven oluşturmaya katkı sağlayacağını ve bu sistemlerin gerçek iş ortamlarında daha geniş ve güvenli bir şekilde dağıtılmasının yolunu açacağını göstermektedir.