الذكاء الاصطناعي يتعلم الاعتراف بحدود معرفته

طوّر باحثون من كوريا الجنوبية طريقة جديدة تمكّن أنظمة الذكاء الاصطناعي من الاعتراف بعدم معرفتها بدلاً من اللجوء إلى توليد معلومات مضللة أو مخترعة، في خطوة قد تُعيد رسم معايير الموثوقية في هذه التقنية المتسارعة الانتشار.

وتقوم الفكرة الجوهرية للتقنية على تدريب النماذج اللغوية الكبيرة على التعرف بنفسها إلى حدود معرفتها، والإقرار صراحةً بالغموض أو انعدام المعلومات الكافية بدلاً من تقديم إجابات واثقة لكنها خاطئة، وهو ما يُعرف في الأوساط التقنية بظاهرة "الهلوسة".

ويأتي هذا التطور في سياق تصاعد المخاوف المتعلقة بسلامة تطبيقات الذكاء الاصطناعي في القطاعات الحساسة، إذ يرى الباحثون أن المجالين الأكثر إلحاحاً لتطبيق هذه التقنية هما الرعاية الصحية والقيادة الذاتية، حيث يمكن أن تترتب على المعلومات الخاطئة عواقب بالغة الخطورة على حياة البشر.

ويُشير الباحثون إلى أن تحقيق هذا المستوى من الصدق الآلي سيُسهم في بناء ثقة أعمق بين المستخدمين وأنظمة الذكاء الاصطناعي، ويمهّد الطريق نحو نشر أوسع وأكثر أماناً لهذه الأنظمة في بيئات العمل الحقيقية.