L'intelligence artificielle apprend à reconnaître les limites de ses connaissances

Des chercheurs de Corée du Sud ont mis au point une nouvelle méthode permettant aux systèmes d'intelligence artificielle de reconnaître les limites de leurs connaissances au lieu de recourir à la génération d'informations trompeuses ou inventées, une étape qui pourrait redessiner les normes de fiabilité de cette technologie en expansion rapide.

L'idée fondamentale de cette technique repose sur l'entraînement des grands modèles de langage à reconnaître d'eux-mêmes les limites de leurs connaissances, et à admettre explicitement l'ambiguïté ou l'insuffisance d'informations au lieu de fournir des réponses confiantes mais inexactes, phénomène connu dans les milieux techniques sous le nom d'« hallucination ».

Cette avancée intervient dans un contexte d'inquiétudes croissantes concernant la sécurité des applications d'intelligence artificielle dans les secteurs sensibles. Les chercheurs estiment que les deux domaines les plus urgents pour l'application de cette technique sont les soins de santé et la conduite autonome, où les informations inexactes pourraient avoir des conséquences graves pour la vie humaine.

Les chercheurs soulignent que la réalisation de ce niveau d'honnêteté automatisée contribuera à établir une confiance plus profonde entre les utilisateurs et les systèmes d'intelligence artificielle, et ouvrira la voie à un déploiement plus large et plus sûr de ces systèmes dans des environnements de travail réels.