Kaf' Konf' : Les limites des LLMs : Pourquoi l'esprit critique est nécessaire à l'ère de l'IA générative ?

Cette présentation souligne l’importance de l’esprit critique face à l’IA générative.

Nous examinerons les limites des LLMs dans la recherche d’information scientifique, la recherche de conseils, notamment juridiques, ainsi que leur tendance à renforcer les présupposés des utilisateurs et certains biais de confirmation. 

Nous aborderons également les difficultés à détecter les erreurs, à évaluer la fiabilité des sources et à formuler efficacement des requêtes (« prompting »), ainsi que les limites épistémologiques de ces systèmes.

Dans le contexte des usages personnels, nous évoquerons enfin les risques liés à la complaisance sociale (sycophancy), qui peut conduire les LLMs à valider excessivement les croyances ou attentes de leurs utilisateurs.

Pour conclure, nous présenterons des approches favorisant des interactions plus critiques avec les LLMs ainsi que la plateforme IILAP, conçue pour soutenir l’enseignement et l’évaluation de l’esprit critique dans les interactions avec l’IA.