Communauté IA | Hallucinations : le talon d'Achille de l'IA Générative ?

À l’heure où l’IA générative s’installe dans les pratiques marketing et communication, la question n’est plus de savoir si elle hallucine, mais comment maîtriser ce risque. En croisant les enseignements du secteur juridique, où l’exigence de fiabilité est critique, les retours d’expérience de Lexifica sur les dispositifs de sécurisation (RAG, human-in-the-loop, monitoring) et les bonnes pratiques à adopter par les équipes marketing, cette session apportera des repères concrets pour renforcer la confiance dans les usages de l’IA. Une occasion de comprendre les responsabilités de chacun, d’identifier les points de vigilance et de transformer un risque technologique en levier de professionnalisation et de discernement. 

Hallucinations de l’IA : ce que les marques peuvent apprendre de cas d’usage juridiques  

Le secteur juridique a été l’un des premiers à éprouver l’IA générative dans des conditions où l’erreur n’est pas un simple défaut de performance : exactitude des affirmations, confidentialité des données, responsabilité des décisions, traçabilité des sources.

Pour les équipes marketing et communication, le contexte est différent, mais les enjeux sont souvent les mêmes : que peut-on demander à l’IA sans risque excessif, quels résultats doivent être vérifiés, quelles sources faut-il pouvoir documenter, et à quel moment l’humain doit reprendre la main ? À partir de cas d’usage juridiques, l’intervention proposera une méthode concrète pour penser les hallucinations non comme une anomalie marginale, mais comme un risque opérationnel à encadrer - avec des conséquences directes sur la fiabilité des messages, la cohérence des prises de parole et la responsabilité de la marque. 

Interventions de Damien Charlotin, Senior research fellow, HEC Paris

Notre responsabilité en tant qu'équipe marketing vis-à-vis des hallucinations de l'IA 

Adopter les bons gestes, limiter les risques 
Intervention de Andrea Kocsis, consultante chez Impact Transition

L'IA de confiance : Maîtriser le risque d'hallucination par le design et l'esprit critique 

À travers les succès opérationnels de Lexifica et de l'Audit, nous décrypterons comment sécuriser l'IA générative en combinant ancrage technique (RAG), monitoring de la « pollution » et mécanismes de « Human-in-the-loop ». Cette intervention démontrera comment transformer un risque technologique en un levier managérial pour renforcer le discernement et la posture de contrôle des collaborateurs. 

Intervention de Marc-Antoine Hennel, Head of Digital, Data , AI and Innovation Transformation chez Crédit Agricole