J’avais besoin d’un prompt système pour Yolo, un plugin Obsidian qui permet de discuter avec une IA directement depuis mes notes. L’idée : qu’à chaque conversation, l’IA connaisse déjà mon contexte de travail. Plus besoin de me présenter à chaque fois.
Je demande donc à Claude de me générer ce prompt à partir de tout ce qu’il sait de moi après une semaine de collaboration.
Et là, surprise :
Il m’a inventé un nom de famille.
J’adore mon stagiaire IA. Il veut tellement bien faire qu’il invente des informations plutôt que d’admettre qu’il ne les a pas. C’est ce qu’on appelle une hallucination. Comme ce collègue qui, plutôt que de dire « je ne sais pas », vous sort un chiffre avec assurance.
C’est la leçon numéro un avec l’IA : elle préfère inventer que rester muette. À vous de vérifier. Toujours.
Laisser un commentaire