L’intelligence artificielle n’a peut-être pas besoin d’être plus intelligente. Elle doit apprendre à se vérifier.

Ce soir, j’ai voulu publier une petite citation sur ma page Facebook.

« Reste fidèle à toi-même. Ne dis pas quelque chose que tu ne penses pas. »

J’ai demandé à ChatGPT de créer une image pour accompagner cette citation. Après quelques discussions, nous sommes arrivés à une idée qui me plaisait : un homme et une femme dans la quarantaine, assis dans un bar, deux personnes imparfaites mais charmantes, qui semblent simplement bien ensemble.

L’image était belle. L’ambiance était bonne. Les personnages étaient crédibles. Le texte était là.

Je l’ai publiée.

Puis j’ai remarqué quelque chose.

Le gars avait trois bras.

Et ça m’a fait rire. Beaucoup.

Mais ça m’a aussi fait réfléchir à quelque chose qui me dérange depuis longtemps avec l’intelligence artificielle.

---

On veut toujours une IA plus intelligente

Chaque nouvelle génération de modèles nous promet plus.

Plus intelligente. Plus rapide. Plus autonome. Meilleure en programmation. Meilleure en raisonnement. Meilleure avec les images. Meilleure avec la vidéo. Capable de gérer des contextes toujours plus grands et d’accomplir des tâches toujours plus complexes.

Et tout ça est impressionnant.

Mais il y a une question beaucoup plus simple que j’aimerais qu’on pose plus souvent :

Est-ce que l’intelligence artificielle a vérifié ce qu’elle vient de faire ?

Parce que dans mon exemple, il ne fallait pas une intelligence extraordinaire pour constater le problème.

Il fallait compter jusqu’à trois.

L’IA était suffisamment performante pour générer deux humains réalistes dans un bar, comprendre l’ambiance que je recherchais, composer une image intéressante et y intégrer une citation en français.

Mais elle n’a pas fait la dernière étape.

Elle n’a pas regardé son propre travail en se demandant :

« Est-ce que ce que je viens de produire a du sens ? »

---

Générer n’est pas terminer

Je pense qu’on confond encore beaucoup ces deux choses.

Lorsqu’une IA produit une réponse, une image, du code ou un document, on considère trop facilement que la tâche est terminée.

Pourtant, dans pratiquement tous les métiers, produire quelque chose n’est qu’une partie du travail.

Quand on usine une pièce, on la mesure.

Quand on programme un logiciel, on le teste.

Quand on écrit un texte, on le relit.

Quand on fait un montage, on le regarde.

Et lorsqu’on génère un être humain, idéalement, on vérifie qu’il n’a pas trois bras.

Le principe est exactement le même :

Créer → vérifier → corriger → vérifier de nouveau → livrer.

Pour moi, c’est peut-être l’une des étapes les plus importantes qui manque encore aux systèmes d’intelligence artificielle actuels.

---

Le meilleur modèle ou le modèle le plus fiable ?

Je me demande parfois si nous ne sommes pas trop obsédés par la création du prochain « meilleur modèle ».

Bien sûr que je veux voir l’intelligence artificielle progresser. Je trouve cette technologie fascinante et je veux voir jusqu’où elle pourra aller.

Mais à quoi sert un modèle extraordinairement intelligent s’il est incapable de regarder derrière lui ?

Imaginez un employé extrêmement talentueux.

Il travaille dix fois plus rapidement que tout le monde. Il comprend presque instantanément ce qu’on lui demande. Il peut accomplir des tâches que très peu de personnes savent réaliser.

Il y a seulement un problème.

Il ne vérifie jamais son travail.

Il termine quelque chose, le dépose sur votre bureau et passe immédiatement à autre chose.

À la longue, est-ce vraiment l’employé dont vous avez besoin ?

Je ne suis pas certain.

J’aimerais parfois voir moins d’efforts consacrés uniquement à rendre les modèles encore plus impressionnants et davantage d’efforts consacrés à les rendre disciplinés.

Pas simplement capables de trouver une réponse.

Capables de se demander si cette réponse est bonne.

---

L’intelligence sans discipline

C’est peut-être ça, finalement, qui me frappe le plus.

Nous cherchons énormément à augmenter l’intelligence des modèles, alors qu’une partie du problème n’est peut-être déjà plus leur intelligence.

C’est leur discipline.

Une IA peut écrire des milliers de lignes de code. Très bien.

Maintenant, teste-les.

Elle peut générer une image magnifique. Excellent.

Maintenant, regarde-la.

Elle peut rédiger un document de cinquante pages. Impressionnant.

Maintenant, relis-le.

Elle peut construire quelque chose en quelques secondes qu’un humain aurait mis plusieurs heures à réaliser.

Parfait.

Maintenant, vérifie ton travail.

Et s’il y a une erreur, recommence avant de me le présenter.

---

Peut-être que le prochain grand progrès est moins spectaculaire

On parle énormément d’agents autonomes et de modèles capables de raisonner toujours plus longtemps.

Mais j’aimerais voir apparaître quelque chose de beaucoup moins spectaculaire sur une fiche technique et pourtant extrêmement important dans la vraie vie : une culture du contrôle qualité intégrée directement à l’intelligence artificielle.

Une IA qui ne cherche pas seulement à répondre à ma demande, mais qui considère que sa tâche n’est pas terminée tant qu’elle n’a pas inspecté le résultat.

Une IA qui peut dire :

« Attends une seconde. J’ai fait quelque chose de bizarre ici. Je vais le corriger avant de te le montrer. »

Ça paraît presque banal.

Pourtant, pour moi, ce serait un progrès énorme.

Parce que plus nous allons confier de responsabilités aux intelligences artificielles, moins nous pourrons nous permettre de considérer la génération comme une fin en soi.

Nous aurons besoin de modèles qui savent créer.

Mais également de modèles qui savent douter de ce qu’ils viennent de créer.

Alors oui, continuons à construire des intelligences artificielles plus puissantes.

Mais avant de courir constamment vers le prochain modèle révolutionnaire, peut-être pourrions-nous apprendre à ceux que nous avons déjà une habitude extrêmement humaine :

regarder leur travail une deuxième fois avant de dire qu’ils ont terminé.

Ça nous éviterait peut-être, entre autres choses, quelques gars à trois bras.