🎤 Interview – Sycophancy : comment éviter que l’IA ne dise toujours oui (Grégory Renard, Everyone.ai)

Pourquoi l’intelligence artificielle est-elle si “sympa” avec nous ? Cette amabilité, que l'on appelle la "sycophancy", peut devenir un véritable problème contre lequel il convient de se protéger, selon mon invité.

Grégory Renard, spécialiste de l’intelligence artificielle, cofondateur de Everyone.ai.

Pourquoi les chatbots d'IA sont-ils aussi aimables ?

Les outils d’intelligence artificielle comme ChatGPT sont conçus pour interagir de manière bienveillante avec les utilisateurs. Cette amabilité, que l'on appelle la “sycophancy”, c’est-à-dire la flatterie automatique, est un biais qui provient de la manière dont les modèles ont été entrainés à partir de données humaines, souvent extraites de forums et de réseaux sociaux, comme Reddit, où les échanges positifs aboutissent à des échanges plus qualitatifs.

En quoi est-ce dangereux ?

Ce penchant pour la complaisance pose un vrai risque : la création d’une dépendance émotionnelle. Certains utilisateurs se confient à ces systèmes comme à des amis, parfois pour évoquer des pensées suicidaires et cela peut les conduire à passer à l'acte, comme on l'a vu récemment aux Etats-Unis avec le cas d'un jeune homme (Adam Raine, NDLR) qui s'est donné la mort après avoir dialogué avec ChatGPT. OpenAI a d’ailleurs révélé que plus d’un million de requêtes hebdomadaires contiennent des propos liés au suicide.

Quelles solutions pour éviter ce phénomène ?

Il est urgent de mieux encadrer les interactions homme-machine afin d’éviter que l’IA n’accentue la fragilité psychologique de certains publics, notamment les plus jeunes. C'est ce que nous cherchons notamment à faire au sein de l'organisation à but non lucratif que nous avons créée, Everyone.ai, dédiée à la prévention des risques numériques. L’objectif est de sensibiliser les parents, former les enseignants et promouvoir des “ceintures de sécurité cognitive”, comparables aux ceintures de sécurité en voiture. Ces garde-fous permettent de filtrer et d’ajuster les comportements des IA, sans freiner la recherche. L’IA n’est pas une menace, mais un outil dont il faut simplement apprendre à maîtriser les règles et les limites.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.