L’ère du ‘slop’ a sonné : quand l’IA de mauvaise qualité envahit nos vies

C’est le nouveau terme à connaître. Il y a eu « spam » pour les mails, voici « slop » pour l’intelligence artificielle. Dans les deux cas, cela désigne du contenu non sollicité, de mauvaise qualité, indésirable. Dans un article du New York Times, on découvre donc l’émergence de ce terme slop aux États-Unis et cela concerne aussi bien l’IA générative textuelle, visuelle que les pages de résultats des moteurs de recherche. Une image médiocre, un résumé tronqué, des messages maladroits sur les réseaux sociaux, des livres sans âme… les exemples sont légions.

Imaginez que Google vous suggère d’ajouter de la colle non toxique pour faire tenir le fromage sur une pizza. Certains appellent cela « hallucination » (une affirmation infondée créée par l’IA), voilà un exemple concret de slop. Ou encore, un livre numérique à bas prix qui ressemble vaguement à celui que vous cherchiez mais avec moults poncifs, citations inventées et chiffres mal sourcées. Ces publications sur votre fil d’actualité Facebook ou votre LinkedIn, apparues de nulle part ? Oui, c’est aussi du slop.

Google Gemini ou le slop à profusion

Le terme a pris de l’ampleur lorsque Google a intégré son modèle d’IA, Gemini, dans les résultats de recherche aux États-Unis à la mi-mai. Plutôt que de diriger les utilisateurs vers des liens, ce service tente de résoudre les requêtes directement avec un « aperçu de l’IA » — un texte en haut de la page de résultats utilisant Gemini pour deviner ce que recherche l’utilisateur.

Au départ, Google affichait ces résultats intégrés dans 83 % des requêtes. La pauvre qualité de ces encarts – et quelques ratés retentissants – a fait que le géant de la Silicon Valley a décidé de réduire ces affichages automatisés à 14 % des pages de résultats début juin. Une volte-face qui n’est que temporaire : Gemini reviendra en haut des pages dès que les problèmes seront un tant soit peu résolus.

Slop, de la « pâtée » générée par IA

Google Gemini n’est qu’un exemple. Il est certain que des quantités massives d’informations générées par des machines feront très vite partie de notre quotidien sur internet (si ce n’est pas déjà le cas sans que nous nous en apercevions). D’où le terme slop, qui évoque des images de nourriture peu appétissante jetée dans des auges pour le bétail. Comme ce genre de nourriture, de la pâtée, les recherches assistées par l’IA se font rapidement, mais pas forcément de manière digestible pour les penseurs critiques, souligne le New York Times.

Kristian Hammond, directeur du Centre pour l’Avancement de la Sécurité de l’Intelligence Artificielle à l’Université Northwestern, souligne un problème du modèle actuel : les informations de l’aperçu de l’IA sont présentées comme des réponses définitives, plutôt que comme un point de départ pour la recherche. Il explique : « Vous cherchez quelque chose et vous obtenez ce dont vous avez besoin pour réfléchir — et cela vous encourage à réfléchir. Avec cette intégration aux modèles linguistiques, cela vous encourage à accepter. Et cela, je pense, est dangereux. »

Un terme qui monte en puissance depuis 2022

L’utilisation du terme slop pour décrire les contenus de basse qualité générés par l’IA semble avoir émergé en réaction à la sortie des premiers générateurs d’art par intelligence artificielle en 2022. Certains ont identifié Simon Willison, développeur, comme un des premiers utilisateurs du terme — mais ce dernier a affirmé qu’elle était en usage bien avant qu’il ne la découvre. C’est du côté des forums débridés de la plateforme 4Chan, dans les commentaires YouTube et sur le site de cybersécurité Hacker News qu’il faut se tourner pour voir ‘slop’ faire ses premières apparitions dans le cadre de l’IA.

Slop ou encore ? « La société a besoin de moyens concis pour parler de l’IA moderne — à la fois des aspects positifs et négatifs, souligne Simon Willison. ‘Ignorez cet e-mail, c’est du spam’, et ‘Ignorez cet article, c’est du slop’, sont toutes deux des leçons utiles. » Il est bien possible que, comme spam pour les messages indésirables, le mot slop devienne le terme de référence pour les formes de contenu de piètre qualité générées par des machines. Qui sera le premier à en parler à la machine à café ?!

SOUTENEZ WE DEMAIN, SOUTENEZ UNE RÉDACTION INDÉPENDANTE
Inscrivez-vous à notre newsletter hebdomadaire
et abonnez-vous à notre magazine.