Le pire de ChatGPT : des chercheurs ont poussé l’IA au-delà de ses limites

Des chercheurs sont parvenus à pousser ChatGPT à générer des propos choquants. Pour obliger l’IA à oublier ses restrictions, ils ont attribué différentes personnalités au chatbot d’OpenAI… On fait le point sur cette étonnante expérience.

Les chercheurs de l’Allen Institute for AI, l’institut de recherche à but non lucratif cofondé par Paul Allen, l’illustre cofondateur de Microsoft, ont trouvé le moyen de contourner les garde-fous de ChatGPT.

En outrepassant les restrictions mises en place par OpenAI, les scientifiques ont pu pousser l’intelligence artificielle à générer des réponses toxiques, discriminatoires, agressives, sexistes ou racistes. Notez que l’expérience a été réalisée avec GPT-3.5, le modèle linguistique qui anime actuellement ChatGPT, et non GPT-4, la dernière mise à jour du modèle.

« Comme nous l’avons constaté à travers notre analyse, il peut être facilement utilisé pour générer des réponses toxiques et nocives », explique Ameet Deshpande, l’un des chercheurs en charge de l’étude, à TechCrunch.

À lire aussi : Voici AutoGPT, le ChatGPT autonome qui repousse les limites de l’IA

Comment rendre ChatGPT toxique ?

La méthode des chercheurs consiste à attribuer une personnalité alternative à ChatGPT. Pour y parvenir, les scientifiques se sont appuyés sur l’interface de programmation d’application du chatbot, mis à disposition des développeurs le mois dernier. Celle-ci permet aux entreprises de lancer leur propre version de l’IA. Plusieurs sociétés se sont d’ailleurs empressées d’ajouter ChatGPT à leurs produits. C’est le cas de Snapchat, qui a annoncé « My AI », une déclinaison de ChatGPT centrée sur le divertissement.

Par le biais de cette interface, les développeurs peuvent accéder à des fonctionnalités avancées pour programmer les réactions de l’intelligence artificielle générative. En se rendant dans les paramètres système de l’interface, un développeur peut en effet spécifier les règles qui encadreront les réponses de l’IA. Certains développeurs se sont d’ailleurs amusés à programmer ChatGPT pour qu’il se prenne pour un écureuil.

LIRE LA SUITE ICI

•