Les appels téléphoniques avec des voix générées par l’IA interdits aux USA

La FCC américaine a pris cette décision afin de combattre les arnaques de plus en plus sophistiquées associées à l’intelligence artificielle.

La FCC américaine a pris la décision d’interdire les appels automatisés utilisant des voix générées par des programmes d’intelligence artificielle (IA) pour contrer les arnaques de plus en plus sophistiquées facilitées par cette technologie.

“Des acteurs malveillants utilisent des voix générées par l’IA dans des appels téléphoniques non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous mettons en garde les fraudeurs qui se cachent derrière ces appels téléphoniques”, a déclaré Jessica Rosenworcel, présidente de la FCC citée dans un communiqué de l’agence fédérale jeudi.

La FCC spécifie que sa décision, entrée en vigueur immédiatement, rend les technologies de clonage vocal utilisées dans les appels automatisés ou “robocalls” illégales, avec pour objectif de protéger les consommateurs contre les escroqueries.

Une technologie capable de duper les consommateurs
La prolifération de l’IA générative au cours de l’année écoulée, qui permet de créer du contenu (textes, images, sons) sur demande en langage naturel, suscite de sérieuses préoccupations et diverses initiatives de régulation.

“L’augmentation de ce type d’appels s’est accélérée au cours des dernières années, car cette technologie permet désormais de tromper les consommateurs avec des informations erronées en imitant les voix de célébrités, de candidats politiques et de membres de la famille proche”, note la FCC.

Récemment, des appels falsifiés imitant la voix du président Joe Biden ont circulé, encourageant les résidents du New Hampshire à ne pas participer à la primaire démocrate, ce qui a suscité une forte réaction. Une enquête est en cours pour déterminer s’il s’agit d’une “tentative illégale de perturber” le processus électoral. Un public “protégé contre la fraude”.

En octobre, le président a promulgué un décret visant à mieux encadrer l’IA, en mettant l’accent sur la sécurité, l’équité et l’impact sur le marché du travail. Le décret recommande notamment le développement d’outils permettant d’identifier facilement les contenus produits avec de l’IA.

À cette occasion, le démocrate âgé de 80 ans a évoqué avoir vu une vidéo de lui-même créée de toutes pièces à l’aide de l’IA (deepfake). “Je me suis demandé quand est-ce que j’ai bien pu dire ça?”, a déclaré Joe Biden, exprimant sa préoccupation quant à l’utilisation de l’IA pour escroquer les gens en se faisant passer pour des membres de leur famille.

Jessica Rosenworcel s’est réjouie jeudi du fait que les procureurs généraux des États auront désormais à leur disposition de nouveaux moyens pour réprimer ces escroqueries et assurer la protection du public contre la fraude et la désinformation.