L’utilisation abusive pose des défis éthiques et légaux vertigineux

Partisan d’une dérégulation de l’intelligence artificielle au nom de la liberté d’expression absolue et de la compétitivité des Etats-Unis dans la course technologique face à la Chine, Elon Musk a fait de Grok, son chatbot d’IA générative désormais capable de générer des images, un anti-ChatGPT que tout le monde peut manipuler sans quasiment aucune contrainte.

Mais son utilisation abusive pose déjà des défis éthiques et légaux vertigineux.

Elon Musk dans un lycée, arme à la main, entouré de cadavres d’adolescents ;

Barack Obama s’apprêtant à consommer de la cocaïne;

Mickey Mouse drogué;

Barack Obama menaçant Joe Biden;

Kamala Harris, un pistolet dans chaque main …

Une représentation – révèle Le Monde – d’Elon Musk dans un lycée, arme à la main, entouré de cadavres d’adolescents ; Barack Obama s’apprêtant à consommer de la cocaïne ; Donald Trump et Kamala Harris en maillot de bain… Autant de contenus que les autres générateurs d’images grand public prohibent généralement : Dall-E (OpenAI), en particulier, refuse les représentations de personnalités publiques ou d’activités illégales.

1. ARTICLE – Grok : l’IA sans limite d’Elon Musk, symbole du projet politique de l’extrême droit droite américaine

François Manens. 16 Août 2024, LA TRIBUNE

« Grok est l’IA la plus fun au monde ! » vante sur X Elon Musk, en réponse à un de ses admirateurs qui décrit l’outil comme le modèle d’IA « le plus cool et le plus non censuré » du marché. Depuis mercredi, une grande mise à jour permet à ce concurrent de ChatGPT développé par xAI, une entreprise fondée par le milliardaire, de générer des images. Et les débordements ne se sont pas fait attendre.

Alors que l’industrie tente d’éviter à tout prix la génération d’images pouvant enfreindre le droit à l’image ou le droit à la propriété intellectuelle, Grok semble dépourvu de garde-fous, à l’exception d’un filtre contre les contenus pornographiques. Sans subterfuge, il permet de créer des images de Mickey Mouse ou de Mario, deux des personnages fictifs les mieux protégés au monde …

…/…

2. ARTICLE – Donald Trump armé jusqu’aux dents, Mickey bière à la main… Grok-2, l’IA d’Elon Musk, fait polémique

Par Lucas Mediavilla 16 08 24 LE FIGARO

La nouvelle version du robot conversationnel du milliardaire peut générer depuis mercredi des images à l’image de Midjourney ou Dall-E. Mais son propriétaire semble avoir mis le moins de garde-fous possible à cet outil.

À peine publiée, et déjà de nombreuses polémiques. La nouvelle version du robot conversationnel d’Elon Musk, Grok-2, censé concurrencer OpenAI ou Google, fait beaucoup parler d’elle depuis sa mise sur le marché mercredi. Ouverte aux utilisateurs Premium et Premium+ de X (ex-Twitter), elle permet, outre des améliorations techniques, de générer des images à partir d’une simple commande écrite. Une fonctionnalité disponible chez Midjourney ou Dall-E d’OpenAI. À la différence cependant de ces deux logiciels, Grok-2 ne semble intégrer que peu de contraintes à la génération d’images. 

Le Guardian, qui a pu utiliser ce logiciel, explique ainsi avoir pu générer des images de Donald Trump pilotant un avion vers les tours du World Trade Center, de personnalités politiques ou du monde de la culture (Kamala Harris, Taylor Swift, Alexandria Ocasio-Cortez) en lingerie. D’autres utilisateurs ont pu générer des images violentes, comme Elon Musk avec un fusil d’assaut à la main dans une université, ou Trump armé jusqu’aux dents. D’autres, encore, ont publié des images enfreignant vraisemblablement la législation sur les droits d’auteur, comme une image de Mickey Mouse avec une cigarette et une bière à la main. 

À lire aussiElon Musk «entre en guerre» contre les annonceurs qui se sont retirés de X

Défenseur acharné de la liberté d’expression, Elon Musk semble avoir fait en sorte de mettre le moins de garde-fous possible à son algorithme. Ses pairs sur le marché, que ça soit Dall-E, ou Midjourney, rendent impossible la génération d’images explicites, de personnalités publiques ou de contenus potentiellement violents. Google de son côté, avait carrément suspendu la fonctionnalité de Gemini permettant la génération de visages après une polémique sur les biais racistes de cet outil. 

Des dérives possibles 

Dans ses conditions d’utilisation pourtant, Grok-2 est très clair sur l’interdiction des contenus violant les droits de propriété intellectuelle, à caractère frauduleux, faux, mensongers ou diffamatoires. C’est également le cas des contenus promouvant la haine, la violence, l’injure envers des individus ou des groupes d’individus. Reste à savoir si les équipes de modération de Musk se chargeront de supprimer l’ensemble de ses contenus publiés depuis quelques jours sur le réseau social X et de suspendre l’utilisation du service aux personnes qui ont réalisé ces montages.

En pleine campagne présidentielle américaine, cet outil pourrait être utilisé à dessein pour la création d’images manipulées. Les dérives pourraient être nombreuses. Sur le réseau social X, une professeure d’informatique de Harvard en parlait d’ailleurs comme « l’une des implémentations d’IA les plus imprudentes et irresponsables» qu’elle ait vue à ce jour. D’un point de vue légal également, Musk risque plusieurs plaintes d’ayants droit.  

À lire aussiÉmeutes en Grande-Bretagne, présidentielle américaine : Elon Musk déploie sa propagande très politique

Lancée en novembre dernier, Grok a réussi en l’espace de quelques mois à devenir un concurrent sérieux aux différents modèles de langage du marché. Pour continuer à soutenir son développement, Elon Musk a annoncé fin mai une levée de fonds de 6 milliards de dollars pour sa start-up xAI, qui héberge le robot conversationnel Grok-2. Depuis le lancement, le milliardaire veut en faire « l’intelligence artificielle la plus fun du monde».