La toute nouvelle version du robot conversationnel développé par le milliardaire Elon Musk suscite déjà de vives polémiques depuis sa sortie mercredi. Conçu pour rivaliser avec des géants tels que OpenAI ou Google, Grok-2 propose une fonctionnalité inédite permettant de générer des images à partir de simples commandes écrites, à l’instar de Midjourney ou Dall-E d’OpenAI. Cependant, contrairement à ces logiciels, Grok-2 semble avoir intégré peu de garde-fous limitant la génération d’images potentiellement controversées.
Le journal The Guardian a testé ce logiciel et rapporte avoir pu créer des images choquantes, telles que celle de Donald Trump dirigeant un avion vers les tours du World Trade Center, ou de personnalités politiques et culturelles vêtues de lingerie. D’autres utilisateurs ont également partagé des images violentes, telles qu’Elon Musk tenant une arme à feu dans une université, ou Trump fortement armé. Des images en infraction présumée avec le droit d’auteur ont également été diffusées, telles qu’une représentation de Mickey Mouse tenant une cigarette et une bière.
Elon Musk, fervent défenseur de la liberté d’expression, semble avoir délibérément limité les restrictions de son algorithme, contrairement à ses concurrents, afin de favoriser la créativité des utilisateurs. En effet, des entreprises comme Dall-E ou Midjourney empêchent la génération d’images explicites, de personnalités publiques ou de contenus potentiellement violents. Google avait même suspendu la fonctionnalité de Gemini permettant la création de visages en raison de biais racistes.
Malgré les conditions d’utilisation strictes de Grok-2, interdisant les contenus violant les droits de propriété intellectuelle, Elon Musk pourrait faire face à des poursuites judiciaires pour les images inappropriées diffusées via son robot conversationnel. Avec l’approche des élections présidentielles américaines, Grok-2 pourrait être utilisé à mauvais escient pour manipuler des images, soulevant ainsi de sérieuses préoccupations sur les potentielles dérives de cet outil dangereux.
Lancé en novembre dernier, Grok s’est rapidement imposé comme un acteur majeur du marché des modèles de langage. Pour soutenir son développement, Elon Musk a annoncé une levée de fonds de 6 milliards de dollars en mai 2022 pour sa start-up xAI, qui abrite Grok-2. Malgré les controverses, le milliardaire persiste à vouloir faire de son intelligence artificielle « la plus amusante du monde », ouvrant ainsi un débat sur l’éthique et la responsabilité dans l’utilisation de telles technologies.
