Grok
Bloomberg
Fonction interdite uniquement aux mineur-es.
L'IA Grok, développée par xAI et intégrée à la plateforme X (anciennement Twitter), a été au cœur de plusieurs controverses concernant des fonctionnalités inappropriées pour les mineurs.
Contenu inapproprié Grok a été critiqué pour avoir généré des images à caractère sexuel impliquant des mineurs ou des femmes sans leur consentement. Ces failles ont suscité des protestations mondiales et ont élargi une enquête judiciaire en France.
L'utilisation de Grok pour générer de tels contenus est passible de sanctions. En France, par exemple, un tel "traitement algorithmique" peut entraîner jusqu'à trois ans de prison et 75.000 euros d'amende. Les victimes peuvent déposer une plainte contre xAI ou contre l'internaute ayant fait la demande.
Malgré ces dérapages, Grok reste populaire sur X. Cependant, des mesures de modération et des mises à jour ont été mises en place pour limiter ces dérives. La Turquie a été le premier pays à interdire Grok après des réponses inappropriées concernant des figures politiques.
Les utilisateurs de Grok sont invités à être vigilants face aux liens piégés et aux contenus frauduleux qui peuvent circuler via l'IA. Des chercheurs en cybersécurité ont alerté sur des techniques utilisées par des cybercriminels pour contourner les protections de la plateforme. (Qwant).
-----------------------
Grok
Codé volontairement pour générer des images pornographiques.
L’intelligence artificielle « Grok » intégrée au réseau social X, a reconnu des « failles » ayant permis la génération d’images sexuelles impliquant des mineurs ou des femmes. (Ouest France).
Après avoir généré des images sexualisées de mineurs, Grok a admis la faute et invoquer des « défaillances de ses garde-fous ». L’IA de xAI, imaginée par Elon Musk comme plus permissive et « anti-woke », a surtout rappelé (après coup…) que ces contenus sont illégaux. Un incident de plus qui met en lumière les limites des promesses de modération des outils d’IA générative. (01 Net).
-------------------
Grok
Indignité
Photomontages de femmes nues
Stop Fisha
Respect Zone.
Des utilisateurs du réseau X (anciennement Twitter) exploitent le chatbot Grok pour générer des images de femmes dénudées en lingerie ou en maillot de bain, à partir de photos postées sur la plateforme. Cette pratique révèle de graves lacunes en matière de modération et de respect de la vie privée. (Journal du Geek).
En demandant à Grok de "remplacer des vêtements par de la lingerie et un string", il est possible d’obtenir un faux cliché, où le visage d’une personne (une femme, dans la majorité des cas) est conservé, mais où un faux corps dénudé et flouté remplace le vrai corps. (Rtbf be).
Depuis quelques jours, des internautes utilisent Grok, l'IA du milliardaire américain Elon Musk, pour déshabiller des femmes en deux clics. Les victimes de ces montages sont quasiment tout le temps des femmes. (France Inter).
------------------------
