Grok
Bloomberg
Fonction interdite uniquement aux mineur-es.
L'IA Grok, développée par xAI et intégrée à la plateforme X (anciennement Twitter), a été au cœur de plusieurs controverses concernant des fonctionnalités inappropriées pour les mineurs.
Contenu inapproprié Grok a été critiqué pour avoir généré des images à caractère sexuel impliquant des mineurs ou des femmes sans leur consentement. Ces failles ont suscité des protestations mondiales et ont élargi une enquête judiciaire en France.
L'utilisation de Grok pour générer de tels contenus est passible de sanctions. En France, par exemple, un tel "traitement algorithmique" peut entraîner jusqu'à trois ans de prison et 75.000 euros d'amende. Les victimes peuvent déposer une plainte contre xAI ou contre l'internaute ayant fait la demande.
Malgré ces dérapages, Grok reste populaire sur X. Cependant, des mesures de modération et des mises à jour ont été mises en place pour limiter ces dérives. La Turquie a été le premier pays à interdire Grok après des réponses inappropriées concernant des figures politiques.
Les utilisateurs de Grok sont invités à être vigilants face aux liens piégés et aux contenus frauduleux qui peuvent circuler via l'IA. Des chercheurs en cybersécurité ont alerté sur des techniques utilisées par des cybercriminels pour contourner les protections de la plateforme. (Qwant).
-----------------------
Grok
Codé volontairement pour générer des images pornographiques.
L’intelligence artificielle « Grok » intégrée au réseau social X, a reconnu des « failles » ayant permis la génération d’images sexuelles impliquant des mineurs ou des femmes. (Ouest France).
Après avoir généré des images sexualisées de mineurs, Grok a admis la faute et invoquer des « défaillances de ses garde-fous ». L’IA de xAI, imaginée par Elon Musk comme plus permissive et « anti-woke », a surtout rappelé (après coup…) que ces contenus sont illégaux. Un incident de plus qui met en lumière les limites des promesses de modération des outils d’IA générative. (01 Net).
-------------------
Grok
Indignité
Photomontages de femmes nues
Stop Fisha
Respect Zone.
Des utilisateurs du réseau X (anciennement Twitter) exploitent le chatbot Grok pour générer des images de femmes dénudées en lingerie ou en maillot de bain, à partir de photos postées sur la plateforme. Cette pratique révèle de graves lacunes en matière de modération et de respect de la vie privée. (Journal du Geek).
En demandant à Grok de "remplacer des vêtements par de la lingerie et un string", il est possible d’obtenir un faux cliché, où le visage d’une personne (une femme, dans la majorité des cas) est conservé, mais où un faux corps dénudé et flouté remplace le vrai corps. (Rtbf be).
Depuis quelques jours, des internautes utilisent Grok, l'IA du milliardaire américain Elon Musk, pour déshabiller des femmes en deux clics. Les victimes de ces montages sont quasiment tout le temps des femmes. (France Inter).
------------------------
Grok
Fa
Streameuse, 28 ans
Tenue du Nouvel An
Transformée sans consentement
Impuissante et honteuse.
L’Humanité.
Une streameuse de 28 ans a été victime de deepfakes générés par Grok, l'IA d'Elon Musk, transformant une photo d'elle en tenue de Nouvel An sans son consentement, la laissant impuissante et honteuse.
La streameuse a partagé son expérience au micro de France Info, soulignant l'impact négatif de ces actes sur les victimes. (Qwant).
-----------------
L'UE "prend très au sérieux" les fausses vidéos sexuelles de mineurs générées par Grok.
L'Union européenne "prend très au sérieux" les fausses vidéos sexuelles de mineurs générées par Grok, l'outil d'intelligence artificielle associé au réseau social X d'Elon Musk, a déclaré lundi un porte-parole de la Commission.
(…) L'UE avait infligé début décembre une amende de 120 millions d'euros à X pour infraction au DSA, malgré les menaces récurrentes de Donald Trump qui accuse le bloc européen de cibler via sa législation numérique les champions américains. L'administration Trump a pris des mesures en représailles fin décembre, en imposant des sanctions à l'ancien commissaire Thierry Breton, artisan du DSA, ainsi qu'à quatre autres personnalités européennes engagées pour une stricte régulation de la tech et contre la désinformation.
l-ue-prend-tres-au-serieux-les-fausses-videos-sexuelles-de-mineurs-generees-par-grok
---------------------
13 personnes ont lu cet article.
