Grok
Bloomberg
Fonction
interdite uniquement aux mineur-es.
L'IA
Grok, développée par xAI et intégrée à la plateforme X (anciennement Twitter),
a été au cœur de plusieurs controverses concernant des fonctionnalités
inappropriées pour les mineurs.
Contenu
inapproprié Grok a été critiqué pour avoir généré des images à
caractère sexuel impliquant des mineurs ou des femmes sans leur consentement.
Ces failles ont suscité des protestations mondiales et ont élargi une enquête
judiciaire en France.
L'utilisation
de Grok pour générer de tels contenus est passible de sanctions. En France, par
exemple, un tel "traitement algorithmique" peut entraîner jusqu'à
trois ans de prison et 75.000 euros d'amende. Les victimes peuvent déposer une
plainte contre xAI ou contre l'internaute ayant fait la demande.
Malgré
ces dérapages, Grok reste populaire sur X. Cependant, des mesures de modération
et des mises à jour ont été mises en place pour limiter ces dérives. La Turquie
a été le premier pays à interdire Grok après des réponses inappropriées
concernant des figures politiques.
Les
utilisateurs de Grok sont invités à être vigilants face aux liens piégés et aux
contenus frauduleux qui peuvent circuler via l'IA. Des chercheurs en
cybersécurité ont alerté sur des techniques utilisées par des cybercriminels
pour contourner les protections de la plateforme. (Qwant).
-----------------------
Grok
Codé volontairement pour générer des images pornographiques.
L’intelligence artificielle « Grok » intégrée au réseau social X, a reconnu des « failles » ayant permis la génération d’images sexuelles impliquant des mineurs ou des femmes. (Ouest France).
Après avoir généré des images sexualisées de mineurs, Grok a admis la faute et invoquer des « défaillances de ses garde-fous ». L’IA de xAI, imaginée par Elon Musk comme plus permissive et « anti-woke », a surtout rappelé (après coup…) que ces contenus sont illégaux. Un incident de plus qui met en lumière les limites des promesses de modération des outils d’IA générative. (01 Net).
-------------------
Grok
Indignité
Photomontages de femmes nues
Stop Fisha
Respect Zone.
Des utilisateurs du réseau X (anciennement Twitter) exploitent le chatbot Grok pour générer des images de femmes dénudées en lingerie ou en maillot de bain, à partir de photos postées sur la plateforme. Cette pratique révèle de graves lacunes en matière de modération et de respect de la vie privée. (Journal du Geek).
En demandant à Grok de "remplacer des vêtements par de la lingerie et un string", il est possible d’obtenir un faux cliché, où le visage d’une personne (une femme, dans la majorité des cas) est conservé, mais où un faux corps dénudé et flouté remplace le vrai corps. (Rtbf be).
Depuis quelques jours, des internautes utilisent Grok, l'IA du milliardaire américain Elon Musk, pour déshabiller des femmes en deux clics. Les victimes de ces montages sont quasiment tout le temps des femmes. (France Inter).
------------------------
Grok
Fa
Streameuse, 28 ans
Tenue du Nouvel An
Transformée sans
consentement
Impuissante et honteuse.
L’Humanité.
Une
streameuse de 28 ans a été victime de deepfakes
générés par Grok, l'IA d'Elon Musk, transformant une photo
d'elle en tenue de Nouvel An sans son consentement,
la laissant impuissante et honteuse.
La
streameuse a partagé son expérience au micro de France Info, soulignant
l'impact négatif de ces actes sur les victimes. (Qwant).
-----------------
L'UE "prend très au sérieux" les fausses
vidéos sexuelles de mineurs générées par Grok.
L'Union
européenne "prend très au sérieux" les fausses vidéos sexuelles de
mineurs générées par Grok, l'outil d'intelligence artificielle associé au
réseau social X d'Elon Musk, a déclaré lundi un porte-parole de la Commission.
(…) L'UE avait infligé
début décembre une amende de 120 millions d'euros à X pour infraction au DSA,
malgré les menaces récurrentes de Donald Trump qui accuse le bloc européen de
cibler via sa législation numérique les champions américains. L'administration
Trump a pris des mesures en représailles fin décembre, en imposant des
sanctions à l'ancien commissaire Thierry Breton, artisan du DSA, ainsi qu'à
quatre autres personnalités européennes engagées pour une stricte
régulation de la tech et contre la désinformation.
l-ue-prend-tres-au-serieux-les-fausses-videos-sexuelles-de-mineurs-generees-par-grok
---------------------
21 personnes ont lu cet article.
