ANTHROPIC CONSTRUIT UN SYSTÈME DE POLICE PRÉDICTIVE POUR RÉPRIMER
Surveillance pré crime.
On pourra être arrêté avant d’avoir commis quoi que ce soit…
Ce dispositif s’appuie sur le suivi des militants opposés au développement de l’IA, des manifestations près de ses sites ou dirigeants, et sur une procédure interne de « personnes d’intérêt » permettant de signaler des individus à la police avant même qu’un délit ne soit commis
Fonctionnement et controverses
- Anthropic utilise des outils comme Samdesk pour surveiller en temps réel les risques liés aux manifestations et aux opposants, et recrute des spécialistes du renseignement pour renforcer cette approche
L’entreprise a déjà signalé à la police des utilisateurs de son chatbot Claude pour des propos jugés menaçants, sans toujours transmettre les preuves (messages) aux autorités, invoquant ses règles internes
- Ce système est critiqué pour son manque de transparence, son écart avec les principes de due process, et le risque de cibler des activités militantes légitimes (comme l’opposition à l’IA) comme des menaces
Contexte et contradictions
- Anthropic, qui se présentait comme une alternative plus responsable qu’OpenAI, a récemment recentré ses activités sur la sécurité nationale, malgré ses prises de position passées contre l’utilisation de ses outils pour la surveillance intérieure à grande échelle
Le cas d’un utilisateur signalé pour une menace envers le PDG Dario Amodei illustre les dérives possibles : l’homme a affirmé avoir plaisanté, mais Anthropic a refusé de fournir les messages à la police (fr.news.hada.io) (commondreams.org) (prospect.org)
En résumé Anthropic met en place une surveillance prédictive proactive, avec des signalements préventifs à la police, ce qui soulève des questions éthiques et juridiques majeures sur la liberté d’expression, la présomption d’innocence et l’efficacité réelle de ces méthodes. (Qwant)
------------------------------
