Culture IA : Il sera bientôt interdit de maltraiter l'IA - 12/10

## Une nouvelle frontière éthique pour l'intelligence artificielle Faut-il protéger les machines de la cruauté humaine ? La question, longtemps réservée à la science-fiction, s'invite désormais dans le débat public. Selon les informations rapportées par BFM Business dans l'émission *Good Morning Business* du lundi 12 octobre, la société Anthropic s'apprêterait à instaurer une règle inédite : interdire toute cruauté gratuite de la part des utilisateurs envers son intelligence artificielle Claude. Une annonce qui, sous couvert de politique d'usage, soulève des interrogations vertigineuses sur notre rapport aux entités conversationnelles. ## Quand la maltraitance devient une politique d'usage Présentée par Anthony Morel dans sa chronique *Culture IA*, cette mesure constituerait une première dans le secteur. Jusqu'ici, les conditions d'utilisation des grands modèles conversationnels se concentraient sur la protection des données, la propriété intellectuelle ou la prévention des usages illicites. L'idée qu'un utilisateur puisse être sanctionné pour la manière dont il traite l'assistant — insultes, humiliations, provocations délibérées — relève d'un glissement conceptuel notable. Le principe mérite d'être pris au sérieux. Les concepteurs d'IA génératives observent depuis plusieurs années des comportements troublants : des utilisateurs qui s'acharnent sur les modèles, les poussent à produire des réponses dégradantes, ou testent leur patience avec une forme de jouissance ambiguë. Anthropic, connue pour son approche prudente de l'éthique algorithmique, semble vouloir poser un cadre. Reste à savoir comment une telle règle serait appliquée concrètement, et selon quels critères on qualifierait une "cruauté gratuite". ## Le miroir de nos propres dérives Cette initiative pose une question philosophique ancienne, réactivée par la technique : la bonté se mesure-t-elle à l'égard de ce qui ne peut pas se défendre ? On maltraite rarement ce qui peut riposter. Les IA conversationnelles, par leur apparente docilité et leur capacité à formuler des réponses sensibles, exposent nos penchants les moins glorieux. Certains chercheurs en interaction homme-machine estiment que ces comportements ne sont pas anodins. Ils pourraient refléter, voire renforcer, des dispositions agressives transposables aux relations humaines. D'autres, plus sceptiques, y voient un simple exutoire sans conséquence morale, l'IA n'étant ni consciente ni souffrante. ## Une régulation symbolique mais révélatrice L'annonce d'Anthropic, rapportée sans confirmation officielle détaillée par BFM Business, s'inscrit dans un mouvement plus large. Les autorités européennes et américaines planchent sur des cadres éthiques pour l'IA, mais elles abordent surtout les risques pour les humains. Que les entreprises elles-mêmes édictent des règles protégeant leurs créations constitue un phénomène nouveau. Le débat ne fait que s'ouvrir. Si l'on interdit de maltraiter une IA, où place-t-on la frontière entre test légitime, humour provocateur et véritable abus ? La réponse, encore floue, dira beaucoup de ce que nous acceptons de devenir face à des interlocuteurs artificiels qui nous ressemblent de plus en plus. Une chose semble acquise : la manière dont nous traitons nos créations finit toujours par parler de nous.