ChatGPT va marquer vos textes en secret ?!
OpenAI va commencer à « marquer » les textes produits par ChatGPT pour les utilisateurs européens, une règle imposée par l'Union européenne. Le marquage est invisible à l'œil mais détectable par un outil : en tests la détection est tombée de 92 % à 66 % après remplacement de 10 % des mots. OpenAI dit que le filigrane ne révèle pas l'auteur et ne change pas la qualité, mais il reste facile à contourner sur les textes courts ou fortement modifiés.
Le journal intime qui parle ▶ 00:00
En Floride, une femme a prévenu une IA. C'était d'une fusillade contre un shérif.
Carli Michelle Heller parlait à Claude, le chatbot d'Anthropic. Comme à un journal intime. Elle pensait que ses pensées restaient privées ? Elle s'est trompée.
Selon BFM TV, qui reprend une enquête du magazine Inc, elle a écrit : « Je vais descendre le shérif sur-le-champ. » Le lendemain, elle ajoutait avoir acheté un nouveau pistolet. Elle disait : « C'est ma dernière chance, j'en ai marre. » Elle prévoyait de passer à l'attaque le 26 septembre, dans le comté de Lee, en Floride.
Le système automatique d'Anthropic a repéré ces messages. Un employé humain les a examinés. Il les a transmis aux forces de l'ordre. Carli Michelle Heller a été arrêtée, puis inculpée pour menaces écrites de violence.
Le shérif du comté, Carmine Marceno, a résumé la leçon pour Inc : Les utilisateurs doivent comprendre qu'ils ne sont jamais totalement anonymes. C'est vrai notamment dans les forums de discussion et les recherches utilisant l'IA. » Même seul face à un écran, même la nuit, même pour écrire sa colère.
Anthropic explique, sur son centre de transparence, qu'elle utilise des systèmes de surveillance. Ils servent à faire respecter sa politique d'utilisation. L'entreprise précise qu'elle traite les demandes des forces de l'ordre et des gouvernements. Cela concerne des informations sur un contenu, ou des demandes urgentes de divulgation. Elle assure le faire « tout en protégeant la vie privée » de ses utilisateurs. Où est la limite entre protection et surveillance ? Difficile à dire... quand c'est l'entreprise elle-même qui la fixe.
Et ce n'est pas un cas isolé. Depuis avril, OpenAI fait l'objet d'une enquête en Floride. Un tireur ayant tué deux personnes avait échangé avec ChatGPT, avant son passage à l'acte. En février, l'entreprise a aussi été critiquée pour ne pas avoir prévenu les autorités canadiennes. Des messages inquiétants de l'auteure de la fusillade de Tumbler Ridge avaient pourtant été signalés.
Anthropic, elle, a choisi une autre voie. Avant Carli Michelle Heller, l'entreprise avait déjà permis l'arrestation d'un homme en Floride. C'était pour une image générée par IA, montrant le même shérif blessé, fuyant deux personnes lui tirant dessus. Il a été inculpé de menaces écrites de mort. Deux arrestations ont eu lieu, visant un seul bureau de shérif. L'entreprise préfère signaler plutôt que de prendre un risque.
Ce choix pose une vraie question, si vous utilisez un de ces chatbots au quotidien. Vos messages les plus personnels ne sont jamais totalement protégés. Un humain peut les lire, et les transmettre, si un algorithme juge qu'ils représentent un danger.
Un tribunal d'Arizona, lui, se demande si une IA peut influencer une peine de prison.
Un mort qui plaide au tribunal ▶ 02:27
En Arizona, une peine de prison doit être reconsidérée. À cause d'une vidéo IA.
En 2021, Gabriel Horcasitas a tué Christopher Pelkey lors d'un accident de la route. Jugé coupable d'homicide involontaire, il a écopé de dix ans et demi de prison. Pourquoi cette peine est-elle aujourd'hui remise en cause ?
D'après le site 404 Media, la sœur de la victime, Stacey Wales, avait diffusé une vidéo à l'audience. On y voyait un avatar IA de son frère, pardonner à son meurtrier. Elle avait écrit elle-même le texte. Le juge, lui, a dit : « J'ai ADORÉ cette vidéo. »
Il a prononcé la peine maximale, juste après.
En appel, la défense a estimé que cette vidéo avait un « poids émotionnel excessif ». La cour d'appel lui a donné raison. Elle a comparé cette vidéo à un précédent de 2007. Des photos d'enfants au bord d'une tombe avaient alors failli influencer un juge, de façon injuste. Cette fois, dit la cour, « la ligne a été franchie ».
La peine de prison doit donc être reconsidérée. La condamnation, elle, reste.
Stacey Wales comprend que c'était une première, selon 404 Media. Elle a explique a 404 Media que cette video n'etait qu'une partie de son temoignage. Elle n'a jamais ete montree a un jury. Elle compare la situation aux debuts de la photographie au tribunal. Il a fallu 15 ans pour qu'elle soit acceptee comme preuve.
Faudra-t-il aussi des années pour fixer les règles d'une vidéo IA à l'audience ? Pour l'instant, Stacey Wales prévoit déjà de refaire le même discours. Avec ou sans l'avatar de son frère.
Direction l'Italie maintenant, où une dirigeante protège sa voix avant même qu'on la lui vole.
Quatre secondes pour se protéger ▶ 03:59
La Première ministre italienne a déposé sa propre voix comme une marque. Pour la protéger de l'IA.
Selon la BBC, Giorgia Meloni a demandé lundi une protection pour sa voix. Elle s'est adressée à l'Office européen de la propriété intellectuelle. Elle a enregistré quatre secondes d'audio, où elle répète deux fois : « Je suis Giorgia. »
Pourquoi une voix se dépose-t-elle comme un logo ? Parce qu'aujourd'hui, quelques secondes d'enregistrement suffisent à une IA pour en fabriquer une copie convaincante.
Giorgia Meloni n'est pas seule. L'acteur Matthew McConaughey a déposé sa voix en janvier. La chanteuse Taylor Swift a fait de même en avril. En aout, plus de 80 artistes britanniques ont reclame une nouvelle loi. Parmi eux figurait Hugh Bonneville, demandant un droit legal de chacun sur sa propre voix. Même votre rire pourrait finir déposé à l'office des brevets.
Le contexte est plus grave que la simple formalité administrative. En 2024, Giorgia Meloni avait réclamé 100 000 euros de dommages. C'était après la diffusion de fausses vidéos pornographiques la mettant en scène. En mai dernier, d'autres images truquées d'elle ont encore circulé. Elle a écrit sur les réseaux : « Beaucoup d'autres ne peuvent pas se défendre. »
Direction la sécurité informatique maintenant, où un autre système protecteur vient de céder sous le poids de l'IA.
La prime qui attire les robots ▶ 05:12
Google a dû suspendre un de ses programmes de sécurité. À cause de l'IA.
Selon The Independent, l'entreprise a gelé l'un de ses programmes la semaine dernière. Il s'agit d'un « programme de récompense pour bugs ». Ce système paie des chercheurs qui signalent des failles avant les pirates. Pourquoi l'arrêter ?
Google l'explique en une phrase, publiée sur X : « Une hausse importante des soumissions automatisées, dont la grande majorité ne sont pas valides. Des IA generent des rapports en masse, souvent faux. Ils noient les vrais signalements sous une montagne de texte inutile.
Google n'est pas seul. Linus Torvalds, le createur de Linux, a decrit un flot continu de rapports IA. Il juge que cela rend son travail de securite presque ingerable. Intel aurait aussi fermé un programme similaire, qui payait jusqu'à 100 000 dollars par faille. Même les robots ont appris à réclamer leur prime.
L'ironie est amère : l'IA devait aider à repérer les failles plus vite. Elle finit par épuiser les humains chargés de les trier. Qui protège vos logiciels, si les gardiens eux-mêmes sont débordés ?
Et Anthropic, justement, continue d'étendre son IA un peu plus loin dans vos outils du quotidien.
Un classeur qui s'écrit tout seul ▶ 06:13
Claude peut maintenant modifier directement vos documents Google. Sans que vous ouvriez un onglet de plus.
Selon Frandroid, Anthropic a annoncé mardi que son IA s'installe dans Google Docs, Sheets et Slides. Concrètement, ça change quoi pour vous ?
Claude apparaît dans une barre à côté de votre document. Il lit le contenu, et le modifie directement sur place. Par défaut, chaque changement attend votre accord. Un second mode, lui, accepte TOUT automatiquement.
Ça marche dans l'autre sens aussi : depuis Claude, on peut coller un lien Google ou demander un nouveau document. Les droits d'acces suivent ceux deja fixes par Google. L'IA n'obtient donc rien de plus que votre propre compte. Le copier-coller, lui, cherche déjà un nouveau travail.
On vous parlait déjà des modèles d'Anthropic moins chers. C'était dans notre vidéo sur la course aux tarifs de l'IA. Cette fois, Anthropic ne baisse pas ses prix. Elle grignote le terrain de Google, qui propose déjà son propre assistant, Gemini, dans la même barre latérale.
La bêta reste réservée aux abonnés payants. Si vous utilisez Claude gratuitement, vous n'y avez pas accès pour l'instant.
Et pendant que Claude s'installe dans vos fichiers, une autre entreprise s'apprête à signer discrètement vos textes.
Un tatouage invisible dans vos mots ▶ 07:23
OpenAI va marquer discrètement les textes générés par ChatGPT. Pour les utilisateurs européens.
Selon TechCrunch, l'entreprise applique une règle de l'Union européenne, entrée en vigueur en août. Elle impose de signaler les contenus produits par IA. Mais comment marquer un texte sans qu'on le voie ?
La réponse : en choisissant certains mots plutôt que d'autres. Selon un motif invisible à l'œil, mais repérable par un détecteur. Le marquage ne révèle pas qui a écrit, dit OpenAI, et ne change pas la qualité des réponses.
Le système a une faille connue. Dans les tests d'OpenAI, remplacer 10 % des mots par des synonymes a changé les résultats. La détection est tombée de 92 à 66 %. Les textes courts ou traduits échappent encore plus facilement au marquage.
Anthropic avait déjà annoncé un marquage similaire pour Claude, il y a deux mois, partout dans le monde. Certains utilisateurs s'étaient alors plaints : ils disaient avoir fourni eux-mêmes les instructions, le contexte, les décisions. Qui a vraiment écrit un texte, quand l'idée vient de vous et les mots d'une machine ?
OpenAI le dit elle-même : l'absence de marquage « ne prouve pas une auteure humaine ».
Le texte peut simplement être trop court, ou trop modifié ensuite.
Ce qu'il faut en retenir ▶ 08:37
Une IA qui dénonce, une autre qui plaide, une troisième qui signe ses propres textes. Cette semaine, l'intelligence artificielle s'invite partout où on ne l'attendait pas.
Petite précision : nous ne faisons la promotion d'aucun outil, d'aucun produit, ni d'aucune entreprise.