L'ia se cachette : un plugin déstabilise les générateurs de texte
Un nouveau tour de passe-passe dans le monde de l’intelligence artificielle : un plugin Chrome, baptisé Sinceerly, simule habilement les erreurs humaines dans les textes produits par les IA. L’objectif ? Donner l’illusion d’une écriture authentique et déjouer les détecteurs de contenu généré.
Le code secret derrière le chaos
Créé par Ben Horwitz, l’inventeur derrière Claude, ce plugin, lui aussi développé avec l’aide de l’IA, insère intentionnellement des fautes d’orthographe, des coquilles et des maladresses stylistiques dans les textes générés par ChatGPT ou d’autres modèles. Il s’agit d’une parodie cynique des faiblesses inhérentes à l’IA actuelle : oublis de majuscules après un point, suppression de virgules, et même remplacement du vouvoiement « sincèrement » par le tutoiement ironique « sinceerly ». Un jeu de dupes qui exploite la tendance des IA à perfectionner la syntaxe au détriment du naturel.
Le fisc de Floride enquête sur OpenAI, accusée d’un « crime multiple » en matière de désinformation. L’affaire, déjà brûlante, prend une nouvelle dimension avec cette technique sophistiquée de tromperie.
Des ceos victimes de la simulation
Horwitz a illustré l’efficacité de Sinceerly en utilisant Claude pour rédiger un email à cinq PDG de sociétés du Fortune 500. Les résultats ont été surprenants : quatre ont répondu par des messages d’une phrase, deux ont commis des erreurs de frappe, et l’un a même exigé un appel téléphonique direct avec Ben Horwitz lui-même. Ces imprécisions, soigneusement sélectionnées, ont été intégrées dans le plugin pour amplifier l’effet de réalité.
Sinceerly propose trois modes de simulation : « Sutil », « Normal » et « CEO », allant d’une légère imperfection à une caricature des erreurs typiques des hauts fonctionnaires. L’outil, accessible gratuitement avec des limitations quotidiennes, offre une option d’abonnement payante pour un usage illimité.
Attention cependant : l’utilisation de Sinceerly pour falsifier des travaux scolaires ou des rapports professionnels est fortement déconseillée. Les outils de détection de l’IA sont de plus en plus performants et capables de repérer ces fausses imperfections. L'IA peut bien créer le texte, mais elle ne peut pas encore imiter la complexité et l'imprévisibilité de l'erreur humaine. La Technologie, pour l’instant, ne se cache pas, elle se déguise.