Ia : l'arnaque subtile qui déstabilise le monde professionnel
Un nouveau plugin, Sinceerly, révèle une faille troublante : l’IA, même lorsqu’elle prétend imiter l’humain, peut être délibérément sabotée. Une manipulation sophistiquée, et potentiellement dangereuse.
Le mensonge de la faute d’orthographe
Depuis l’arrivée des générateurs de texte, l’inquiétude grandit quant à leur crédibilité. Mais un développeur, Ben Horwitz, a mis au point Sinceerly, un plugin Chrome qui insère des fautes d’orthographe et des coquilles dans les textes créés par l’IA. L'objectif ? Faire croire que le contenu a été rédigé par un être humain, une imposture glaciale.
Ce n’est pas un simple accident. Sinceerly est lui-même généré par l’IA, un modèle entraîné sur les erreurs les plus courantes commises par les utilisateurs. Le plugin reproduit avec précision les oublis de majuscules après un point, les omissions de virgules, et même remplace la formule de politesse “sincerely” par “sinceerly”. Une petite, mais efficace, variation qui peut avoir des conséquences surprenantes.
L'expérimentation cynique de ben horwitz
L’histoire est glaçante. Horwitz a utilisé Claude Code, un outil d’IA, pour créer Sinceerly en quelques minutes. Pour tester son efficacité, il a envoyé des emails à cinq PDG de sociétés du Fortune 500 – quatre ont répondu par des phrases d’une seule ligne, deux ont commis des fautes de frappe, et l’un a même demandé à Larry, et non Ben, de se faire joindre. Ces erreurs ont été intégrées au plugin, un témoignage cynique de la capacité de l’IA à reproduire les défauts humains.
Il existe un mode « humain » permettant de choisir le niveau d’erreur : « sutile », « normal » ou « CEO ». Le dernier mode ajoute les erreurs les plus flagrantes – comme la transformation d’une phrase claire en “écrire pour confirmer les plans pour l’almuerzo”, un style typique des dirigeants d’entreprise.
L’ia contre l’ia : une course aux illusions
Bien sûr, l’utilisation de l’IA pour créer de l’IA ne trompe pas les outils de détection de plagiat. Mais cela force les destinataires à douter. Le risque est que des documents importants, des rapports stratégiques, soient perçus comme moins fiables, simplement à cause de quelques erreurs de frappe ou de coquilles. Une stratégie rusée, et potentiellement déstabilisante.
La menace pour openai
Le procureur général de Floride enquête sur OpenAI pour un « crime multiple ». La situation est explosive : si ChatGPT était une personne, il serait accusé de meurtre. Une analogie radicale, mais qui souligne l’ampleur du problème.
L'imitation des erreurs humaines par l’IA est une arme en devenir. Ne vous y trompez pas : Sinceerly n’est qu’un exemple. Il est temps de prendre conscience de cette menace, et de développer des outils de vérification plus robustes. L’avenir de la communication, et peut-être de la confiance, en dépend.