Les textes générés par IA peuvent parfois être détectés à l’aide de pourcentages de probabilité. Mais aucune solution véritablement fiable n’a pour le moment été développée. Il se pourrait cependant qu’OpenAI ait trouvé le moyen d’avoir la certitude de la provenance d’un texte… Et nous allons justement voir de quoi il s’agit !
Un premier projet abandonné par OpenAI
Depuis son lancement en novembre 2022, ChatGPT a connu d’importantes mises à jour. À tel point qu’il est aujourd’hui difficile de détecter si un texte a été rédigé par un humain ou bien par cet agent conversationnel. Les intelligences artificielles se perfectionnant à vive allure, cela n’est pas moins vrai du côté de la concurrence. Et les internautes sont désormais nombreux à utiliser ces outils, préférant souvent privilégier le gain de temps à l’authenticité. Cependant, il y a des moments et des cas où l’utilisation d’un agent conversationnel ne peut être acceptable. Alors, comment identifier la provenance d’un texte ? Comment démêler le vrai du faux ?
Pour déceler la vérité, OpenAI s’était penché sur le déploiement d’un détecteur de textes générés par IA. Malheureusement, le projet a dû être abandonné à cause d’un manque de précision. Notons d’ailleurs que ce fameux manque de précision touche la plupart des outils. En effet, ceux-ci se basent généralement sur une probabilité et n’affichent qu’un pourcentage pour indiquer s’il s’agit d’un texte généré par IA. Pour le savoir avec certitude, il faudrait une réponse qui apporterait la vérité une bonne fois pour toutes : oui ou non.
Événement
« Watermarks » : de quoi déterminer la provenance des textes ?
Difficile de connaître la provenance des textes lorsqu’aucun signe ou indicateur n’y est apposé. C’est justement pour cette raison qu’OpenAI a pensé à insérer des marqueurs sur les textes générés par IA : les « watermarkers ». Le principe ? Apposer un watermarking invisible – fait d’intégrer discrètement un visuel ou du texte dans une image, un fichier ou une vidéo – à chacun des mots générés par ChatGPT. Pour le coup, il serait difficile de passer à côté de la vérité avec un pareil outil !
Malheureusement, il n’est pas dit que nous puissions bénéficier d’une telle possibilité. En effet, certains utilisateurs pourraient être stigmatisés, étiquetés rien que pour une simple utilisation sans mauvaise arrière-pensée. Cela pourrait également nuire à l’utilisation de l’IA pourtant en pleine croissance. Et ce n’est pas ce qui est souhaité par OpenAI. C’est pour cette raison que l’entreprise d’intelligence artificielle décide de ne pas rendre l’outil public et préfère se concentrer sur des méthodes plus éthiques ou retravailler ces fameux « watermarkers ». Reste à voir sur quel type de détecteur cela pourrait finalement déboucher à l’avenir.
