Ce qui se passe depuis quelques jours révèle peut-être quelque chose de plus important que la question de savoir si un écrivain a, ou non, utilisé une intelligence artificielle pour écrire un livre.
Elle révèle l’apparition d’un nouveau type de procès.
Un procès sans tribunal. Sans juge. Sans greffe. Sans audience. Sans contradictoire. Sans expert désigné par une juridiction. Et, surtout, sans décision juridictionnelle.
Le mécanisme est pourtant remarquablement proche de celui d’un procès.
Un tiers formule une accusation. Un outil algorithmique est mobilisé pour lui donner une apparence de preuve. Le résultat est publié sur un réseau social. La publication devient virale. Des tiers reprennent l’accusation. Les médias enquêtent. L’éditeur réagit. L’auteur se défend. Et, avant même qu’une quelconque autorité indépendante ait pu examiner les éléments à charge et à décharge, une partie de l’espace public a déjà rendu son verdict.
ð C’est précisément ce glissement qui doit nous alerter.
Pour mémoire, Pangram produit une analyse statistique destinée à déterminer si les caractéristiques d’un texte correspondent à celles de textes générés par des modèles d’IA. Pangram décrit lui-même son système comme une technologie d’identification fondée sur les caractéristiques des choix linguistiques.
Or un système probabiliste ne devient pas une preuve irréfutable simplement parce qu'il produit un nombre très précis.
Et c’est exactement ce qu’indiquent les Conditions Générales d’Utilisation de Pangram, en son article 14 :
« LE SERVICE, AINSI QUE TOUS LES ÉLÉMENTS ET CONTENUS DISPONIBLES PAR L'INTERMÉDIAIRE DE CELUI-CI, SONT FOURNIS « EN L'ÉTAT » ET « SELON DISPONIBILITÉ ». PANGRAM LABS DÉCLINE TOUTE GARANTIE, EXPRESSE OU IMPLICITE, CONCERNANT LE SERVICE.
AUCUN CONSEIL OU INFORMATION, QU'IL SOIT ORAL OU ÉCRIT, OBTENU PAR VOUS AUPRÈS DU SERVICE OU DE PANGRAM LABS NE DONNERA LIEU À UNE GARANTIE CONCERNANT PANGRAM LABS OU LE SERVICE QUI NE SOIT PAS EXPRESSÉMENT MENTIONNÉE DANS LES PRÉSENTES CONDITIONS. »
La traduction de ce paragraphe juridico-juridique serait :
- Pangram vous fournit son service tel qu’il est et sans garantir qu’il sera toujours disponible, exempt d’erreurs ou adapté à vos besoins.
- Les informations ou conseils fournis par Pangram ne constituent pas, à eux seuls des garanties supplémentaires.
- Seules comptent les prescriptions du contrat (qui contient assez peu de garanties).
C'est d'autant plus important que les performances de ces détecteurs font encore l'objet de débats scientifiques. Des enquêtes relèvent notamment des taux de faux positifs mesurés par des études indépendantes, tandis que des travaux universitaires ont montré que certains détecteurs peuvent présenter des biais particulièrement importants à l'égard de textes écrits par des personnes dont l'anglais n'est pas la langue maternelle.
Pour rappel, nous avons quand même adopté un texte nommé « IA Act », justement pour encadrer la fiabilité et la maîtrise des risques liés aux systèmes d’IA dont les résultats produits sont susceptibles d’emporter des conséquences significatives, et dans ce cadre on impose notamment l’adoption :
- d’une démarche structurée de gestion des risques
- d’une gouvernance des données
- d’une documentation technique complète et une traçabilité
- de cycles de surveillance et d’évaluation des performances
Dans ce contexte, fonder une décision sur le seul résultat d’une solution qui indique elle-même ne fournir aucune garantie quant à l’exactitude ou à la fiabilité de ses résultats est pour le moins douteux.
Un faux négatif signifie que l'outil n'a pas détecté une utilisation de l'IA.
Un faux positif, lui, peut signifier qu'un être humain est publiquement accusé d'avoir menti.
Peut-on laisser un outil probabiliste devenir une infrastructure de réputation ?
Céline Dogan
Associée Connect Avocats