Editorial tout frais : Un avocat américain s’excuse après avoir utilisé ChatGPT «Je pensais que c’était un moteur de recherche fiable»

Un avocat new-yorkais qui avait utilisé ChatGPT pour préparer un procès civil a présenté ses excuses au tribunal, car le programme d’intelligence artificielle lui avait soufflé des affaires inventées de toutes pièces.

«Je n’avais tout simplement aucune idée que ChatGPT était capable de fabriquer des citations entières d’affaires ou d’opinions juridiques, d’une manière qui semble authentique», a écrit l’avocat Steven Schwartz dans un document versé cette semaine au dossier.

Dans cette affaire — la vraie — l’avocat représente devant un tribunal civil fédéral de Manhattan un client qui attaque la compagnie aérienne colombienne Avianca. Roberto Mata demande réparation car il affirme avoir été blessé à la jambe par la chute d’une assiette en métal, au cours d’un vol en août 2019 du Salvador à New York.

La compagnie aérienne a demandé au tribunal de rejeter le dossier, mais l’avocat du passager a versé un mémoire citant plus d’une demi-douzaine de précédents judiciaires pour soutenir ses arguments. Figuraient notamment des affaires intitulées «Petersen contre Iran Air», «Varghese contre China Southern Airlines» ou «Shaboon contre Egyptair».

Problème, ni la partie adverse, ni le juge Castel, n’en ont retrouvé trace dans la jurisprudence.

«Six des cas soumis semblent être de fausses décisions judiciaires avec de fausses citations», a constaté le juge par écrit. Steven Schwartz a dû admettre que ChatGPT, l’outil d’intelligence artificielle créé par OpenAI, avait tout inventé.

Dans son mea-culpa écrit alors que le juge l’a convoqué pour de possibles sanctions, l’avocat assure qu’il n’a pas voulu tromper le tribunal.

«À l’époque où j’ai effectué les recherches juridiques dans cette affaire, je pensais que ChatGPT était un moteur de recherche fiable. Je sais maintenant que ce n’était pas le cas», a-t-il soutenu.

Promettant de ne plus recommencer, il a ajouté que l’affaire avait couvert son cabinet de ridicule, depuis la parution d’un premier article du New York Times.

Symbole des nouvelles prouesses de l’intelligence artificielle, le robot conversationnel ChatGPT, créé par la société Open AI, a connu ces derniers mois un succès fulgurant grâce à sa capacité à générer des contenus proches de ce que peut créer l’être humains, comme des poèmes ou des essais.

Mais il suscite aussi une avalanche de craintes: désinformation, manipulation des élections, destruction massive d’emplois voire menace pour l’humanité.