Intelligence artificielle et droit : où est la limite ?

Par Derrick Broze

L’utilisation de l’intelligence artificielle se développe rapidement dans le domaine juridique, mais quelles sont les implications des avocats « robots » ?et les plaignants et les juges utilisant ChatGPT ?

Lors d’une récente visite au Mexique, j’ai parlé avec un passionné de cryptographie mexicain d’une vingtaine d’années qui dit avoir utilisé ChatGPT d’OpenAI pour rédiger des mémoires juridiques, dont certains ont été utilisés par des avocats mexicains devant les tribunaux. Pour le moment, il n’existe aucune règle ni réglementation interdisant une telle action, mais le Mexique fait partie des dizaines de pays qui ont récemment annoncé leur intention de réglementer l’intelligence artificielle dans une certaine mesure.

« La chose (ChatGPT) est un expert dans n’importe quel code juridique disponible sur Internet et peut facilement traiter les lois, la jurisprudence, les traités, les mandats, etc. qui doivent être pris en compte », m’a dit Roy, le Mexicain d’une vingtaine d’années. Il dit que ChatGPT considère non seulement les différents précédents juridiques qui doivent être pris en compte, mais développe également une stratégie juridique basée sur ces précédents.

Roy dit également qu’une fois que vous avez appris à inviter ChatGPT « plus efficacement » , un utilisateur peut  « produire plusieurs modèles de mémoires pour un cas spécifique », puis trier ce dont vous n’avez pas besoin.

Lorsqu’on lui a demandé s’il pensait qu’un juge ou un avocat pourrait détecter la présence de dossiers juridiques assistés par l’IA, il a semblé plus intéressé par la qualité du travail de ChatGPT.

« Il est peut-être trop tôt pour dire si les tribunaux peuvent remarquer une différence, mais une chose est sûre : le système fait le travail plus rapidement, avec une qualité bien supérieure à un coût très faible », a déclaré  Roy.

Alors que les jeunes générations mexicaines explorent les outils d’IA comme ChatGPT, le pays a commencé à parler de réglementer l’utilisation de l’IA dans le secteur privé et au sein du gouvernement. En avril, le député Ignacio Loyola Vera a proposé d’adopter la  « Loi pour la réglementation éthique de l’intelligence artificielle et de la robotique ». Loyola a fait valoir que l’IA doit être réglementée immédiatement et qu’attendre qu’elle soit partout « sera trop tard ».

En mai 2022, l’INAI ( Institut national pour la transparence, l’accès à l’information et la protection des données personnelles) du  Mexique a publié  des recommandations en matière d’IA  sur  « l’utilisation appropriée et éthique des informations personnelles à travers » diverses applications d’IA et « le respect des obligations du devoir de sécurité des personnes ». données personnelles. » Il aborde des sujets tels que l’IA dans l’éducation, les secteurs public et privé et le cloud computing.

Cependant, le projet de loi et les recommandations de l’INAI n’abordent pas spécifiquement la manière dont l’IA et le droit pourraient interagir dans un avenir proche, sans parler du moment présent. J’ai récemment rendu compte des  derniers efforts du gouvernement américain pour réglementer l’IA  via le décret de grande envergure de Biden. L’EO affirme qu’il s’agit de protéger la vie privée et la sécurité des Américains contre les menaces liées à l’IA, mais il ne mentionne spécifiquement aucun exemple lié à la rédaction de mémoires juridiques par l’IA destinés à être utilisés dans les tribunaux.

Un soi-disant avocat robot, ou avocat en IA, fait  périodiquement la une des journaux  depuis 2015, lorsque le service, connu sous le nom de DoNotPay, est devenu connu pour être le premier avocat en IA au monde. DoNotPay a promis d’aider les résidents de Londres à faire appel des contraventions de stationnement. Le service aurait été couronné de succès dans plus de la moitié des cas : plus de 4 millions de dollars d’amendes de stationnement ont été annulés.

Il semble inévitable qu’IA soit impliquée, dans une certaine mesure, dans le processus juridique. Qu’il s’agisse d’humains utilisant ChatGPT pour rédiger des mémoires juridiques ou de avocats spécialisés en IA remplaçant complètement les humains, nous verrons probablement davantage d’exemples qui brouillent la frontière entre l’interaction humaine et IA.

En mai 2019,  Wired  a rapporté  qu’AI était utilisé comme « juge » pour régler de petits litiges devant certains tribunaux estoniens. Cependant, en 2022, le gouvernement estonien a publié une déclaration qualifiant l’article de trompeur. « Il existe un projet visant à automatiser la procédure nationale estonienne d’injonction de payer, qui n’est jugée que dans un département spécifique d’un palais de justice spécifique »,  indique le communiqué .

Plus récemment, en février 2023, un  juge colombien a utilisé ChatGPT  pour décider si la compagnie d’assurance d’un enfant autiste devait être tenue de couvrir tous les frais de son traitement médical.

À chaque nouvel incident, des questions se posent quant à savoir si l’utilisation de l’IA est éthique ou légale.

« Il y a des arguments des deux côtés, selon lesquels l’IA peut surmonter ou éviter les préjugés humains en adoptant une approche basée sur les données. Mais aussi que l’IA elle-même peut produire des résultats biaisés ou inappropriés, pour une multitude de raisons différentes »  , a déclaré le Dr Felicity Bell,  chercheuse à la Law Society de l’Université de Nouvelle-Galles du Sud.

L’ essai de juillet 2020 , intitulé « Le jugement humain est-il nécessaire ? Intelligence artificielle, gouvernance algorithmique et droit », prévient que « même les systèmes d’IA prometteurs conçus pour améliorer le jugement humain impliquent des formes subtiles de déplacement ». L’essai appelle à préserver les  « conditions du jugement humain dans les domaines appropriés de l’action sociale et juridique ».

De retour au Mexique, Roy me rappelle que l’humanité doit faire attention aux outils que nous utilisons, surtout « si vous ne voulez pas vous blesser avec eux ».

« Là où je vois le piège, ce serait de s’habituer à laisser cette chose réfléchir et créer à votre place. Peut-être que cela pourrait devenir compulsif ou addictif, tout comme les médias sociaux.

Source: https://eraoflight.com/2023/12/10/artificial-intelligence-and-the-law-wheres-the-line/

Traduit et partagé par les Chroniques d'Arcturius