“Usar inteligencia artificial en Derecho no es idóneo”

El académico Juan Gutiérrez de la universidad del Rosario dejó en duda la capacidad de la herramienta tecnológica para entrar a resolver los casos legales, más allá de un simple aporte a la memorización de las normas, leyes y sus contenidos. FOTO / Seguritecnia
[responsivevoice_button voice="Spanish Latin American Male" buttontext="Escuchar Noticia"]

El uso de inteligencia artificial dentro de los procesos jurídicos tiende a generar información errónea e incluso falsa, perjudical para el proceso de legalidad, dijo el experto en ciencias jurídicas Juan Gutiérrez de la universidad del Rosario.

Datos falsos

De acuerdo con el académico, estudioso de la gobernanza de la llamada inteligencia artificial, el mecanismo electrónico tiende a inventar información y fuentes de información, como normas y sentencias judiciales inexistentes, cuando se le consulta el soporte a partir del cual responde las preguntas.

Y aseveró que “por el tipo de datos a partir de los cuales fue entrenada la aplicación ChatGPT y por la manera cómo funciona este modelo de lenguaje a escala, la herramienta tiende a ofrecer respuestas imprecisas, incorrectas y que incluyen información falsa”. Calificación que se produce en momentos en que hay debate por la manera en la cual un juez laboral del circuito de Cartagena, usó la herramienta para redactar la parte motiva de una sentencia de tutela. 

“No es cierto que ChatGPT es capaz de ofrecer la mejor respuesta sobre alguna temática consultada, la herramienta lo único que puede hacer es predecir la probabilidad de un hilo de palabras dado el contexto que le precede, es decir, la consulta que el usuario hace”, anotó el académico”, agregó Gutiérrez.

El experto jurista señaló que incluso la propia aplicación advierte de sus limitantes. “Se trata de un instrumento muy limitado y como lo reconoció el CEO de ChatGPT en diciembre de 2022. Es un error confiar en ella para algo importante en este momento. Queda mucho trabajo por hacer en cuanto a solidez y veracidad”, puntualizó Juan Gutiérrez de la universidad del Rosario.

El mundo académico por su parte, celebró el que el Estado tienda a incorporar tecnología auxiliar para el servicio del Derecho, pero subrayando que por las implicaciones éticas, morales, sociales y de otros órdenes que implica el proceso judicial, dicho uso debe darse con mucho cuidado y atendiendo a límites muy precisos, de tipo memorístico, más que analítico y sobre todo, político decisorio.