La Facultad de Derecho de la UBA tiene varias iniciativas tendientes a abordar las tecnologías emergentes en general y la inteligencia artificial en particular. El Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho ofrece una propuesta de investigación y una oferta académica vinculadas a esta temática.

Desde el IALAB se ofrece una asignatura de grado optativa y cursos de posgrado de 30 horas que vinculan la IA con distintas temáticas del derecho. Además, existe el posgrado de 128 horas, único de Hispanoamérica exclusivamente dedicado al impacto de la inteligencia artificial en el derecho.

Conversamos con Cecilia Danesi, quien es subdirectora del posgrado, dicta la materia de grado y coordina el Laboratorio en Innovación e Inteligencia Artificial: "El posgrado ofrece con una propuesta de aprendizaje disruptiva con videos, episodios y un abordaje interdisciplinario, ya que también dan clases personas que no son abogados, sino psicólogos, filósofos, periodistas, especialistas en datos, ingenieros, etc".

Acerca del funcionamiento de la IA en el Derecho, Danesi explica: "La Inteligencia artificial se nutre de datos, se alimenta de datos. ¿Cómo utiliza estos datos? Aprende, toma patrones, crea reglas y en base a eso, puede hacer predicciones. Ahora bien, si no tenemos datos, no tenemos IA. El primer debate desde el impacto jurídico son los datos porque, por un lado, necesitamos los datos para entrenar los sistemas inteligentes, pero por el otro lado, tenemos que respetar la normativa en materia de protección de datos personales, donde cada país tiene su regulación específica".

En este sentido se plantea el primer desafío y gran tema de la IA. En las asignaturas de grado y posgrado se busca desarrollar el pensamiento crítico de los alumnos en un territorio embrionario que imponen las nuevas tecnologías.

"Por ello, más que saber normas de memoria, se procura que comprendan las particularidades del fenómeno a través de la identificación de las reglas que puedan entrar en conflicto o bien del diseño de nuevas propuestas legislativas o con el debate de las existentes. Para lograr esto, además de la interacción en las clases y la utilización de los recursos virtuales, los alumnos presentan un trabajo de investigación en el cual deben analizar un sistema de IA desde la óptica del Derecho", aclara la especialista.

Prometea

En un ecosistema digital en el que las máquinas comienzan a realizar cada vez más actividades que antes estaban reservadas al cerebro humano, en el IALAB se desarrolló PROMETEA, que es un sistema de inteligencia artificial que se utiliza en la justicia, que usa técnicas de aprendizaje automático (machine learning) supervisado y de clustering, que es agrupar temáticas dentro de los datos, a partir de etiquetado manual y automático.

Actualmente, Prometea se utiliza en el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires, donde hace predicciones de dictámenes, y en la Corte Interamericana de Derechos Humanos. También llegó a la Corte Constitucional de Colombia, donde se lo llama Pretoria y es utilizado para detectar los casos prioritarios que versan sobre temas de salud.

Prometea se comunica con las personas por voz o por chat. Reconoce el lenguaje natural y puede buscar leyes, precedentes, hacer gráficos, consultar sitios de internet, todo sin abrir pestañas. La predicción de un dictamen puede hacerla, por ejemplo, en casos donde debe resolverse si se debe conceder o no una vivienda al solicitante o si corresponde o no otorgarle un determinado servicio de salud.

¿Cómo lo hace? Prometea lee el expediente y miles de otros casos similares y en base a ello, crea un dictamen para ese caso concreto, lo que en el ámbito de las Fiscalías sería como una sentencia, es decir, en este dictamen va a consignar si en ese caso hay que darle o rechazar el pedido. Este dictamen luego es supervisado por un humano y firmado por la autoridad judicial.

"Un ejemplo de cómo se trabaja con el etiquetado podría ser la lectura de una sentencia" -aporta Danesi-: "Se la entrena con determinadas "palabras clave" o "key words", que Prometea buscará y segmentará en los documentos.

Además de colaborar con los jueces, como en el caso de Prometea, la IA puede ser utilizada para asistir a los abogados en los estudios jurídicos.

Para Cecilia Danesi uno de los puntos de análisis de la IA es desde la ética y la regulación. Por ejemplo, dado que la IA toma decisiones autónomas sin injerencia humana, ¿en qué valores se va a basar para hacer una determinada predicción?

Otra cuestión que plantea la especialista es la de los sesgos, que está íntimamente vinculado con derechos humanos, como la discriminación. Como la IA la crean, y la programan las personas, a veces de forma inconsciente cada uno de esos programadores aplican sus sesgos, de género, religiosos, políticos, etc.

En cuanto a regulación, Danesi apunta sobre dos puntos centrales: "Por un lado, si la IA entra en colisión con las normas existentes y por el otro, dado que la Ley regula hechos sociales, debemos analizar si es necesaria -o no- una regulación específica".

Como en la mayoría de los ámbitos, la Inteligencia Artificial está siendo utilizada en el derecho, pero a la vez estudiada, para conocer sus alcances y posibilidades, pero también sus posibles contras.