Hace algunos días, la Corte Suprema sancionó a una abogada por citar doctrina inexistente generada por medio de sistemas de inteligencia artificial. Este caso resulta interesante, dado que da cuenta de un doble problema. Uno propiamente ético, y otro vinculado con los desafíos que se derivan del uso de este tipo de herramientas.
La mayoría de los códigos de ética exigen que el abogado obre con honradez, integridad y buena fe, en aras de proteger los intereses de su cliente. Esto supone, por ejemplo, el deber de evitar las conductas tramposas, no poner en entredicho la legitimidad del tribunal, no presentar pruebas falsas, ni esgrimir citas inexactas o fuera de contexto. Por esta razón, inventar doctrina y presentarla como real constituye una acción que compromete el debate judicial y la promoción de estos principios básicos.
Sin embargo, existe otra dimensión que surge a partir de este caso. Para entender este segundo problema, debemos recordar que los seres humanos utilizamos el entorno o las herramientas que se encuentran a nuestra disposición para reducir la carga mental o física que nos exige llevar a cabo una tarea difícil. Desde el origen de nuestra especie hemos diseñado herramientas con este fin. En cierto sentido, es parte de lo que nos hace humanos.
De acuerdo con esta mirada, la IA no implica tanto una ruptura, sino una continuación de este proceso. En efecto, estos modelos están diseñados para generar respuestas basadas en el cálculo de probabilidades estadísticas, redactadas de una manera aparentemente clara y persuasiva. Parecen “inteligentes”. Por tanto, para un abogado, puede resultar muy útil usar este tipo de sistemas a fin de redactar escritos o preparar alegatos, ya que permiten ahorrar tiempo, trabajo y horas de estudio.
El problema surge cuando desarrollamos estas actividades sin ningún tipo de supervisión o juicio. En estos casos no solo estamos externalizando la memoria -algo que realizamos regularmente-, sino que además estamos delegando el pensamiento crítico en un algoritmo. Y esto representa una línea roja que conviene no cruzar, debido a que el pensamiento crítico en el ámbito jurídico -y en muchas otras áreas- no es algo accesorio, por el contrario, es el valor que el abogado puede aportar a su cliente y, en general, a la administración de justicia, constituyendo el núcleo de su profesión.
De acuerdo con esta lógica, uno de los principales peligros de la IA en el ámbito legal no es tanto que cometa errores, sino que los profesionales no tengan la capacidad para detectar dichos errores. Por ejemplo, si un abogado no conoce o no domina bien el área en la que está trabajando, será mucho más fácil que confíe ciegamente en los resultados que genera el algoritmo, pues no tendrá el marco de referencia legal y doctrinario para juzgar si el resultado que arroja es correcto o, por el contrario, si es solo un invento. Este abogado se convertirá en un mero tramitador que firma escritos cuyo trasfondo, sentido y repercusiones no comprenderá.
Y en estos casos, el problema ya no será solo la cita de un autor inexistente, sino la posibilidad de considerar interpretaciones erróneas, desactualizadas o que no se sigan lógicamente del texto legal o estrategias procesales que pueden poner en riesgo los intereses de su clientes.
Por último, no debemos olvidar que un buen argumento constituye una cadena de inferencias. Si el profesional no sabe cómo se unieron los eslabones de esa cadena, no podrá defender su postura con precisión, no sabrá cómo contraargumentar con claridad o refutar los argumentos de la contraparte, ni tendrá el criterio suficiente para descartar los argumentos que no resulten relevantes para el caso. Al final del día, la tecnología puede optimizar la gestión de muchos procesos legales, pero la responsabilidad del razonamiento es, y debe seguir siendo, un patrimonio estrictamente humano.
