02-10-2022
HomeOpiniónNeuroderechos, jueces y máquinas

Neuroderechos, jueces y máquinas

Desde 2020 se ha comenzado a discutir intensamente sobre la necesidad de regular -o no- las posibles acciones que afecte los “neuroderechos” en Chile. Esta discusión supone la existencia de tecnologías capaces de “leer” e incluso “escribir” en el cerebro humano. Se suele pensar que esta posibilidad violenta la autonomía de los seres humanos.

Un supuesto poco discutido es el que indica que debemos defender cierta intangibilidad en la producción de nuestros pensamientos y decisiones. Por cierto, una actividad interesante en esta discusión en la actividad judicial, es decir, ¿debe garantizarse especialmente la intangibilidad de la mente de los jueces?

Las máquinas constituyen una conquista de la humanidad en la persecución de su emancipación. Podría sonar exagerado, pero la superación de los límites del propio cuerpo es lo que anima la existencia de herramientas con las que los seres humanos han enfrentado el peligro de extinción. Artefactos como cuchillos, palancas, computadores y vacunas responden a la necesidad del diseño de mecanismos de supervivencia en el mundo.

Pareciera que la humanidad es consciente de la limitación que implica reconocer la existencia de un cuerpo físico débil, de una mente limitada y muy restringidas capacidades de aprehender la información disponible. Pareciera que nos ha acompañado durante siglos una sensación de incomodidad sobre nuestras experiencias. La vida que vivimos, los hechos que podemos recordar, los patrones de eventos que podemos reconocer, el nivel de detalle con el que la realidad se despliega ante nosotros es inabarcable considerando las limitadas capacidades de nuestra percepción.

Éste es un punto obvio. Es obvio que nuestra vida es inabarcable. Es obvio que no recordamos todo lo que ha pasado. Es obvio que, incluso, a veces mentimos, no porque queramos engañar a alguien, sino porque no recordamos con exactitud lo que ocurrió. Hay una obviedad compartida en la insignificancia de nuestra experiencia para producir una clase de conocimiento que consideramos óptimo. ¿Cómo podríamos pensar en ideas infinitas si sabemos que nuestros lenguajes son tan limitados?

Las máquinas, los artefactos, las invenciones de todo tipo vinieron a reclamar un espacio en nuestras decisiones. Nuestra perspectiva racionalista supone comprometernos con la adecuación de nuestra conducta a la mejor información disponible. Así lo esperamos de nuestros jueces. Esperamos que superen los límites borrosos de su experiencia para decidir con arreglo a una apreciación objetiva de la realidad o más bien conforme con una aproximación justificada del lenguaje usado para referirnos a la realidad.

En la discusión sobre neuroderechos en Chile ocurre que miramos a los artefactos, las máquinas, erróneamente.

Por una parte, tratamos a las máquinas que automatizan las respuestas como si tuvieran alma y fuesen una “especie”. Nos parece que podemos atribuir características, dimensiones morales y, sobretodo, agencia a estos dispositivos.

Por otra parte, asumimos que el debate sobre neuroderechos está “por venir”, como si las máquinas fuesen a desembarcar en algún punto de una historia aún en desarrollo. Incluso es posible imaginar como en parte del debate hay quienes imaginan, literalmente, un aterrizaje de los dispositivos con pretensiones de extinguirnos o controlarnos.

Las máquinas son extensiones de las decisiones humanas. La “humanidad” es igual a sus artefactos. Fuera de los debates metafísicos, no existe un contexto en el que los mecanismos de automatización de decisiones existan sin referencia a patrones de comportamiento humano.

Una máquina es capaz de considerar un amplio cúmulo de información y es capaz, a su vez, de identificar patrones, observar regularidades, y ofrecer, por tanto, conclusiones fiables sobre cómo los eventos se despliegan en la realidad. Una conclusión generalizadora es más fuerte en tanto mayor precisión existe en el manejo de la información que constituyen los patrones de repetición que consideramos generales. Las “máximas de la experiencia” pueden ser construidas entonces por máquinas y, quizá, su probabilidad de errar en la afirmación sobre la adaptación general de un evento a un patrón o frecuencia sea menor.

¿Por qué habríamos de observar con desencanto esta posibilidad? ¿qué hay de valioso en la existencia de sesgos, estereotipos o prejuicios a la hora de decidir un caso por parte de un humano de carne y hueso? Porque la experiencia humana está plagada de concepciones de orden valorativo o moral, expresiones de preferencias, y muchas veces creemos que estamos evaluando un caso de manera aséptica y objetiva.

Por supuesto, no puedo ni quiero sostener que la mecanización o automatización del tratamiento de la información de cara a la formulación de decisiones esté, per se, exenta de defectos como son los sesgos, estereotipos y prejuicios. De hecho, parece ser que el funcionamiento de las máquinas no es tan diverso al de los humanos en muchos puntos, y claro, tal como es posible disparar contra un inocente usando un arma es posible que un dispositivo de inteligencia artificial cometa un error diseñado por alguien.

Entonces, es probable que la pregunta más importante sea ¿cómo es posible programar, comprender, o manejar a estos dispositivos de manera de definir una cierta “identidad humana”?

Es por esto, que resulta tan intensamente llamativo que los intentos de regulación en Chile y en los debates “académicos” se tienda a hablar de estos mecanismos de automatización como si estuvieran por venir. Se habla de procesos de adopción automática de decisiones a través del manejo masivo de datos, como si esto no estuviera actualmente influyendo en las decisiones jurídicas.

Todos los jueces del mundo actualmente están expuestos a mecanismos de automatización de sus decisiones. Los jueces en Chile miran la pantalla de su teléfono celular, pinchan en aplicaciones para ubicarse por la ciudad, prefieren productos de una u otra clase para alimentarse, deciden ver una determinada serie en una plataforma en Internet.

Los jueces de Chile y del mundo miran twitter en las tardes. Los jueces de Chile y del mundo, los abogados de Chile y del mundo, los clientes de los abogados de Chile y del mundo, los imputados, los que están presos, todos los que en algún sentido experimentan el mundo se encuentran impactados, influidos, registrados por máquinas que detectan su comportamiento en línea.

Hay, hoy por hoy, máquinas anticipando decisiones de personas que son jueces. Las intuiciones sobre la realidad que tienen los jueces forman parte de los datos con los que un algoritmo, en alguna parte, anticipa su comportamiento. Y de algún modo, máquinas qué producen información, que modelan conductas, que adoptan decisiones, están incidiendo en la manera en que los juicios sean resueltos en una audiencia vía Zoom en Chile.

¿Qué sentido tiene proteger los neuroderechos como un espacio intangible o liberado de las máquinas o de la automatización? Hoy más que nunca el debate deberá centrarse en la concepción de transhumanismo, esto es en la identificación de una cierta identidad moral de los seres humanos que resulte funcional al modelo de vida que pretendemos desarrollar, y en esa pregunta, deberemos dar cuenta del notable fenómeno que indica que las máquinas son parte nuestra.

Los jueces en Chile fallan en parte con inteligencia artificial, porque ésta no se opone por completo a la inteligencia natural. Porque todo juez es, en algún sentido y en alguna parte, una máquina con la que se busca producir decisiones justificadas, un sujeto que debe superar sus empatías y antipatías, que debe superar su propia identidad para enfrentar la misión de fallar conforme a derecho.

Comparte el contenido:
Etiquetas de Publicación
Escrito por

Abogado, Doctor en Derecho Universidad de Girona, Profesor Asociado de Derecho Procesal en la Universidad de Chile e Investigador Asociado de la Cátedra de Cultura Jurídica de la Universidad de Girona.