A propósito de su participación en el seminario “Protección de Datos en la Práctica: del rol del DPO al cumplimiento sectorial”, Alejandra Castillo, académica de la Universidad Diego Portales y directora de Vértice Legal, analizó en conversación con Actualidad Jurídica, el blog de DOE, los desafíos que plantea la Ley N°21.719 para los organismos públicos con facultades de investigación penal.

En particular, abordó los riesgos del uso de inteligencia artificial en procesos penales, la necesidad de control humano efectivo y los resguardos que deberían existir frente al tratamiento de datos personales por parte del Ministerio Público.

En su intervención planteó que la protección de datos personales también debe mirarse como una cuestión de derechos ciudadanos. ¿Por qué este enfoque es especialmente relevante cuando se trata de organismos públicos con facultades de investigación penal?

Porque la Ley N°21.719 es vinculante no solo para entidades privadas, sino también para organismos públicos y personas naturales que traten datos de otras personas naturales.

En ese sentido, creo que no están del todo claros los límites del tratamiento de datos cuando se trata de organismos públicos que, por obligación legal, deben perseguir e investigar delitos.

Hoy las facultades de investigación del Ministerio Público son cada vez más amplias, lo que ha llevado a flexibilizar los derechos de los ciudadanos en otros ámbitos. Eso puede entrar en tensión con la Ley de Protección de Datos Personales.

Mi temor es que la obligación legal de persecución penal se lea como un mandato absoluto, como si siempre tuviera más peso específico bajo el test de proporcionalidad que cualquier resguardo establecido por la legislación de protección de datos personales.

Usted señaló que podría existir una especial resistencia del Ministerio Público frente a la implementación de la Ley N° 21.719. ¿A qué se debe esa tensión y por qué puede ser riesgoso asumir que la persecución penal justifica excepciones amplias al cumplimiento normativo?

La tensión aparece especialmente frente a medidas de investigación intrusivas, como la intervención de aparatos telefónicos o informáticos. En esos casos, muchas veces se produce una investigación de arrastre.

Es decir, la investigación se dirige contra una persona determinada, pero, por la naturaleza de los dispositivos de comunicación, también pueden verse afectados los derechos de terceros que se comunican con la persona investigada.

Algo similar puede ocurrir con medidas de geolocalización. Si se busca ubicar a una persona, eventualmente también se puede estar geolocalizando a quienes están alrededor.

La pregunta que debemos hacernos es cuál será el deber que se impondrá al Ministerio Público respecto de la mantención y posterior supresión de esos datos personales.

Evidentemente hay datos que deberán conservarse para fines investigativos, pero respecto de personas que solo aparecen de forma circunstancial en una investigación, cuyos datos son superfluos o no pertinentes, esos antecedentes debieran ser suprimidos conforme a la ley.

Ese punto no está suficientemente claro y debiera ser esclarecido por la Agencia de Protección de Datos Personales.

Uno de los puntos centrales de su exposición fue el uso de herramientas de inteligencia artificial, como Fiscal Heredia, en investigaciones penales. ¿Qué riesgos advierte en la automatización de tareas como la revisión de antecedentes, la identificación de patrones o la construcción de cronologías?

La automatización de tareas de investigación es siempre preocupante y riesgosa.

Incluso cuando se utilizan herramientas de inteligencia artificial ampliamente probadas, sabemos que estas pueden alucinar. Ese riesgo debe ser especialmente controlado cuando lo que está en juego es la libertad de las personas.

El problema es que ese control puede ser difícil de compatibilizar con el objetivo de optimizar los tiempos de una investigación. Si existe una intervención humana real para revisar la automatización, el proceso investigativo probablemente se ralentizará. Y eso puede terminar disminuyendo el incentivo para usar este tipo de herramientas.

Pero ahí está justamente el punto: tiene que existir intervención humana efectiva.

Además, cuando se trata de softwares diseñados a medida para las necesidades del Ministerio Público, existe el riesgo de que la herramienta tienda a perfilar la prueba en función de intensificar la persecución penal, dejando fuera elementos que podrían dar cuenta de la inocencia de una persona.

Eso es especialmente delicado porque las herramientas del Ministerio Público y de la Defensoría no son equivalentes, y nunca lo han sido. Ahí puede generarse un problema de igualdad de armas, equidad procesal y debido proceso.

Por eso creo que hay que ser cuidadosos antes de priorizar la celeridad, rapidez y eficiencia del organismo público por sobre un tratamiento más ponderado, lento y cauteloso de la prueba.

En ese contexto, usted enfatizó que no basta con que exista una decisión judicial posterior para hablar de “intervención humana”. ¿Dónde debería ubicarse ese control humano para que sea realmente efectivo dentro del proceso penal?

La intervención humana no puede ser simplemente la decisión posterior del juez respecto de si admite o no determinada evidencia en el proceso.

Ese control debe ser previo. Debe existir alguien que pondere efectivamente si la investigación se realizó conforme a derecho y conforme a los hechos del caso, y no solo a partir de un razonamiento o selección de pruebas realizada por una inteligencia artificial.

Si el control humano llega tarde, el riesgo es que la herramienta haya influido previamente en la dirección de la investigación, en la selección de antecedentes o en la construcción del caso.

En materia penal, ese riesgo es particularmente grave porque puede afectar garantías básicas del imputado y también el equilibrio entre las partes del proceso.

También abordó el riesgo de utilizar herramientas automatizadas para perfilar personas o anticipar peligrosidad. ¿Cómo se conecta ese problema con garantías básicas del derecho penal y con la protección de los datos personales?

Hoy existen figuras procesales, como la prisión preventiva, que requieren alguna ponderación de peligrosidad. Sin embargo, no creo que exista actualmente un algoritmo o software capaz de hacer una proyección o prognosis de peligrosidad realmente fehaciente.

Es cierto que los seres humanos tampoco necesariamente pueden hacer una mejor proyección, pero el nivel de responsabilidad es distinto cuando decide una persona y cuando decide un software.

Si el error lo comete una máquina, se vuelve mucho más difícil determinar quién responde por ese error dentro del proceso. En cambio, si una persona ponderó mal una prueba o la presentó incorrectamente, existe una cadena más clara de responsabilidad.

Además, el uso de antecedentes brutos puede llevar a conclusiones peligrosas. Una persona puede haber cometido delitos en el pasado, pero eso no significa necesariamente que haya cometido el delito concreto que se investiga en el presente ni que cometerá delitos en el futuro.

Ese tipo de razonamiento afecta el principio de culpabilidad y la presunción de inocencia, porque desplaza el análisis desde un hecho concreto hacia una valoración de la persona como peligrosa.

En el derecho penal, la responsabilidad debe atribuirse por actos concretos, no por una construcción general de la persona como delincuente.

A partir de lo discutido en el seminario, ¿cuáles deberían ser los principales resguardos para evitar que la eficiencia en la persecución penal termine debilitando derechos como la autodeterminación informativa, la privacidad y el debido proceso?

Lo primero es que el Ministerio Público debiera transparentar ante la ciudadanía cuáles son los mecanismos de investigación que está utilizando.

Si se está usando inteligencia artificial, debiera informarse qué herramientas se emplean, bajo qué condiciones y con qué resguardos internos para evitar usos indebidos.

También debe existir capacitación y sensibilización para fiscales y funcionarios que trabajan en el ente persecutor. No basta con prohibir formalmente ciertos usos, como subir carpetas investigativas completas a plataformas de inteligencia artificial. También debe haber controles reales y sanciones internas frente al mal uso de estas herramientas.

No estoy en contra de utilizar tecnología para mejorar la redacción o elaborar documentos tipo. El problema aparece cuando se entregan a estas herramientas insumos probatorios sensibles, que pueden afectar el secreto de la investigación y los derechos de imputados, intervinientes y terceros.

También se requiere claridad sobre el tratamiento posterior de los datos personales: qué datos se van a suprimir, cuánto tiempo se mantendrán, cómo se resguardarán y qué ocurrirá con la información superflua de personas que aparecen de manera circunstancial en una investigación.

La Ley N° 21.719 tiene una dimensión de protección de derechos ciudadanos. Busca empoderar a las personas respecto de su autodeterminación informativa y respecto de qué datos están autorizados a tratar los organismos públicos y privados.

En ese sentido, la Fiscalía no es una excepción a esta limitación y no debiera serlo.