22-06-2024
HomeNormativaLineamientos para el uso de herramientas de inteligencia artificial en el sector público

Lineamientos para el uso de herramientas de inteligencia artificial en el sector público

Se busca promover el uso responsable, ético, seguro y transparente de herramientas basadas en sistemas de inteligencia artificial en el sector público.

El pasado 11 de diciembre el Ministro Secretario General de la Presidencia y la Ministra de Ciencia, Tecnología, Conocimiento e Innovación dictaron el Oficio Circular N° 711 en el cual establecieron “lineamientos para el uso de herramientas de inteligencia artificial en el sector público.

Señala el oficio circular que el avance de la inteligencia artificial ha llevado a que la Administración del Estado deba asumir un rol proactivo en el manejo de esta tecnología, comprender como funciona y utilizarla de la manera más beneficiosa. Razón por la estimó necesario recomendar a los órganos de la Administración del Estado los siguientes lineamientos en materia de uso de herramientas de inteligencia artificial en el sector público, los cuales constituirán un primer paso para arribar a un marco común, pues entregan pautas y recomendaciones generales para promover el uso responsable, ético, seguro y transparente de herramientas basadas en sistemas de inteligencia artificial en el sector público. Agrega el oficio que su seguimiento permitirá tener información preliminar y detallada acerca de los desafíos regulatorios y de coordinación en juego y, de ser necesario, determinar qué instrumentos son más eficientes y efectivos para abordarlos.

En los lineamientos recomendados para el uso de herramientas de inteligencia artificial por parte de los órganos de la administración del Estado, se recomienda a éstos que, en el ejercicio de sus funciones, decidan desarrollar, implementar o utilizar herramientas basadas en sistemas de inteligencia artificial, considerando los siguientes a través de sus respectivos coordinadores de transformación digital:

a.) Inteligencia artificial centrada en las personas:

i. Evaluar si el uso de inteligencia artificial es la solución tecnológica mas adecuada.

ii. Asegurar que las personas no sean objeto de discriminación arbitraria con motivo de la utilización de herramientas de inteligencia artificial.

iii. Involucrar a la ciudadanía cuando corresponda en el diseño e implementación de herramientas de inteligencia artificial, en especial cuando tengan la potencialidad de afectar sus derechos.

iv. Atender los lineamientos de la Guía de Formulación Ética de Proyectos de Ciencia de datos, publicada por la División de Gobierno Digital (DGD), para la implementación de estas medidas y otras asi como las acciones que de ellas deriven, cuando corresponda.

b.) Transparencia y explicabilidad:

i. Informar a la ciudadanía acerca de las herramientas de inteligencia artificial que se encuentren utilizando dentro de sus procesos, ya sea en la provisión de servicios públicos o en el apoyo a la toma de decisiones del órgano de la Administración del Estado.

ii. Comunicar por medios idóneos si utilizan o se sirven de herramientas de inteligencia artificial en su relación con la ciudadanía como chatbots.

iii. Poner a disposición de la ciudadanía información respecto de la utilización de herramientas de inteligencia artificial para ejercer sus competencias.

c.) Privacidad y uso de datos:

i. Garantizar que el tratamiento de los datos personales, especialmente los de carácter sensible, que se haga al utilizar herramientas de inteligencia artificial, cumpla con la ley N° 19.628 sobre protección de la vida privada, para asegurar que sea utilizada exclusivamente para los fines autorizados por sus titulares o por la ley.

ii. No introducir información personal, especialmente aquella de carácter sensible en herramientas de inteligencia artificial generativa, cuando estas no hayan sido contratadas por el órgano de la administración del estado o desarrolladas por o para este.

iii. Revisar los estudios, recomendaciones y jurisprudencia del Consejo para la Transparencia y otras autoridades competentes en materia de protección de datos personales

iv. Cumplir con lo prescrito en el Decreto N° 7, de 2023, del Ministerio Secretaría General de la Presidencia, que establece la Norma Técnica de Seguridad de la Información y Ciberseguridad conforme a la ley N° 21.180; y el Decreto N° 11, de 2023, del Ministerio Secretaría General de la Presidencia que establece la Norma Técnica de Calidad y Funcionamiento de las plataformas electrónicas que sustentan procedimientos administrativos en los órganos de la Administración del Estado y aquellas recomendaciones relevantes dictadas por el Ministerio del Interior y Seguridad Pública en materia de ciberseguridad.

d.) Entre otras medidas también encontramos la capacitación de sus funcionarios para la adecuada adopción de herramientas basadas en sistemas de inteligencia artificial.

Por último, el oficio circular señaló que para efectos de hacer seguimiento a las recomendaciones planteadas, la Jefatura de la DGD, en el ejercicio de sus funciones, podrá oficiar directamente a los órganos de la Administración del Estado para solicitar cualquier dato o información relacionada con estos lineamientos. Asimismo, el Director de Datos de la DGD podrá solicitar, vía correo electrónico, a los Coordinadores de Transformación Digital, cualquier dato o información relacionada con el presente instrumento.

Oficio Circular N° 711

Comparte el contenido:
Etiquetas de Publicación