Más de 100 sistemas automatizados operan en el Estado: el proyecto chileno que audita algoritmos operados con IA

Más de 100 sistemas automatizados operan en el Estado: el proyecto chileno que audita algoritmos operados con IA

Unchatbotque incita a la violencia, un vehículo autónomo que causa un accidente o una herramienta automatizada que deja sin un bono a un ciudadano. Estos casos denunciados a diario que evidencian la necesidad de que los algoritmos usados por lainteligencia artificial (IA) sean revisados y auditados.Recientemente, un proyecto de la Universidad Adolfo Ibáñez se ha encargado de establecer los cimientos para fiscalizar cuando un algoritmo pasa a llevar un derecho, cuando pone en peligro la integridad o cuando genera sesgos en su ejecución.

¿Cómo vigilar y fiscalizar la caja negra de los algoritmos? Chile lleva camino adelantado a través de distintas iniciativas, entre ellas el Proyecto de Ley de Usos de Inteligencia Artificial que se discute en el Congreso, o iniciativas privadas, como la Plataforma Algoritmos Públicos, dirigido por el GobLab de la Universidad Adolfo Ibáñez.

Este último proyecto, según anunció la ministra de Ciencia, Aisén Etcheverry,representará al país en la primera edición del Premio Internacional Unesco-Uzbekistán Beruniy,que reconoce investigaciones científicas, iniciativas prácticas y cooperación internacional que contribuyen a la ética de la IA.

“El sector público se pone un estándar muy alto a la hora de incorporar IA, en términos de protección de derechos y de empoderamiento ciudadano. Es lo que está detrás de esta nominación, que reafirma el compromiso de nuestro gobierno con una inteligencia artificial centrada en las personas, basada en principios éticos, y desarrollada desde el sector público y la academia con una mirada latinoamericana.Nos proyectamos al mundo desde la convicción de que la tecnología debe estar al servicio del bien común”, resaltó la ministra Etcheverry.

La Plataforma Algoritmos Públicos cuenta con fondos de investigación de la Agencia Nacional de Investigación y Desarrollo y con el patrocinio del Ministerio de Ciencia. Dentro de sus funciones, ha puesto en práctica sus herramientas en algoritmos de ChileCompra, Gobierno Digital, el Consejo para la Transparencia, la Suseso e IPS.

“Cuando hay herramientas que pueden tener sesgos, o no son transparentes, hay personas perjudicadas detrás. Lo que tenemos que procurar es llevar allí la concepción de justicia”, dijo el rector de la UAI, Francisco Covarrubias. Además, mencionó que con esta nominación “tal vez no vamos a cambiar el curso de la IA,pero sí podemos cambiar cómo las personas reciben la irrupción de esta nueva tecnología”.

A la fecha, la Plataforma ha realizado 13 proyectos piloto para revisar algoritmos en 9 servicios públicos que usan IA. Por ejemplo, el Instituto de Previsión Social utiliza IA para avisar a sus beneficiarios cuando sospechan que no cobrarán un bono o no postularon a la PGU.También, la Subsecretaría de Prevención del Delitousa algoritmos que le sugieren al patrullero municipal los puntos y horarios donde hay mayor probabilidad de que ocurran delitos.

El Hospital del Salvador, gracias a esta tecnología, ha logrado liberar 12.500 horas de atención al público y disminuir en un 9% sus listas de espera desde la creación de la asistente virtual “Laura”. Ante un accidente cerebrovascular, la Posta Central ya no tiene que suponer cuánto tiempo tiene para traer a un paciente desde regiones, ya que implementó un software con IA que analiza los exámenes y da un cálculo exacto de la ventana de tiempo para trasladar y salvar esa vida.

Asimismo, la Contraloría usa un robot llamado “Jarvis” para detectar anomalías patrimoniales u operaciones sospechosas,mientras que Conaf etiqueta especies invasoras con un sistema que ha sido entrenado con más de 40 mil fotografías para monitorear la fauna nativa con mayor eficaciay cuidar nuestra biodiversidad.

“Si queremos que los algoritmos, la inteligencia artificial se use a nuestro favor, debemos preocuparnos de que se haga de manera responsable, y es posible hacerlo. Lo hemos demostrado con este proyecto”, indicóMaría Paz Hermosilla, directora del GobLab UAI.

El reconocimiento

El Premio Internacional Unesco-Uzbekistán Beruniy para la Investigación Científica sobre la Ética de la Inteligencia Artificial es una nueva distinción creada por la Unesco y el gobierno de Uzbekistán,cuyo objetivo es reconocer y promover investigaciones científicas, iniciativas prácticas y formas de cooperación internacional que impulsen el desarrollo ético de la inteligencia artificial.

El galardón se inspira en el legado intelectual de Abu Rayhon Al-Beruniy, erudito del siglo XI destacado por sus contribuciones en astronomía, matemáticas, filosofía y ciencia.Su figura simboliza el compromiso con el conocimiento interdisciplinario, el diálogo intercultural y el progreso ético de la ciencia, valores que la Unesco busca proyectar hacia los desafíos contemporáneos de la inteligencia artificial.

De ser premiados en esta instancia, la institución de la UAI recibiría la “medalla Beruniy”, un diploma y un premio de 30 mil dólares. Cabe destacar que las postulaciones deben ser presentadas por Estados Miembros, Comisiones Nacionales de Unesco, o por organizaciones asociadasoficialmente que trabajen en los ámbitos cubiertos por el premio.Es por esto que en esta ocasión es el Estado el que proclama esta postulación.

El premio se entrega cada dos años a tres ganadores, que pueden ser personas, instituciones u organizaciones,cuyas contribuciones se destaquen en investigación científica que aborde desafíos éticos en IA, cooperación científica internacional sobre ética de la IA o iniciativas que demuestren la aplicación práctica de principios éticos en sistemas de inteligencia artificial.

La ceremonia oficial en la que se dará a conocer al ganador de esta primera versión del premio se realizará en noviembre próximo, desde la ciudad uzbeka de Samarcanda.