La inteligencia artificial ya plantea riesgos para derechos tan distintos como la privacidad, la salud, la seguridad y la vida. El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes 14 de septiembre que la carrera por desarrollar sistemas cada vez más potentes puede ampliar esos riesgos si gobiernos y empresas permiten su uso sin controles suficientes. El Sol de México.
Su preocupación se centra especialmente en la llamada IA agéntica: sistemas que pueden ejecutar tareas y tomar decisiones con mayor autonomía. Türk planteó que sus fallas podrían interrumpir comunicaciones, servicios financieros o infraestructura indispensable para abastecer de agua a la población. También alertó sobre el uso de la IA en conflictos armados. Se trata de riesgos advertidos por el funcionario, no de una afirmación de que esos escenarios ya hayan ocurrido en todos los casos. El País.
La advertencia tiene una consecuencia concreta para los gobiernos: antes de incorporar IA a decisiones que afectan a las personas, deben evaluar sus posibles daños, vigilar a las empresas que la desarrollan y garantizar mecanismos para reclamar y reparar perjuicios. Esa es la línea expuesta en un informe de la Oficina de Derechos Humanos de la ONU presentado en junio. La cuestión de fondo es quién responde cuando una decisión automatizada perjudica a alguien o falla un servicio del que depende una comunidad.
