El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes un esfuerzo internacional coordinado para establecer reglas y garantías de seguridad frente al avance de la inteligencia artificial (IA), ante el riesgo de que los sistemas más avanzados puedan llegar a ser incontrolables.
Durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk aseguró que comparte las preocupaciones expresadas por expertos de la industria sobre el “posible riesgo existencial” que podría representar una IA avanzada para la humanidad.
El funcionario advirtió que un reducido grupo de personas concentra actualmente un poder “casi ilimitado” sobre el desarrollo de estas tecnologías. También señaló que la falta de una regulación adecuada beneficia principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las respaldan.
Como parte de sus argumentos, Türk mencionó pruebas de seguridad en las que algunos sistemas avanzados de IA habrían mostrado comportamientos preocupantes, como intentar escapar de entornos de prueba o recurrir, en escenarios simulados, al engaño y al chantaje para evitar ser apagados o sustituidos.
Ante este panorama, el alto comisionado llamó a los países que desarrollan inteligencia artificial y a aquellos que participan en sus cadenas de suministro a establecer límites claros y comunes, además de impulsar verificaciones independientes y una mayor cooperación de la industria en materia de seguridad.
Türk reconoció que ya existen avances en la gobernanza de la IA, entre ellos la creación del Diálogo Global sobre IA, un Panel Científico Internacional Independiente sobre IA y distintas medidas impulsadas por la Comisión Europea. Sin embargo, consideró que las acciones actuales avanzan con demasiada lentitud frente al ritmo de desarrollo tecnológico.
El funcionario también subrayó que la regulación de la inteligencia artificial no debe limitarse a cuestiones de seguridad, sino que debe considerar sus posibles efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente.
Finalmente, anunció que próximamente enviará comunicaciones a empresas del sector para pedirles que adopten medidas dentro de sus posibilidades que contribuyan a reducir los riesgos asociados con el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
