Ciudad de México.— Las advertencias “apocalípticas” sobre los posibles riesgos de la inteligencia artificial (IA) podrían estar relacionadas con estrategias de mercado y con el interés de impulsar regulaciones que, por sus costos, terminarían favoreciendo a las grandes empresas tecnológicas, señalaron especialistas durante una mesa de análisis de la Universidad Iberoamericana.
Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial, cuestionó la idea de que actualmente existan sistemas capaces de automejorarse de manera completamente autónoma. Explicó que los llamados problemas de alineación están relacionados principalmente con el carácter probabilístico de estos sistemas y no con una voluntad propia.
Sin embargo, advirtió que los sistemas probabilísticos no deberían conectarse directamente con infraestructuras críticas, debido a que un error matemático podría generar consecuencias graves.
Durante el encuentro, Verónica Díaz de León, académica del Departamento de Filosofía, señaló que parte del discurso actual sobre la IA tiende a atribuir características humanas a sistemas técnicos, lo que puede generar interpretaciones equivocadas sobre sus capacidades.
La especialista propuso utilizar el concepto de “autonomía operativa” para describir las capacidades actuales de la IA, en lugar de hablar de “autonomía humana”. A su juicio, esta distinción permite analizar la tecnología sin recurrir a escenarios de ciencia ficción o narrativas apocalípticas.
Díaz de León también planteó que algunas de estas advertencias podrían estar vinculadas con las expectativas económicas alrededor de la inteligencia artificial y una posible burbuja financiera. En este contexto, destacó la importancia de que la academia contribuya con análisis críticos y fundamentados.
Para la académica, uno de los principales riesgos no sería la aparición de un “robot asesino”, sino que las personas cedan progresivamente su capacidad de decisión y voluntad a sistemas tecnológicos.
Por su parte, Andrés Molano Jiménez, director del Departamento de Estudios en Ingeniería para la Innovación, coincidió en que actualmente no existe una inteligencia artificial con autogobierno en el sentido planteado por la ciencia ficción. No obstante, reconoció que los sistemas han desarrollado mayores niveles de autonomía operativa.
Molano Jiménez distinguió esta capacidad de la denominada “autonomía normativa”, relacionada con la posibilidad de establecer por cuenta propia las reglas y criterios que orientan las decisiones. Señaló que empresas como OpenAI, Google DeepMind y Anthropic ya estudian y evalúan los niveles de autonomía de sus sistemas.
El académico respaldó la implementación de mecanismos de auditoría internos y externos y subrayó la necesidad de establecer una regulación que permita controlar los riesgos sin frenar la innovación tecnológica.
Entre los principios que consideró necesarios se encuentran la responsabilidad humana, la trazabilidad de las decisiones y la posibilidad de apelar aquellas determinaciones tomadas por sistemas de IA que afecten a las personas.
Finalmente, Molano Jiménez señaló que, debido a que todavía no se comprende completamente el proceso mediante el cual los grandes modelos generan sus resultados, las empresas deberían mantener una mayor apertura hacia la comunidad académica. Esto, dijo, contribuiría a evitar una concentración excesiva del conocimiento sobre una tecnología cuyo impacto continúa creciendo.
