El empresario plantea que las principales compañías de inteligencia artificial permitan a sus competidores evaluar los sistemas de seguridad de sus modelos para detectar posibles riesgos antes de que la tecnología avance aún más.
Elon Musk propuso que las principales empresas de inteligencia artificial (IA) sometan sus modelos a evaluaciones de seguridad realizadas por sus propios competidores, como una medida para identificar riesgos que podrían pasar inadvertidos dentro de cada compañía.
Durante una intervención remota en la cumbre All-In Summit, celebrada en Los Ángeles, el director ejecutivo de Tesla, SpaceX y xAI señaló que los principales desarrolladores de IA deberían permitir que los sistemas de evaluación de seguridad de otras empresas examinen sus modelos.
Musk planteó que esta iniciativa incluya a compañías como OpenAI, Anthropic, Google, Meta y xAI, además de algunos de los principales desarrolladores de IA de China. Según explicó, la revisión cruzada permitiría que los competidores detecten posibles problemas de seguridad y alerten sobre ellos antes de que los modelos sean utilizados a gran escala.
La propuesta parte de una idea similar a una revisión independiente: en lugar de que cada empresa sea la única encargada de evaluar sus propios sistemas, otras compañías del sector también podrían someterlos a pruebas para identificar vulnerabilidades o comportamientos potencialmente peligrosos.
“En lugar de corregir tu propia tarea, al menos tendrías a competidores evaluándola y dando la voz de alarma si detectan algún motivo de preocupación”, afirmó Musk durante su participación, según información citada por CNBC.
Crecen las advertencias sobre los riesgos de la IA
La propuesta llega en un momento en que algunos de los principales líderes de la industria han expresado preocupación por la velocidad con la que avanza el desarrollo de la inteligencia artificial.
Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Demis Hassabis, de Google DeepMind, se han referido públicamente a la necesidad de fortalecer las medidas de seguridad y las salvaguardas conforme aumentan las capacidades de estos sistemas.
El debate también se ha intensificado a raíz de las declaraciones del investigador tecnológico Jacob Coxon, exintegrante de Anthropic y OpenAI, quien advirtió sobre escenarios extremos relacionados con el desarrollo de sistemas de IA cada vez más avanzados.
En este contexto, la discusión dentro del sector se centra en cómo equilibrar el rápido desarrollo de nuevas capacidades con mecanismos capaces de identificar y reducir riesgos antes de que los modelos sean desplegados.
La propuesta de Musk plantea, así, una mayor colaboración entre compañías que al mismo tiempo compiten por desarrollar sistemas de inteligencia artificial cada vez más sofisticados.
