Los beneficios del proyecto de ley revisado de California que busca regular cómo se desarrolla e implementa la inteligencia artificial (IA) en el estado probablemente superen los costos, declaró Anthropic.
Anthropic, con sede en San Francisco, es un rival de OpenAI, el fabricante de ChatGPT, y cuenta con el respaldo de Amazon y Alphabet.
El proyecto de ley propuesto por California sobre la regulación de la IA, SB 1047, presentado por el senador estatal Scott Wiener, un demócrata, exige pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo cuesta más de 100 millones de dólares o aquellos que requieren una cantidad definida de potencia informática.
Los desarrolladores de software de IA que operan en el estado tendrían que delinear métodos para apagar los modelos de IA si fallan, lo que en realidad sería un interruptor de apagado. El proyecto de ley también daría al fiscal general del estado el poder de demandar si los desarrolladores no cumplen.
El senador Wiener revisó recientemente el proyecto de ley para apaciguar a las empresas de tecnología, basándose en parte en los aportes de Anthropic.
El proyecto de ley revisado eliminó una disposición para un comité de supervisión de IA del gobierno.
Las empresas tecnológicas que desarrollan IA (que puede responder a indicaciones con texto, imágenes o audio completamente formados, así como ejecutar tareas repetitivas con una intervención mínima) se mostraron en gran medida reacias al proyecto de ley.
Google y Meta, de Alphabet, expresaron sus preocupaciones en cartas a Wiener, y Meta afirma que el proyecto de ley amenaza con hacer que el estado sea desfavorable al desarrollo y la implementación de la IA.
OpenAI había dicho que la IA debería estar regulada por el gobierno federal y que el proyecto de ley de California crea un entorno legal incierto.
“En nuestra evaluación, la nueva SB 1047 ha mejorado sustancialmente, hasta el punto en que creemos que sus beneficios probablemente superen sus costos”, señala el director ejecutivo de Anthropic, Dario Amodei, en una carta al gobernador de California, Gavin Newsom, el 21 de agosto.
“Sin embargo, no estamos seguros de esto, y todavía hay algunos aspectos del proyecto de ley que nos parecen preocupantes o ambiguos”, agregó Amodei.
“Nuestras preocupaciones iniciales sobre el proyecto de ley que podría obstaculizar la innovación debido a la naturaleza rápidamente evolutiva del campo se han reducido en gran medida en la versión modificada”.
