Instagram implementará nuevas funciones de seguridad dirigidas a adolescentes, incluyendo una herramienta que permitirá a los padres bloquear el acceso de sus hijos a los chats con personajes de inteligencia artificial (IA), anunció este viernes Meta, la empresa matriz de la red social.
La medida forma parte de un conjunto de actualizaciones de seguridad desarrolladas tanto por Meta como por OpenAI, en respuesta a la creciente preocupación sobre el impacto potencial de la IA en la salud mental de los adolescentes.
Los nuevos controles permitirán a los padres desactivar por completo los chats individuales con personajes de IA o limitar el acceso a ciertos personajes específicos. Además, los adultos podrán acceder a información sobre los temas que los adolescentes discuten con estas inteligencias artificiales.
Meta explicó en una publicación de blog que estas funciones aún están en desarrollo y comenzarán a estar disponibles a principios del próximo año.
Esta iniciativa surge en un contexto de creciente escrutinio hacia las grandes empresas tecnológicas por parte de padres, expertos en salud mental y legisladores, quienes argumentan que las plataformas digitales no están haciendo lo suficiente para proteger a los menores. Particular preocupación ha generado la posibilidad de que los jóvenes establezcan vínculos emocionales con chatbots, lo cual ha sido asociado en algunos casos con aislamiento social y malestar psicológico.
En lo que va del año, se han presentado demandas contra la aplicación Character.AI por presuntamente influir en casos de autolesión y suicidio en adolescentes. En agosto, OpenAI también fue demandada tras alegaciones de que su chatbot ChatGPT contribuyó al suicidio de un joven de 16 años. Una investigación del Wall Street Journal en abril reveló además que algunos chatbots, incluyendo los de Meta, entablaron conversaciones sexuales con cuentas que se identificaban como menores de edad.
Meta aseguró que sus personajes de IA están diseñados para evitar cualquier conversación relacionada con temas sensibles como autolesiones, suicidio o trastornos alimenticios. Los adolescentes solo pueden interactuar con personajes centrados en contenidos educativos, deportivos y de entretenimiento seguro.
Estas nuevas herramientas de control parental se suman a otras medidas adoptadas recientemente por la compañía. Esta misma semana, Instagram ajustó la configuración predeterminada de las cuentas de adolescentes para alinearse con estándares PG-13, lo que limita la exposición a contenido inapropiado. Por su parte, OpenAI también introdujo en septiembre restricciones similares en ChatGPT para proteger a los usuarios más jóvenes.
