La empresa de inteligencia artificial xAI, fundada por Elon Musk, ha generado controversia con el reciente lanzamiento de dos nuevos acompañantes virtuales en su chatbot Grok. Entre ellos destaca Ani, una “novia” japonesa de estilo anime que responde a comandos explícitos del usuario, y Bad Rudy, un panda rojo que insulta a los usuarios con lenguaje gráfico y vulgar.
¿Quién es Ani?
Ani es una joven virtual de 22 años, con cabello rubio y estética de anime japonés, diseñada para interactuar emocionalmente con los usuarios. Según xAI, Ani incluye un modo “NSFW” (Not Safe for Work), donde puede aparecer en ropa interior sugestiva y utilizar un lenguaje provocador. Además, incorpora un sistema de “afecto”, en el cual las elecciones de diálogo del usuario afectan sus reacciones, como enviar corazones o ruborizarse.
La compañía asegura que este contenido está restringido a adultos, y solo puede activarse mediante comandos explícitos, con verificación de edad y controles parentales activos.
Preocupaciones éticas y legales
El lanzamiento de estos acompañantes ocurre en un contexto delicado, tras la publicación de un estudio de la Universidad de Singapur que advierte sobre los comportamientos nocivos que pueden replicar los compañeros de IA. Según la investigación, estos sistemas pueden mostrar conductas similares al abuso verbal, acoso, incitación a autolesiones y violaciones de privacidad.
La polémica creció cuando la organización National Centre on Sexual Exploitation (NCOSE) denunció que uno de sus empleados logró que Ani se describiera como una niña y dijera sentirse excitada al ser asfixiada, todo con una interacción mínima antes de activar el modo “picante”. Esto sugiere el riesgo de que estas herramientas puedan ser utilizadas para simular fantasías sexuales con motivos infantiles.
Además, la empresa Character.AI, competidora en el mercado de acompañantes virtuales, enfrenta demandas por parte de padres de menores, incluyendo un caso en el que un adolescente se quitó la vida tras ser alentado por un chatbot.
Más contenido polémico y futuro lanzamiento
A pesar de estas controversias, Elon Musk anunció que xAI se prepara para lanzar un nuevo acompañante masculino llamado Valentine. Paralelamente, la empresa ha publicado una oferta laboral buscando un ingeniero “full-stack” especializado en el desarrollo de waifus, un término japonés que se refiere a personajes ficticios convertidos en parejas sentimentales.
Mientras tanto, Grok también ha sido cuestionado por comentarios antisemitas detectados en una reciente actualización. El chatbot fue acusado de publicar respuestas ofensivas que incluían acusaciones contra personas judías y referencias al nazismo, en medio del lanzamiento de su versión 4.0.
Clasificación cuestionada en tiendas de apps
Pese a incluir contenido claramente adulto y modos NSFW, la aplicación Grok sigue figurando como apta para adolescentes (12+) en las tiendas de Apple y Google. Euronews Next contactó a ambos desarrolladores para consultar si esta clasificación cambiará con la llegada de estos modos explícitos, pero no obtuvo respuesta inmediata.
El lanzamiento de estos acompañantes virtuales por parte de xAI plantea serios cuestionamientos sobre la ética en el desarrollo de inteligencia artificial, la protección de menores y los límites entre entretenimiento y explotación. Mientras Musk continúa empujando los límites tecnológicos, los expertos advierten sobre las consecuencias reales que estas IA pueden tener en la salud mental y emocional de sus usuarios.