En un paso firme hacia la promoción de una inteligencia artificial ética y segura, IndiaAI Mission anunció la incorporación de cinco nuevos proyectos dentro de su programa “Safe & Trusted AI”, enfocado en combatir los principales riesgos asociados al uso de la IA, como la identificación de deepfakes, la reducción de sesgos y la evaluación de la seguridad en modelos de IA.
La iniciativa, desarrollada bajo el Ministerio de Electrónica y Tecnología de la Información (MeitY), recibió más de 400 propuestas de instituciones académicas, startups y centros de investigación de todo el país, demostrando el gran interés de la comunidad tecnológica india en construir una IA confiable y ética.
La visión de IndiaAI Mission para una IA segura
El objetivo central de IndiaAI Mission es fortalecer el ecosistema nacional de inteligencia artificial con un enfoque en ética, seguridad e inclusión. Desde su creación, el programa ha buscado fomentar la innovación responsable, y en diciembre de 2024 lanzó su segunda convocatoria de proyectos bajo el pilar Safe & Trusted AI.
Tras un exhaustivo proceso de evaluación, cinco proyectos pioneros fueron seleccionados para recibir financiamiento y mentoría, marcando un nuevo capítulo en el desarrollo de tecnologías seguras en el país.
Los cinco proyectos seleccionados y sus áreas clave
1. Saakshya: Marco de detección de deepfakes basado en agentes múltiples
Dirigido por IIT Jodhpur y IIT Madras, este proyecto busca desarrollar técnicas avanzadas de retrieval-augmented generation (RAG) y sistemas multiagente para detectar medios manipulados. Su objetivo es crear recursos que permitan identificar deepfakes en diversos formatos, contribuyendo a una mayor transparencia y responsabilidad en el uso de contenido generado por IA.
2. AI Vishleshak: Detección de falsificaciones audiovisuales y de firmas
Liderado por IIT Mandi junto al Director de Servicios Forenses de Himachal Pradesh, este proyecto se centra en identificar audios, videos y documentos manuscritos falsificados. Su aplicación será crucial en contextos legales, verificación digital y seguridad pública.
3. Detección en tiempo real de voces falsas (Voice Deepfake Detection)
Desarrollado por IIT Kharagpur, este proyecto creará herramientas para detectar suplantaciones de voz y fraudes de voz en tiempo real. La iniciativa ayudará a prevenir estafas de voice phishing y fortalecerá la seguridad de los asistentes de voz y sistemas de autenticación basados en IA.
4. Evaluación del sesgo de género en sistemas de IA agrícola
Una colaboración entre Digital Futures Lab y Karya, este proyecto busca detectar y mitigar los sesgos de género presentes en modelos de IA aplicados a la agricultura. Su meta es garantizar que las herramientas tecnológicas utilizadas en el campo sean inclusivas y justas, especialmente en contextos rurales y de desarrollo.
5. Anvil: Herramienta de prueba y evaluación para IA generativa
Desarrollado por Globals ITES e IIT Dharwad, Anvil apunta a crear herramientas avanzadas de penetration testing para modelos de lenguaje y sistemas generativos de IA. Además, se enfocará en evaluar la seguridad y robustez de los modelos nacionales, fortaleciendo la autonomía tecnológica de la India.
Construyendo un ecosistema de IA transparente y confiable
Según el IndiaAI Mission, estos cinco proyectos representan el siguiente paso hacia un ecosistema de IA más seguro, inclusivo y transparente. Cada uno aborda un desafío clave: detectar manipulaciones digitales, reducir sesgos y mejorar la confianza en los sistemas automatizados.
Con esta nueva ola de proyectos, India refuerza su liderazgo en la innovación responsable de inteligencia artificial. Desde la lucha contra los deepfakes hasta la defensa de la equidad y la ciberseguridad, el programa “Safe & Trusted AI” marca un hito en el compromiso del país con un futuro digital más ético, justo y seguro para todos.