Evaluación de Capacidades y Riesgos en IA General

Esta convocatoria busca financiar propuestas que desarrollen metodologías de evaluación sólidas para modelos de Inteligencia Artificial de Propósito General (GPAI, por sus siglas en inglés). Estos modelos, como los sistemas multimodales y grandes modelos de lenguaje, requieren evaluaciones avanzadas que consideren confiabilidad, equidad y alineación con valores humanos. El objetivo principal es establecer marcos de referencia que sirvan tanto a proveedores de GPAI como a responsables de políticas, asegurando un uso ético y responsable de estas tecnologías.

Temáticas y criterios de elegibilidad
Las propuestas pueden abarcar desde la detección temprana de capacidades emergentes en sistemas GPAI, hasta la evaluación de riesgos con potencial impacto económico o de seguridad (por ejemplo, amenazas CBRN o ciberseguridad). Se priorizan enfoques interdisciplinarios que integren ciencias sociales y humanas (SSH) con capacidades técnicas. Las entidades elegibles incluyen personas jurídicas de países miembros de la Unión Europea, territorios de ultramar y países asociados a Horizonte Europa, como Canadá, Reino Unido, Noruega y varios países latinoamericanos que tengan acuerdos vigentes. El financiamiento varía entre 3 y 4 millones de euros por proyecto.

Tips:
Las propuestas deben incluir indicadores cualitativos y cuantitativos de seguimiento (KPIs), benchmarks y casos de uso. Además, se recomienda establecer sinergias con otros proyectos del programa Horizonte Europa o del Programa Europa Digital. Es esencial que los resultados estén disponibles en acceso abierto o mediante plataformas como AI-on-demand, promoviendo la cooperación internacional y la diseminación de buenas prácticas. Un tip clave: incluir expertos en SSH mejora significativamente la evaluación de la propuesta, ya que se considera un requerimiento transversal obligatorio.