A continuación se resumen las principales novedades en materia de inteligencia artificial:
- Consulta sobre sistemas de alto riesgo
La Oficina de Inteligencia Artificial de la Comisión Europea ha abierto una consulta pública para recabar opiniones sobre la clasificación de los sistemas de IA de alto riesgo, en el marco del desarrollo del Reglamento de IA. La iniciativa busca orientar la elaboración de directrices prácticas, incluyendo ejemplos concretos de sistemas que sí y que no se consideran de alto riesgo, así como pautas sobre las obligaciones de los distintos operadores implicados. La consulta se organiza en cinco bloques temáticos que abarcan desde los anexos del Reglamento hasta posibles modificaciones del listado de casos de uso y prácticas prohibidas.
- Cuestionario sobre IA en el sector financiero
ESMA ha iniciado un cuestionario para conocer cómo están utilizando las empresas de la UE la inteligencia artificial en el sector financiero. Esta iniciativa ha sido desarrollada por ESMA para que las autoridades nacionales competentes la distribuyan entre las entidades supervisadas en el ámbito de los valores. El objetivo es recabar información que permita elaborar un informe sobre el uso de la IA en este sector.
Este cuestionario incluye preguntas sobre el perfil de la entidad, estrategia y gobernanza en materia de IA, políticas y casos de uso de IA (desde una perspectiva genérica de los casos de uso en producción o desarrollo) y casos de uso específicos (incluyendo información detallada).
- Informe de ESMA sobre LLMs
ESMA, en colaboración con el Institut Louis Bachelier y el Alan Turing Institute, ha publicado un informe sobre el uso de grandes modelos de lenguaje (LLMs) en el sector financiero. El documento, fruto de un taller especializado, examina sus aplicaciones actuales, los riesgos legales, éticos y reputacionales que conllevan, y las medidas necesarias para una adopción responsable. Se destaca su uso creciente en análisis de texto, atención al cliente y comunicaciones, así como la necesidad de desarrollar métricas de evaluación, estándares comunes, marcos de supervisión y formación específica. También se subraya la importancia de considerar el impacto ambiental asociado al despliegue de esta tecnología.
- Directrices sobre modelos de IA de uso general
La Comisión Europea ha publicado un borrador de Directrices sobre el alcance de las obligaciones para los proveedores de modelos de IA de uso general. Dada la amplitud de la definición de “proveedor”, sería posible que las Gestoras se viesen comprendidas en dicha categoría, especialmente si realizasen una modificación sustancial al modelo de IA (como podría suceder si los recursos informáticos empleados en su entrenamiento superasen un umbral significativo respecto del modelo original).
Los modelos de IA de uso general se definen como aquellos que pueden aplicarse a múltiples fines sin estar diseñados para una única funcionalidad. Las Directrices precisan que se considera proveedor a quien introduce por primera vez el modelo en el mercado de la UE, incluso sin actividad comercial directa, y detallan que la mera publicación del modelo en repositorios o su disponibilidad mediante API o plataformas públicas ya se considera una “introducción en el mercado”. La adopción formal del texto se producirá una vez estén disponibles todas las traducciones oficiales.