El Faro Europeo de la Inteligencia Artificial Segura (ELSA), un centro de excelencia de IA creado y compuesto por los mejores investigadores europeos, se reunió por primera vez en Barcelona durante tres días del 10 al 12 de octubre. Esta amplia y creciente red tiene como objetivo promover el desarrollo y el despliegue de soluciones de IA de vanguardia en el futuro y convertir a Europa en el faro mundial de la IA de confianza.

El objetivo de la reunión de los 26 socios iniciales era avanzar en los apremiantes los retos urgentes en materia de seguridad y protección de la inteligencia artificial y el aprendizaje automático. ELSA se basa en el Laboratorio Europeo de Laboratorio Europeo de Aprendizaje y Sistemas Inteligentes (ELLIS), una una red de excelencia en IA reconocida internacionalmente.

El consorcio debatió las actividades previstas para los próximos tres años. Como explicó el coordinador del proyecto ELSA y profesor de CISPA, el Dr. Mario Fritz, explicó: "Queremos desarrollar una inteligencia artificial fiable. Esto significa que, en el futuro, queremos que la IA se utilice de forma legalmente ética y segura dentro de Europa. El diseño de estas tecnologías es nuestra responsabilidad, al igual que el desarrollo del impacto positivo en la sociedad".

El segundo día, los investigadores participaron en un taller práctico centrado en la definición de los seis casos de uso que se estudiarán con más detalle a lo largo del proyecto ELSA. Los casos de uso seleccionados se refieren a usos clave de la IA y el ML que servirán de baremo para medir los avances en técnicas y modelos de IA seguros.

Los casos de uso se centran en:
SANIDAD
La sanidad es un área sensible con los más altos requisitos de privacidad. El proyecto ELSA se centra en los datos médicos y en cómo se puede entrenar la IA con ellos respetando la privacidad en diferentes instituciones.

CONDUCCIÓN AUTÓNOMA
Los vehículos autónomos son sistemas críticos para la seguridad. No sólo deben tener un rendimiento excelente, sino que también deben responder adecuadamente a lo inesperado. Puede tratarse, por ejemplo, de una manipulación adversa, condiciones meteorológicas extremas o accidentes. El proyecto ELSA pretende desarrollar entornos de prueba para evaluar la seguridad de estos métodos.

ROBÓTICA - APRENDIZAJE A TRAVÉS DE LA INTERACCIÓN HUMANA
Uno de los objetivos de la robótica es permitir que las máquinas aprendan continuamente y realicen tareas de forma independiente, con o incluso sin ayuda humana. Para lograr este objetivo, los modelos de ML subyacentes a las máquinas inteligentes deben entrenarse con grandes cantidades de datos. El propósito del proyecto ELSA es garantizar que los datos puedan utilizarse eficazmente para el proceso de aprendizaje sin violar la privacidad de las personas.

ANÁLISIS DE MEDIOS: LA LUCHA CONTRA LA DESINFORMACIÓN
Gracias a la potencia de las técnicas modernas, los deepfakes se habilitan con mayor facilidad y se difunden posteriormente en los medios de comunicación. Un deepfake es una imagen o un vídeo creado mediante inteligencia artificial que parece auténtico cuando no lo es. Mientras que en años anteriores, las imágenes generadas por la IA contenían pistas sobre la falsificación, los resultados actuales son mucho menos reconocibles. Este caso de uso explora nuevas formas de entender y detectar datos falsos.

CIBERSEGURIDAD - DETECCIÓN DE MALWARE
La seguridad de los dispositivos de los usuarios finales es una tarea ardua y desafiante. Muchas soluciones antimalware se basan en el aprendizaje automático y en algoritmos de IA basados en datos para combatir el malware. Por desgracia, los atacantes pueden eludir estas protecciones atacando la propia IA. El proyecto ELSA pretende superar este problema haciendo que los sistemas de detección de malware basados en IA sean más resistentes a estos ataques o eliminando algunos por completo.

INTELIGENCIA DOCUMENTAL
La extracción automatizada de información de los documentos es un aspecto crucial de las soluciones de IA para las empresas y se utiliza para la automatización de procesos. El análisis de la información de los documentos conduce a procesos de toma de decisiones de IA que pueden tener un impacto directo en los seres humanos. Al mismo tiempo, los documentos suelen contener información privada, lo que limita el acceso a ellos. El proyecto ELSA pretende desarrollar métodos para entrenar modelos de ML a gran escala sobre datos privados y ampliamente distribuidos que protejan la privacidad humana.

El miércoles, día de clausura del evento de lanzamiento, los participantes tuvieron la oportunidad de conocer el trabajo de investigación de los demás participantes en una sesión de pósters. Los socios de ELSA presentaron pósters científicos sobre la inteligencia artificial y aprendizaje automático. En un debate final, se resumieron los resultados de los últimos días y se consolidó la visión de ELSA - European Lighthouse on Secure and Safe AI.

El Prof. Dr. Mario Fritz concluyó: "Ha sido un gran comienzo para el proyecto ELSA en Barcelona. Estamos muy motivados para seguir construyendo el centro virtual de excelencia para la IA segura en Europa."

Más información