Informáticos detectan los puntos débiles de los algoritmos de aprendizaje automático
El aprendizaje automático es la mayor revolución de la informática en décadas. Gracias a los algoritmos de aprendizaje, los ordenadores pueden realizar proezas sensacionales incluso en tareas abstractas. Pero, al igual que los humanos, los ordenadores cometen errores en el proceso, y entender por qué un algoritmo de aprendizaje automático comete ciertos errores es uno de los retos clave de la informática moderna.
Aquí es donde entran Michael Hedderich y Jonas Fischer con su investigación. Han desarrollado un software capaz de detectar los puntos débiles de algoritmos de aprendizaje automático muy complejos y ayudar así a corregirlos.
Gracias a los algoritmos de aprendizaje automático, los ordenadores pueden realizar proezas asombrosas, incluso en ámbitos que antes sólo se atribuían a los humanos, como el lenguaje y las bellas artes. Estos métodos computacionales se basan en las llamadas redes neuronales artificiales. "Se trata de redes de funciones matemáticas que ponderan una entrada en función de ciertos parámetros personalizables y generan una salida a partir de ella", explica Michael Hedderich, investigador de las universidades de Saarland (Alemania) y Cornell (Estados Unidos). Estas funciones, llamadas neuronas, se conectan en serie y se entrenan con ayuda de datos, de modo que los ordenadores son capaces, por ejemplo, de filtrar los gatos en millones de fotos o de producir diálogos con personas de apariencia engañosamente real.
"Uno de los algoritmos de síntesis de texto más avanzados y actualmente más citados del mundo, el GPT-3 de OpenAI, procesa la entrada utilizando 175.000 millones de parámetros antes de emitir un resultado. Para un ser humano es casi imposible seguir este proceso y comprender dónde se producen los errores", afirma Jonas Fischer, que actualmente es investigador postdoctoral en la Universidad de Harvard. El estado anterior de la técnica consistía en analizar el resultado de un algoritmo de aprendizaje automático en busca de errores y enumerarlos uno por uno. A continuación, los expertos debían encontrar patrones en los conjuntos de datos, que podían contener fácilmente miles de entradas. En nuestro nuevo software 'PyPremise', utilizamos técnicas de minería de datos para buscar automáticamente patrones específicos en estos conjuntos de datos de errores y agruparlos al final en "categorías de errores" comprensibles. Así, en lugar de enumerar cada error individualmente, nuestro software es capaz de resumir los errores en un nivel más abstracto y hacer afirmaciones como: 'Su algoritmo ML tiene problemas con las formulaciones que contienen la pregunta 'Cuánto''. Esto se deduce de los resultados incorrectos en los casos X, Y y Z", explica Michael Hedderich.
Los investigadores de Saarbrücken probaron su software con conjuntos de datos sintéticos y reales. En el proceso, pudieron demostrar que su método se adapta a conjuntos de datos muy grandes con muchas propiedades diferentes de los puntos de datos individuales y ofrece resultados fiables. "La información así obtenida sobre los puntos débiles de un algoritmo de aprendizaje automático puede ser utilizada por los operadores para revisar sus datos de entrenamiento, por ejemplo, y corregir así los errores del sistema", explica Jonas Fischer. En principio, la herramienta informática desarrollada por los dos informáticos sólo se aplica a algoritmos del ámbito del procesamiento del lenguaje natural. Sin embargo, uno de sus objetivos es ampliar la herramienta para que pueda aplicarse también a otros ámbitos.
Michael Hedderich es informático y trabaja en la Universidad de Cornell y en el grupo de investigación "Sistemas de lenguaje hablado" del profesor de lingüística computacional Dietrich Klakow, de la Universidad del Sarre. Jonas Fischer se doctoró en la Universidad del Sarre el verano pasado, tras haber realizado su doctorado en el Instituto Max Planck de Informática bajo la supervisión del profesor Jilles Vreeken, del Centro Helmholtz de Seguridad de la Información CISPA. Jonas es ahora investigador postdoctoral en la Universidad de Harvard. Los investigadores presentaron por primera vez los fundamentos científicos del software en julio de 2022 en la "International Conference on Machine Learning (ICML)", una de las conferencias más importantes y prestigiosas del mundo en este campo en la que, por lo general, solo se acepta la presentación de una quinta parte de los trabajos científicos enviados.
Articulos Electrónica Relacionados
- Vehículos solares con techo de... La energía fotovoltaica es ahora una tecnología clave para los vehículos terrestres y los barcos. El tipo favorito es el silicio monocristalino, que ahora es in...
- El proyecto RECRITIC busca los... La problemática en cuanto a reciclabilidad de los residuos complejos, como las baterías de litio o las placas base, es clara y se complica cuando algunos de los...
- Nueva estructura de celda de m... KIOXIA Europe GmbH ha anunciado hoy el desarrollo de la primera [1] estructura de celda de memoria flash de puerta dividida semicircular tridimensional (3D) “Tw...
- Fabricantes europeos de autobu... Los fabricantes europeos de autobuses Irizar, Solaris, VDL y Volvo han llegado a un acuerdo para garantizar la interoperabilidad de los autobuses eléctri...
- Algoritmos que permiten a los ... Las operaciones comúnmente conocidas como pick (coger productos con un robot) y place (colocar) son tareas básicas en la mayoría de las aplicaciones robóticas, ...
- Avances de las baterías de gra... Utilizar el grafeno para mejorar el rendimiento de los dispositivos de almacenamiento de energía ha sido un objetivo clave desde que se aisló el material 2D. Ta...
- Bobinas superconductoras para ... Un equipo dirigido por los físicos de la Universidad Técnica de Múnich (TUM) Christoph Utschick y el profesor Rudolf Gross ha conseguido fabricar una bobina con...
- La Universidad Carlos III de M... Científicos de la Universidad Carlos III de Madrid (UC3M) estudian cómo mejorar el desarrollo de sistemas de computación avanzados para con...
- Micro drones bioinspirados par... Los vehículos aéreos de tamaño reducido han ganado una preponderancia notable en los últimos años debido a sus potenciales aplicaciones en un sinfín de campos, ...
- Reducción de la intensidad de ... La densidad energética de las baterías de los vehículos eléctricos sigue aumentando, pero la innovación no se limita a las celdas de las baterías. Gran parte de...
- Contacto virtual con la piel: ... Los tejidos inteligentes hacen más envolvente la realidad virtual y permiten experimentar la sensación del tacto físico. Una película ultrafina capaz de transmi...
- WSTS pronostica que el mercado... La Asociación Europea de la Industria de Semiconductores (ESIA) informa basada en datos de WSTS que se prevé que el mercado mundial de semiconduct...