Engañando a las redes neuronales profundas

Resumo

El reconocimiento de patrones es un campo ampliamente estudiado dentro de la inteligencia artificial. Actualmente, las llamadas redes neuronales profundas permiten clasificar patrones mediante un aprendizaje similar al que realiza el ser humano. Aunque asocian un etiquetado del objeto a clasificar con una imagen del mismo, no son capaces de comprender realmente la información que se está tratando. Tal y como han revelado diversas investigaciones, esta característica es una vulnerabilidad que podría utilizarse para confundir el aprendizaje del sistema por medio de mensajes contradictorios. En ciertas áreas de aplicación como son, por ejemplo, los entornos en defensa, se hace necesario proveer a estos algoritmos de mecanismos que aseguren la fiabilidad de la información tratada. Este artículo presenta esta problemática y analiza las técnicas emergentes de investigación que persiguen solventar este problema por medio del diseño de sistemas de aprendizaje más robustos