Engañando a las redes neuronales profundas
- Bueno-Crespo, Andrés 2
- Rodríguez-Bermúdez, Germán 1
- Pereñiguez-García, Fernando 2
- 1 Centro Universitario de la Defensa
-
2
Universidad Católica San Antonio
info
- José Serna Serrano (dir. congr.)
- Pilar Sánchez-Andrada (dir. congr.)
- Ignacio Álvarez Rodríguez (dir. congr.)
Publisher: Centro Universitario de la Defensa (Academia General del Aire)
ISBN: 978-84-946021-3-9
Year of publication: 2016
Pages: 405-412
Type: Book chapter
Abstract
El reconocimiento de patrones es un campo ampliamente estudiado dentro de la inteligencia artificial. Actualmente, las llamadas redes neuronales profundas permiten clasificar patrones mediante un aprendizaje similar al que realiza el ser humano. Aunque asocian un etiquetado del objeto a clasificar con una imagen del mismo, no son capaces de comprender realmente la información que se está tratando. Tal y como han revelado diversas investigaciones, esta característica es una vulnerabilidad que podría utilizarse para confundir el aprendizaje del sistema por medio de mensajes contradictorios. En ciertas áreas de aplicación como son, por ejemplo, los entornos en defensa, se hace necesario proveer a estos algoritmos de mecanismos que aseguren la fiabilidad de la información tratada. Este artículo presenta esta problemática y analiza las técnicas emergentes de investigación que persiguen solventar este problema por medio del diseño de sistemas de aprendizaje más robustos