Robots rebeldes y defectos humanos: la IA en la ciberseguridad
Cuando la mayoría de la gente oye el término «inteligencia artificial» (IA), piensa en películas de ciencia ficción en las que aparecen robots que se rebelan e intentan aniquilar a los seres humanos. La realidad es que la IA es mucho más que eso. La combinación del aprendizaje automático aplicado a la seguridad, las redes neuronales y la toma de decisiones puede llevar —y de hecho ha llevado— esta tecnología a nuevas cotas.
Las primeras aplicaciones de la inteligencia artificial (IA) en informática se remontan a 1951, y se han producido importantes avances a medida que ha aumentado la potencia computacional de los ordenadores (Buchanan, AI Magazine, 2005). Hay quienes creen que la IA desempeñará un papel importante en el futuro de la ciberseguridad. Esto resulta evidente, ya que la IA y las redes neuronales pueden realizar más trabajo que los seres humanos en menos tiempo. Además, no necesitan vacaciones ni se ponen enfermas. Una vez programadas, presentan una tasa de error muy baja y, si se produce algún error, suele deberse a la programación, lo cual constituye un error humano.
El verdadero problema es que la IA siempre va a reaccionar ante un incidente cibernético siguiendo un algoritmo específico, basado en el análisis del árbol de decisión y en los algoritmos que utiliza para la «lógica». Se trata de un defecto fundamental de todos los sistemas informáticos. Si un programa de software puede programarse, también puede desprogramarse. Es posible encontrar fallos y vulnerabilidades para explotar una debilidad del sistema. Si se conoce este algoritmo, los piratas informáticos pueden actuar para eludir las medidas de seguridad que activan una respuesta cibernética, con lo que burlan y retrasan la reacción del sistema. La solución ideal consiste en que las personas y las máquinas trabajen conjuntamente. Se ha documentado que las personas sienten un profundo temor o vacilación a la hora de trabajar con ordenadores si no saben cómo se espera que reaccione el ordenador (Rouse, Human Factors, 1988).
Considero que esta investigación está desactualizada y que las personas se están acostumbrando cada vez más a trabajar con ordenadores y a confiar en ellos. Con la incorporación de la inteligencia artificial y las redes neuronales, es posible que la mayoría de los expertos en ciberseguridad no confíen en el algoritmo que se utiliza para tomar las decisiones de la IA; por lo tanto, la experiencia individual desempeñará un papel fundamental en la forma en que utilicen los resultados proporcionados por el ordenador. Sugeriría no situar al ordenador en la posición de responsable último de la respuesta ante un incidente cibernético, sino permitirle sugerir respuestas que pueda llevar a cabo el socio humano en dicha relación. La IA podría programarse para analizar grandes cantidades de datos en busca de anomalías o patrones específicos que ya se sabe que constituyen un problema cibernético y, a continuación, comunicar esa información a su homólogo humano. Si este se siente cómodo con los datos que genera la IA, tendría la opción de permitir que la IA responda automáticamente al incidente cibernético. Considero que esta opción requerirá un tiempo para que se establezca una relación de confianza. Una vez establecida dicha relación, los incidentes cibernéticos se gestionarán de forma más eficiente.
La IA se utiliza en muchos ámbitos del sector de la ciberseguridad. En contextos militares existe la necesidad de emplear robótica basada en IA para tomar decisiones en situaciones peligrosas. Exponer a un robot con IA a situaciones de peligro es una alternativa más adecuada que poner en riesgo vidas humanas (Yeh, P. Z., y Crawford, J., AI Magazine, 2017). El uso de robots con IA para inspeccionar los procesos de fabricación es una forma de automatizar la función que desempeña el ser humano en la producción (Norman, D., Research-Technology Management, 2017).
El uso de la IA en la fabricación implica que no contaremos con tantos ingenieros de línea dedicados a la inspección de productos. Los ordenadores y las cámaras se encargarían de los controles iniciales y, a continuación, un humano podría realizar un seguimiento en caso de que surgieran problemas. Por lo tanto, la función de un ingeniero de línea debe evolucionar ahora hacia la de alguien capaz de interpretar y comprender los resultados del sistema informático. Lo mismo puede decirse de los ingenieros o analistas de defensa de redes o de refuerzo de infraestructuras: deje que la IA robótica realice la primera revisión y establezca las bases. A continuación, que un humano compruebe que todo cumple con los estándares. Deje que las redes neuronales se encarguen del análisis de datos e informen sobre los valores atípicos. Esto agilizará las tareas diarias, al tiempo que integra ordenadores, IA, ciberseguridad y personas. El objetivo general debe ser aumentar la seguridad al integrar la inteligencia artificial en los sistemas de seguridad.
Confiar plenamente en la IA para que se encargue de todas las tareas sería una iniciativa insensata y podría muy bien conducir a las historias de terror de ciencia ficción. Utilizar la IA para realizar tareas que puedan acelerar la producción y el rendimiento de los seres humanos es una idea que, en ocasiones, resulta inquietante, pero que debería acogerse a medida que la tecnología evoluciona.
