Tendencias21

La inteligencia artificial puede ser fácilmente engañada

Un campo creciente de investigación sugiere que la inteligencia artificial puede ser fácilmente engañada, ya que proporciona respuestas correctas sin comprender verdaderamente la información. Los atacantes podrían utilizar esta vulnerabilidad para introducir elementos contradictorios con los que confundir a los sistemas de aprendizaje automático. Conocer este peligro permite a los investigadores realizar simulacros para proveerse después de las herramientas necesarias para solucionar las deficiencias, consiguiendo algoritmos más eficientes. Por Patricia Pérez.

La inteligencia artificial puede ser fácilmente engañada

A principios de 1900, Wilhelm von Osten, entrenador de caballos y matemático alemán, le dijo al mundo que su caballo sabía matemáticas. Durante años, Von Osten recorrió Alemania para demostrar que Clever Hans, como se llamaba el cuadrúpedo, era capaz de calcular ecuaciones simples, lo que manifestaba levantando la pata ante la respuesta correcta.

Sin embargo, un extenso estudio llevado a cabo por el psicólogo Carl Stumpf encontró que Clever Hans no resolvía problemas, más bien respondía a señales visuales. Al golpear el número correcto, el entrenador y la multitud estallaban en aplausos, por lo que el caballo se detenía. Cuando no podía ver esas expresiones, seguía intentándolo una y otra vez.

La informática puede aprender mucho de Clever Hans. Por ejemplo, que los sistemas de inteligencia artificial creados hasta ahora han aprendido lo suficiente para dar una respuesta correcta, pero sin una verdadera comprensión de la información. Y eso significa que podrían ser fáciles de engañar.

Para prepararse frente a posibles ataques, se está llevando a cabo una investigación en la que participan desde científicos de la Universidad Estatal de Pensilvania, a Google o el mismísimo Ejército norteamericano. En las teorías planteadas en el estudio, del que da cuenta un artículo publicado en PopularScience, un atacante podría cambiar lo que ve un vehículo sin conductor, activar el reconocimiento de voz de cualquier teléfono para entrar a una web con malware o dejar que un virus acceda al servidor de seguridad en una red.

Este tipo de ataques utiliza modelos conflictivos, es decir, imágenes, sonidos o texto que pueden resultar normales ante los ojos de un espectador humano, pero no así para las máquinas. Conocer este peligro desde el principio permite a los investigadores proveerse de las herramientas para solucionar las deficiencias, consiguiendo algoritmos incluso más eficientes.

Redes neuronales profundas

La corriente principal de Inteligencia Artificial hoy en día involucra redes neuronales profundas, que tratan de reproducir el funcionamiento del cerebro humano. La idea general es descentralizar el cálculo a través de miles de pequeñas ecuaciones (las neuronas) que toman datos, los procesan y transmiten a otra capa de miles de pequeñas ecuaciones.

Estos algoritmos aprenden de la misma forma que los humanos, con modelos basados en la repetición, asociación o imitación. Sin embargo, los investigadores detectaron que podrían sufrir un ataque con la introducción de datos engañosos a propósito, lo que han denominado modelos conflictivos. «Mostramos una foto que es claramente la imagen de un autobús escolar, y hacemos pensar que es un avestruz», explica Ian Goodfellow, investigador de Google que ha impulsado gran parte del trabajo.

Con sólo alterar un cuatro por ciento de las imágenes introducidas en una red neuronal profunda, los investigadores consiguieron engañar en la clasificación con una tasa de éxito del 97 por ciento. Incluso cuando no sabían cómo la red procesaba las imágenes pudieron engañarla con casi el 85 por ciento de exactitud. Esta última es la primera investigación documentada de lo que se conoce como ataque de caja negra, sin conocer su arquitectura, y resulta de gran interés por ser el escenario más probable en el mundo real.

En su estudio, los investigadores llevaron a cabo un ataque real contra una red neuronal profunda que clasifica imágenes utilizando MetaMind, una herramienta online para desarrolladores. El equipo construyó y entrenó la red, pero su algoritmo de ataque operó de forma independiente a la arquitectura. De esta forma consiguieron forzar un ataque de caja negra que generó fallos en la clasificación con una precisión de hasta el 84,24 por ciento.

Por otra parte, dos grupos de la Universidad de Berkeley y Georgetown han desarrollado con éxito algoritmos que pueden emitir comandos de voz para los asistentes personales digitales, como Siri y Google Now, en forma de ráfagas de sonido irreconocibles para el oído humano. Mientras una persona sólo oiría un ruido blanco aleatorio, un asistente sería activado para realizar acciones ajenas a la intención de su propietario. De hecho, en los experimentos llevados a cabo, consiguieron activar reconocedores de audio de código abierto, a Siri y Google Now con una precisión superior al 90 por ciento.

El ruido suena como una transmisión de ciencia-ficción; una mezcla confusa de ruido blanco y voz humana, pero sin duda irreconocible como un comando. Con este ataque, cualquier teléfono que escucha el ruido podría verse obligado, sin saberlo, a visitar la página web que reproduce el ruido y, así, infectar a otros teléfonos cercanos, o descargar en silencio malware en el dispositivo.

Tanto este ataque como el de caja negra pueden ocurrir porque las máquinas están capacitadas para pensar que hay datos legibles o importantes en casi todas las entradas, y también que algunas son más comunes que otras.

La inteligencia artificial puede ser fácilmente engañada

En alerta

No es de extrañar que este área de investigación haya despertado el interés militar. De hecho, el Laboratorio de Investigación del Ejército de EEUU ha subvencionado al menos dos de los trabajos más recientes, incluyendo el ataque de caja negra. Su interés radica en la detección y detención de datos que puedan inducir a error, en una época en que no todas las fuentes de información pueden examinarse adecuadamente. Igualmente interesa de cara al desarrollo de robots, tanques y otros vehículos autónomos, para conseguir inmunidad frente a potenciales ataques adversarios.

Con todo, y mientras la investigación siga su curso, los expertos alertan de que cualquier sistema que utilice redes neuronales profundas debería ser cauteloso frente a la posibilidad de ataques. No hay que olvidar que tanto el aprendizaje automático como los sistemas de inteligencia artificial están todavía en su etapa inicial de crecimiento, por lo que cualquier descuido de seguridad puede tener resultados drásticos. «Al menos en seguridad informática, por desgracia, los atacantes van siempre por delante», admiten.

RedacciónT21

Hacer un comentario

RSS Lo último de Tendencias21

  • Crean un reactor nuclear de sobremesa capaz de replicar la energía de las estrellas 5 noviembre, 2024
    Estados Unidos ha creado un reactor de fusión nuclear compacto utilizando piezas impresas en 3D y materiales disponibles en el mercado, tan pequeño que cabe en una mesa de cocina. Este dispositivo engañosamente simple contiene la clave para replicar la energía de las estrellas, lo que podría conducir a un futuro de energía limpia y […]
    Eduardo Martínez de la Fe
  • Descubren una ciudad fortificada oculta durante 4.000 años en un oasis del desierto árabe 4 noviembre, 2024
    El hallazgo de una antigua ciudad escondida en un oasis en la actual Arabia Saudita revela cómo la vida humana estaba cambiando lentamente en ese momento de la Edad del Bronce, de una existencia nómada a una incipiente organización urbana. Los restos de la ciudad se mantuvieron ocultos durante 4.000 años por el oasis amurallado […]
    Pablo Javier Piacente
  • Los agujeros negros están estirando el Universo 4 noviembre, 2024
    Los agujeros negros podrían estar impulsando la expansión acelerada del Universo, según sugiere un nuevo estudio: los científicos sostienen que si los agujeros negros contienen energía oscura, pueden acoplarse y crecer con el Universo en expansión, algo que al mismo tiempo provoca que el crecimiento se acelere. Aunque esta hipótesis no es nueva, los últimos […]
    Pablo Javier Piacente
  • La evolución no sería exclusiva de los seres vivos: afecta también a los minerales 4 noviembre, 2024
    Cualquier sistema está sujeto a procesos evolutivos siguiendo un supuesto principio fundamental que impulsa el aumento de la complejidad en cualquier sistemas físico, no solo en la biología. Una propuesta que ya encuentra aplicaciones en la oncología, ecología microbiana o en las ciencias de la computación.
    Redacción T21
  • Las hormigas invasoras hacen autostop para encontrar un nuevo hogar 3 noviembre, 2024
    Se sabe que los insectos son especialistas en utilizar todo tipo de formas de transporte para atravesar amplias distancias, pero un nuevo estudio ha revelado que las hormigas también dominan el autostop: estos insectos sociales recogen a toda la familia, incluida su reina, y se suben al primer vehículo que encuentran para emprender un viaje […]
    Pablo Javier Piacente
  • La electricidad podría producir oro 2 noviembre, 2024
    Un nuevo estudio sugiere que la formación de pepitas de oro podría ser impulsada por un fenómeno eléctrico único: la piezoelectricidad es un proceso que resulta de la polarización eléctrica que ocurre dentro de sustancias, incluidos cristales como el cuarzo, cuando se colocan bajo tensión mecánica. Esto explicaría la formación de enormes pepitas de oro […]
    Pablo Javier Piacente
  • La vida extraterrestre podría prosperar sin necesidad de un planeta que la cobije 1 noviembre, 2024
    Los investigadores sostienen que las condiciones de soporte vital creadas únicamente por estructuras biológicas podrían de hecho existir, haciendo completamente posible que algunas formas de vida prosperen en hábitats espaciales muy diferentes a los existentes en la Tierra. Incluso, podrían existir civilizaciones extraterrestres en hábitats autosustentables vagando en el espacio, sin necesidad de contar con […]
    Pablo Javier Piacente
  • Un nuevo tratamiento para eliminar residuos cerebrales podría extender la vida humana 1 noviembre, 2024
    La prevención de la acumulación de F-actina en el envejecimiento de las moscas de la fruta, a través de la modificación de genes específicos, optimizó el reciclaje celular, disminuyó la acumulación de desechos cerebrales y prolongó su vida útil saludable en aproximadamente un 30 %, según un nuevo estudio. El hallazgo podría propiciar el futuro […]
    Pablo Javier Piacente
  • La IA puede procesar ilusiones ópticas como lo hace el cerebro humano 1 noviembre, 2024
    Un nuevo sistema de inteligencia artificial (IA) puede imitar por primera vez cómo las personas interpretan ilusiones ópticas complejas, gracias al gato de Schrödinger. Un impulso a la visión artificial, la seguridad aérea y la navegación espacial.
    Eduardo Martínez de la Fe
  • Objetos desconocidos podrían existir en los confines del Sistema Solar 31 octubre, 2024
    Una serie de observaciones realizadas con el Telescopio Subaru han permitido descubrir nuevos objetos en el Sistema Solar exterior, sugiriendo la existencia de una población de cuerpos más grande y no identificada hasta el momento más allá del Cinturón de Kuiper. El hallazgo de los misteriosos 11 objetos se concretó en el marco de la […]
    Pablo Javier Piacente