Tendencias21
Una red neuronal aprende cuándo no es de fiar

Una red neuronal aprende cuándo no es de fiar

Un nuevo sistema permite que una red neuronal de aprendizaje profundo estime con rapidez el nivel de confianza que alcanza en sus resultados. De esta manera, se logra mayor eficiencia en la toma de decisiones.

Determinar la exactitud de los resultados que obtiene una red neuronal ha dejado de ser un problema de laboratorio: en la actualidad, estos sistemas pueden estar implicados en la conducción de un vehículo autónomo o en un diagnóstico médico. En consecuencia, tienen impacto en la realidad concreta y pueden salvar vidas. Ahora, una investigación realizada por científicos del Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Harvard crea un sistema capaz de estimar rápidamente la confianza que podemos tener en las redes neuronales y sus resultados.

Cuando un vehículo autónomo se acerca a la intersección de dos calles, es una red neuronal de aprendizaje profundo la que indicará si todo está en condiciones para girar o si, por el contrario, debemos estar atentos a cualquier tipo de obstáculo o complicación. En otras palabras, confiamos en la exactitud de la información que nos entregan estos sistemas de Inteligencia Artificial. Pero debemos saber que también se equivocan: ¿hasta dónde podemos confiar a ciegas en ellos?

Según una nota de prensa, los especialistas explican que las respuestas y los datos que nos brindan las redes neuronales para poder tomar decisiones son confiables en un 99%. El 1% restante es el objetivo del trabajo de los científicos que llevaron adelante esta investigación, logrando diseñar un sistema que determina el grado de fiabilidad de las redes y puede identificar con máxima rapidez las equivocaciones que se están cometiendo, ya sea por datos erróneos o faltantes.

Frente a decisiones que deben tomarse en cuestión de segundos, los esquemas actuales de estimación de la incertidumbre en redes neuronales resultan muy lentos y, además, extremadamente onerosos. El nuevo sistema no solamente incrementa la exactitud y la precisión en la determinación de errores, sino que además aumenta considerablemente la velocidad de respuesta y reduce el gasto. En consecuencia, se transforma en una alternativa más eficiente y segura en un área crítica.

Decisiones trascendentales

Alexander Amini, estudiante de doctorado en el MIT y autor principal del estudio, sostuvo que “no solamente es importante incrementar la capacidad de estos modelos de alto rendimiento, sino también comprender cuándo no podemos confiar en ellos”, indicó. Y las causas son fáciles de entender, considerando que permanentemente se incrementa el uso de redes neuronales de aprendizaje profundo en campos como la salud, la seguridad o el transporte, en los cuales un error puede significar la pérdida de vidas humanas.

La principal virtud del nuevo esquema y su ventaja comparativa con respecto a los modelos actuales es que logra captar en tiempo real la evidencia que apoya cada decisión tomada por el sistema. De esta forma, puede determinar el grado de confianza que merece la predicción realizada y, al mismo tiempo, si la incertidumbre se puede reducir ajustando la red neuronal o eliminando errores en los datos sobre los cuales ha trabajado el modelo.

En una prueba realizada en torno a un problema de visión por ordenador, la red neuronal creada por los investigadores pudo determinar con eficacia la distancia exacta entre una cámara y cada píxel de una imagen estudiada. Pero la diferencia con otros sistemas fue que también pudo indicar con precisión las ubicaciones o sectores en los cuales los datos no eran fiables.

“Si se tratara de una aplicación de atención médica, tal vez no confiaríamos en el diagnóstico que nos está dando el modelo y, en cambio, buscaríamos una segunda opinión», expresó Amini. Queda claro con este ejemplo la gran importancia que supone avanzar en la determinación de la confianza que se puede tener en las redes neuronales de aprendizaje profundo, como así también en la identificación de los errores que pueden cometer estos sistemas.

Referencia

Deep Evidential Regression. Alexander Amini, Wilko Schwarting, Ava Soleimany and Daniela Rus. arXiv (2019).

Foto: Alina Grubnyak en Unsplash.

Pablo Javier Piacente

Pablo Javier Piacente es periodista especializado en comunicación científica y tecnológica.

Hacer un comentario

RSS Lo último de Tendencias21

  • El núcleo de la Tierra podría estar a punto de estallar: habría volcanes a 5.000 kilómetros de profundidad 11 febrero, 2025
    Un estudio revela que el núcleo interno de la Tierra está cambiando de forma misteriosa y aún incierta: los científicos han desvelado que el núcleo interno giratorio no solamente modifica su velocidad de rotación, sino que también parece cambiar de forma, con variaciones que se manifiestan a través de las ondas acústicas que se propagan […]
    Redacción T21
  • Una exposición muestra el camino a la extinción de millones de seres vivos marinos conscientes 11 febrero, 2025
    Ecos del océano, una exposición que une ciencia, tecnología, arte y creatividad, muestra los ecos que surgen en la mente de una ballena cuando tropieza con la contaminación sonora generada por la actividad humana. Una experiencia inmersiva invita a preservar el equilibrio entre el ser humano, la naturaleza y el resto de especies que conviven en […]
    Alejandro Sacristán (enviado especial).
  • La IA ya supera a los humanos en el fraude digital 10 febrero, 2025
    Un nuevo estudio destaca la creciente sofisticación de los grandes modelos de lenguaje (LLM), la estructura detrás de los chatbots de IA más conocidos, para crear estrategias de fraude cibernético. Estos modelos pueden diseñar campañas de phishing hiperpersonalizadas y persuasivas, a una fracción del coste y el tiempo que requieren los métodos tradicionales desarrollados por […]
    Pablo Javier Piacente / T21
  • Alerta: Creciente riesgo de que restos de cohetes afecten zonas de intenso tráfico aéreo 10 febrero, 2025
    Un nuevo estudio publicado en la revista Scientific Reports advierte sobre el aumento del peligro que representa la basura espacial para la aviación comercial. La investigación, realizada por científicos de la Universidad de Columbia Británica, en Canadá, concluye que existe una probabilidad anual del 26% de que los desechos de cohetes espaciales reingresen a la […]
    Pablo Javier Piacente / T21
  • Los cantos de las ballenas son similares al lenguaje humano: puedes comprobarlo aquí 10 febrero, 2025
    Los científicos han descubierto la misma estructura o conjunto de patrones rítmicos que son un sello distintivo del lenguaje humano en el canto de las ballenas jorobadas: los hallazgos muestran que incluso especies tan disímiles evolutivamente pueden compartir sistemas de comunicación que se transmiten culturalmente de generación en generación.
    Redacción T21
  • El Rapto del Mundo: la democracia naufraga en la era del ultraliberalismo, pero no ha sido conquistada 10 febrero, 2025
    Lo que está pasando con la democracia puede compararse con el mito del rapto de Europa: seducida con engaños, se ha adentrado en un proceso de erosión de las instituciones, polarización social y desregulación económica que la aleja de su inspiración humanista. ¿Estamos presenciando el nacimiento de un nuevo orden político global?
    EDUARDO MARTÍNEZ DE LA FE/T21
  • La IA puede ser más creativa que los seres humanos 9 febrero, 2025
    La IA puede superar a la mayoría de los humanos en tareas de pensamiento creativo, según un nuevo estudio: los chatbots de IA de modelo de lenguaje grande (LLM) pueden superar al humano promedio en una tarea de pensamiento creativo en la que el participante idea usos alternativos para objetos cotidianos, un ejemplo en el […]
    Pablo Javier Piacente
  • El primer conectoma del cerebro de un insecto revoluciona la neurociencia 8 febrero, 2025
    Los científicos han conseguido por primera vez establecer el diagrama de las conexiones sinápticas del cerebro de un insecto que tiene 100.000 neuronas, toda una proeza para comprender mejor al cerebro humano y potenciar la Inteligencia Artificial.
    EDUARDO MARTÍNEZ DE LA FE/T21
  • Producir energía limpia cultivada en hojas: ¿el camino hacia la sostenibilidad energética? 7 febrero, 2025
    Los científicos han desarrollado “nanoflores” de cobre que imitan la fotosíntesis, ofreciendo una nueva forma de convertir el dióxido de carbono en fuentes de combustible y productos químicos, transformando potencialmente las estrategias a través de las cuales generamos energía limpia.
    Pablo Javier Piacente / T21
  • Los perros que son capaces de aprender permanecen jóvenes por más tiempo 7 febrero, 2025
    Los telómeros cumplen un papel crucial en la protección de los cromosomas: con el envejecimiento y la oxidación celular, se van acortando y promueven el deterioro de distintas funciones orgánicas. Un nuevo estudio ha demostrado que los perros domésticos (Canis lupus familiaris) que se mantienen entrenados y adquieren permanentemente nuevas capacidades preservan por más tiempo […]
    Pablo Javier Piacente / T21