Tendencias21
Una red neuronal aprende cuándo no es de fiar

Una red neuronal aprende cuándo no es de fiar

Un nuevo sistema permite que una red neuronal de aprendizaje profundo estime con rapidez el nivel de confianza que alcanza en sus resultados. De esta manera, se logra mayor eficiencia en la toma de decisiones.

Determinar la exactitud de los resultados que obtiene una red neuronal ha dejado de ser un problema de laboratorio: en la actualidad, estos sistemas pueden estar implicados en la conducción de un vehículo autónomo o en un diagnóstico médico. En consecuencia, tienen impacto en la realidad concreta y pueden salvar vidas. Ahora, una investigación realizada por científicos del Instituto Tecnológico de Massachusetts (MIT) y la Universidad de Harvard crea un sistema capaz de estimar rápidamente la confianza que podemos tener en las redes neuronales y sus resultados.

Cuando un vehículo autónomo se acerca a la intersección de dos calles, es una red neuronal de aprendizaje profundo la que indicará si todo está en condiciones para girar o si, por el contrario, debemos estar atentos a cualquier tipo de obstáculo o complicación. En otras palabras, confiamos en la exactitud de la información que nos entregan estos sistemas de Inteligencia Artificial. Pero debemos saber que también se equivocan: ¿hasta dónde podemos confiar a ciegas en ellos?

Según una nota de prensa, los especialistas explican que las respuestas y los datos que nos brindan las redes neuronales para poder tomar decisiones son confiables en un 99%. El 1% restante es el objetivo del trabajo de los científicos que llevaron adelante esta investigación, logrando diseñar un sistema que determina el grado de fiabilidad de las redes y puede identificar con máxima rapidez las equivocaciones que se están cometiendo, ya sea por datos erróneos o faltantes.

Frente a decisiones que deben tomarse en cuestión de segundos, los esquemas actuales de estimación de la incertidumbre en redes neuronales resultan muy lentos y, además, extremadamente onerosos. El nuevo sistema no solamente incrementa la exactitud y la precisión en la determinación de errores, sino que además aumenta considerablemente la velocidad de respuesta y reduce el gasto. En consecuencia, se transforma en una alternativa más eficiente y segura en un área crítica.

Decisiones trascendentales

Alexander Amini, estudiante de doctorado en el MIT y autor principal del estudio, sostuvo que “no solamente es importante incrementar la capacidad de estos modelos de alto rendimiento, sino también comprender cuándo no podemos confiar en ellos”, indicó. Y las causas son fáciles de entender, considerando que permanentemente se incrementa el uso de redes neuronales de aprendizaje profundo en campos como la salud, la seguridad o el transporte, en los cuales un error puede significar la pérdida de vidas humanas.

La principal virtud del nuevo esquema y su ventaja comparativa con respecto a los modelos actuales es que logra captar en tiempo real la evidencia que apoya cada decisión tomada por el sistema. De esta forma, puede determinar el grado de confianza que merece la predicción realizada y, al mismo tiempo, si la incertidumbre se puede reducir ajustando la red neuronal o eliminando errores en los datos sobre los cuales ha trabajado el modelo.

En una prueba realizada en torno a un problema de visión por ordenador, la red neuronal creada por los investigadores pudo determinar con eficacia la distancia exacta entre una cámara y cada píxel de una imagen estudiada. Pero la diferencia con otros sistemas fue que también pudo indicar con precisión las ubicaciones o sectores en los cuales los datos no eran fiables.

“Si se tratara de una aplicación de atención médica, tal vez no confiaríamos en el diagnóstico que nos está dando el modelo y, en cambio, buscaríamos una segunda opinión», expresó Amini. Queda claro con este ejemplo la gran importancia que supone avanzar en la determinación de la confianza que se puede tener en las redes neuronales de aprendizaje profundo, como así también en la identificación de los errores que pueden cometer estos sistemas.

Referencia

Deep Evidential Regression. Alexander Amini, Wilko Schwarting, Ava Soleimany and Daniela Rus. arXiv (2019).

Foto: Alina Grubnyak en Unsplash.

Pablo Javier Piacente

Pablo Javier Piacente es periodista especializado en comunicación científica y tecnológica.

Hacer un comentario

RSS Lo último de Tendencias21

  • Hasta el pequeño cerebro de una hormiga desarrolla tareas complejas 17 febrero, 2024
    Las hormigas del desierto encuentran su camino durante una fase temprana de aprendizaje con la ayuda del campo magnético de la Tierra. El proceso de aprendizaje asociado deja huellas claras en su pequeño cerebro, capaz de asumir tareas complejas con menos de un millón de neuronas.
    Eduardo Martínez de la Fe
  • Los agujeros negros supermasivos y las primeras galaxias crecieron al mismo tiempo 16 febrero, 2024
    Es probable que ya existieran agujeros negros supermasivos en los primeros momentos de la historia cósmica: habrían acelerado la formación de nuevas estrellas en el Universo temprano, incluso cuando crecían con sus galaxias. Un nuevo análisis de imágenes y datos obtenidos por el telescopio James Webb sugiere que los agujeros negros y las galaxias coexistieron […]
    Pablo Javier Piacente
  • La IA podría estar atrofiando poco a poco nuestros cerebros, según un nuevo estudio 16 febrero, 2024
    De la misma forma que el GPS de los smartphones ha dañado nuestro sentido de la cognición espacial y la memoria, según sugieren algunos estudios, la Inteligencia Artificial (IA) también podría afectar progresivamente nuestra capacidad para tomar decisiones de forma independiente, de acuerdo a una nueva investigación. La hipótesis plantea que los chatbots de IA […]
    Pablo Javier Piacente
  • El Metaverso surgió de la imaginación y se hizo real gracias al progreso tecnológico 16 febrero, 2024
    El Metaverso inició su recorrido en la ciencia ficción y se hizo real inspirado en novelas como “Snow Crash" de Neal Stephenson y apoyado en tecnologías que han posibilitado universos paralelos para la experiencia humana. La novela "Ready Player One" de Ernest Cline y su adaptación cinematográfica dirigida por Steven Spielberg, han desempeñado un papel […]
    Carlos Peña González (*)
  • Revelan el origen de la falla geológica de Seattle, una de las más peligrosas del mundo 15 febrero, 2024
    Los datos magnéticos sugieren que la falla de Seattle, en Estados Unidos, se formó hace 55 millones de años, cuando la mitad sur de una cadena de islas volcánicas en subducción se amontonó sobre el continente y se separó de otra parte de la estructura, "desgarrando" el borde de América del Norte.
    Pablo Javier Piacente
  • Gigantescos "huevos espaciales" podrían ayudarnos a descubrir civilizaciones extraterrestres 15 febrero, 2024
    Un elipsoide SETI es un enfoque geométrico que identifica una región del espacio con forma de huevo, dentro de la cual cualquier civilización inteligente habría logrado observar un evento astronómico significativo, como por ejemplo una supernova, basándose en el tiempo que tarda la luz en viajar a través del espacio. Ahora, un nuevo análisis muestra […]
    Pablo Javier Piacente
  • ¿Qué pasaría si viajáramos a la velocidad de la luz? 15 febrero, 2024
    La física dice que es imposible, pero soñamos con la posibilidad de viajar a la velocidad de la luz. En ese supuesto, el tiempo se dilataría y se alteraría nuestro campo de visión, pero la fuerza de la aceleración nos destruiría. Sin ayuda alguna, no podemos ir a más de 45 kilómetros por hora.
    Redacción T21
  • Nuevo hito en la tecnología cuántica 15 febrero, 2024
    Investigadores alemanes han logrado un avance en la tecnología cuántica al visualizar las posiciones tridimensionales de átomos individuales en un cristal de diamante. Este logro allana el camino para la visualización de moléculas individuales con una precisión atómica, lo que podría revolucionar la investigación y el diseño de materiales y fármacos. Con un poco de […]
    ST/T21
  • Una extraña y antigua megaestructura acecha bajo el mar Báltico 14 febrero, 2024
    En la bahía alemana de Mecklenburg, a 21 metros de profundidad, los científicos han encontrado una antigua megaestructura que data de la Edad de Piedra, concretamente de hace más de 10.000 años. La estructura, que abarca una longitud de casi un kilómetro y está compuesta por piedras de distintos tamaños, desafía toda explicación natural: los […]
    Pablo Javier Piacente
  • Los robots que atienden a pacientes llegan a los hospitales 9 febrero, 2024
    Robots diseñados para brindar comodidad a los pacientes de edad avanzada y aliviar su ansiedad, han sido probados con éxito en un hospital de París: saludan, responden a preguntas, comprenden conversaciones grupales y apoyan las tareas de enfermería.
    Redacción T21