Tendencias21

La Inteligencia Artificial, potencial amenaza a la seguridad

La Inteligencia Artificial amenaza a la seguridad de los países, a sus dirigentes e incluso a los procesos electorales, que pueden manipularse sin ser detectados y mucho menos atribuirse. Lo señalan un total de 26 expertos internacionales en un informe que recomienda reforzar la ciberseguridad y otras medidas tecnológicas y políticas para impedir esta eventual deriva de la IA.

La Inteligencia Artificial, potencial amenaza a la seguridad

Un total de 26 expertos especialistas en IA, ciberseguridad y robótica de las universidades de Cambridge, Oxford, Yale, Stanford, así como de organismos no gubernamentales (OpenAI, Center for a New American Security, Electronic Frontier Foundation), alertan de los peligros potenciales de la Inteligencia Artificial por un posible uso malintencionado de esta tecnología por parte de Estados corruptos o de grupos criminales o terroristas.

En un informe advierten que en la próxima década la eficacia creciente de la inteligencia artificial (IA) podría potenciar la cibercriminalidad y conducir al uso de drones o robots con fines terroristas.

“Creemos que los ataques que serían posibles por el uso creciente de la IA serán particularmente efectivos, finamente dirigidos y difíciles de atribuir”, advierten en un comunicado.

El informe describe escenarios plausibles como consecuencia del desarrollo de la IA: alterar los sistemas informáticos de drones o vehículos autónomos para causar accidentes o provocar explosiones, es uno de ellos.

Otro escenario que consideran plausible es la manipulación de robots. Imaginan que es posible colar un robot entre otros que tengan funciones de limpieza en el interior de un ministerio o institución y dirigirlo a cometer  un atentado contra una personalidad política: bastaría con que lo reconociera visualmente, se aproximara a él y procediera a explosionarse junto al objetivo.

Asimismo, consideran que los ataques dirigidos a una institución o empresa para robar o destruir información específica, algo que ya ocurre en la actualidad, podrían perfeccionarse y desarrollarse con mayor frecuencia y eficacia merced a la IA.

Efectos políticos

La IA podría asimismo facilitar la manipulación de elecciones políticas en diferentes países a través de las redes sociales usando cuentas automatizadas (bots), algo que ya se ha hecho, aunque no a la escala que podría alcanzar esta manipulación de la mano de la Inteligencia Artificial tal como va a desarrollarse en los próximos años.

Esta amenaza puede plantear serios problemas a la estabilidad política de algunos países y tal vez desencadenar graves conflictos, ya sean nacionales o internacionales, según este informe.

Otra posibilidad es realizar videos falsos con un realismo extremo que confundirían fácilmente a la población o el electorado, con la finalidad de desacreditar o impulsar a determinados responsables políticos.

Un último escenario descrito por estos expertos se refiere a la posibilidad de que dirigentes de algunos países hagan uso de la IA para vigilar clandestinamente a sus ciudadanos. Y especifican: estas preocupaciones son más significativas en el contexto de Estados autoritarios, pero también pueden socavar la capacidad de las democracias para sostener debates públicos auténticos.

Recomendaciones

El informe concluye con una serie de recomendaciones orientadas a prevenir estos posibles escenarios.

Las recomendaciones pasan por reforzar las capacidades de la ciberseguridad, incorporar nuevas normas para prevenir posibles abusos de la IA, promover la cultura de la responsabilidad potenciando la educación y la ética, alcanzar nuevos desarrollos tecnológicos que eviten esta posible deriva de la IA y acometer nuevas políticas para sensibilizar a la población y organizar a la sociedad ante esta amenaza potencial.

La IA es una rama de las ciencias computacionales encargada de estudiar modelos de cómputo capaces de realizar actividades propias de los seres humanos como el razonamiento y la conducta.

Los sistemas de IA son cotidianos actualmente en campos como la economía, la medicina, la ingeniería y el ejército, y se han usado en gran variedad de aplicaciones de software, juegos de estrategia, como ajedrez de ordenador, y otros videojuegos.

Y aunque no es la primera vez que diferentes expertos advierten de los riesgos potenciales de la IA, este informe aporta una panorámica general sobre cómo esta rama de la ingeniería informática crea nuevas amenazas para las personas y la sociedad en campos como la ciberseguridad, las personas físicas y las autoridades políticas.

Referencia

The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation. Future of Humanity Institute; University of Oxford; Centre for the Study of Existential Risk; University of Cambridge; Center for a New American Security; Electronic Frontier Foundation; OpenAI. Feb. 2018.

RedacciónT21

Hacer un comentario

RSS Lo último de Tendencias21

  • Una mutación genética podría explicar la longevidad de los centenarios 13 febrero, 2022
    Una variante genética que abunda en las personas centenarias se perfila como el gen de la longevidad: retrasa el envejecimiento, disminuye la inflamación y prolonga la vida sana. Esta ingeniosa proteína podría reforzar las estrategias contra la senescencia.
    Eduardo Martínez de la Fe
  • El cerebro puede ver después de un accidente cerebrovascular 12 febrero, 2022
    Los ojos pueden seguir viendo después de un accidente cardiovascular, pero el cerebro dañado no puede interpretar las señales visuales. Una rehabilitación personalizada podría conseguir la recuperación de la visión.
    Redacción T21
  • El núcleo interno de la Tierra presenta un estado entre líquido y sólido 11 febrero, 2022
    Los físicos han sostenido durante mucho tiempo que el núcleo interno de la Tierra es sólido, pero un nuevo estudio sugiere que se encuentra en un punto intermedio entre sólido y líquido, un descubrimiento que podría arrojar luz sobre algunos de los secretos más profundos del planeta.
    Pablo Javier Piacente
  • Algoritmos para calcular la complejidad de un planeta podrían revelar la vida extraterrestre 11 febrero, 2022
    Un procedimiento aritmético aplicado a una serie de algoritmos podría ser la llave para descubrir la vida extraterrestre: al medir la complejidad de un planeta tomando determinados datos e imágenes, identifica a los mejores “candidatos” a albergar vida. 
    Pablo Javier Piacente
  • Puede haber muchos más planetas habitables a 4,22 años luz de la Tierra 11 febrero, 2022
    La confirmación de un tercer planeta orbitando Próxima Centauri, la estrella más cercana a nuestro Sol, indica que seguramente habrá más mundos en zona de habitabilidad a solo 4,22 años luz de la Tierra.
    Redacción T21
  • Humanos y neandertales vivieron juntos al sur de Francia hace 54.000 años 11 febrero, 2022
    El homo sapiens habitó Europa hace al menos 54.000 años, 10.000 años antes de lo que se había documentado hasta ahora, y compartió con los extintos neandertales una cueva del sur de Francia al menos durante miles de años.
    Redacción T21
  • Una molécula intestinal despierta el hambre de amor 10 febrero, 2022
    Los investigadores encontraron que los alimentos ricos en proteínas desencadenan la liberación de la hormona diurética 31, o "Dh31". Esta molécula de señalización, que se libera del tracto gastrointestinal en las moscas.de la fruta, genera una serie de reacciones que culminan en la transición de la alimentación al apareamiento: después de comer, las moscas quieren […]
    Pablo Javier Piacente
  • Un láser puede enviar una nave espacial a Marte en 45 días 10 febrero, 2022
    Un láser ubicado en la Tierra podría impulsar a una nave espacial y hacerla llegar a la atmósfera marciana en un mes y medio, gracias al calentamiento de plasma de hidrógeno. Detenida en la atmósfera de Marte, la nave acercaría suministros para los asentamientos humanos en el planeta rojo.
    Pablo Javier Piacente
  • Sergio Miguel Tomé: el universo es un sistema computacional 10 febrero, 2022
    Una nueva teoría afirma que un sistema computacional oculto bajo las leyes naturales rige el funcionamiento del universo. El nuevo paradigma, además de afectar a la física porque modifica el concepto de fenómeno físico, también tiene implicaciones para las matemáticas y las ciencias cognitivas. Para desarrollarlo se necesita una investigación de físicos e informáticos.
    Eduardo Martínez de la Fe
  • Científicos europeos consiguen un nuevo récord mundial de energía 10 febrero, 2022
    Utilizando el combustible de futuras plantas de energía de fusión, los científicos de JET en Oxford han duplicado con creces el récord histórico de 1997: obtuvieron 59 megajulios de energía y una potencia de salida de poco más de 11 megavatios durante cinco segundos.
    IPP/T21