Tendencias21

Stephen Hawking (y otras 16.000 personas) contra los ‘robots asesinos’

Las armas completamente autónomas aún no son una realidad, pero casi. Han sido bautizadas como ‘robots asesinos’, y se cree pueden ser la causa de una nueva y terrible revolución armamentística. Ahora, más de 16.000 expertos en Inteligencia Artificial y otras ramas de la ciencia (entre ellos, Hawking o Steve Wozniak) piden a los Gobiernos en una carta abierta que no las desarrollen. Por Yaiza Martínez.

Stephen Hawking (y otras 16.000 personas) contra los 'robots asesinos'

Esta semana se ha hecho pública una carta abierta firmada por más de 16.000 personas, la mayoría de ellas investigadores de Inteligencia Artificial y robótica, en la que se pide la prohibición de armas autónomas capaces «de seleccionar y atacar objetivos sin intervención humana alguna».

La presentación de la carta fue realizada aprovechando la inauguración de  la Conferencia de Inteligencia Artificial (IJCAI) que se celebra entre el 25 y el 31 de julio en Buenos Aires (Argentina).

Entre sus firmantes están el célebre astrofísico Stephen Hawking, el famoso director general del fabricante de coches eléctricos TeslaElon Musk; el lingüista estadounidense Noam Chomsky o el cofundador de Apple, Steve  Wozniak. El documento constituye un nuevo aviso de los peligros potenciales de la inteligencia artificial (IA) aplicada al terreno militar, según Le Monde. 

Máquinas soldado y helicópteros selectivos

Pero, ¿qué peligrosas máquinas señalan los expertos como temibles? Por ejemplo, los  cuadricópteros o quadcopters armados (un tipo de helicópteros con cuatro hélices), capaces de buscar y eliminar a personas que cumplan con ciertos criterios predefinidos, o las máquinas para sustituir a soldados humanos en los campos de batalla.

Según los firmantes de la carta abierta, la tecnología de Inteligencia Artificial (IA) ha llegado a un punto en que permite el desarrollo de este tipo de sistemas, y hay mucho en juego, consideran, pues las armas autónomas se han descrito ya como la tercera revolución bélica de la humanidad, tras la pólvora y las armas nucleares.

«La pregunta clave para la humanidad actual es si desea iniciar una carrera mundial de armas de IA o evitar que esta se inicie. Si alguna potencia militar sigue adelante con el desarrollo de armas de IA, será prácticamente inevitable que esa carrera mundial de armas se produzca. El punto final de esta trayectoria tecnológica es obvio: las armas autónomas se convertirán en los Kalashnikovs del mañana. A diferencia de las armas nucleares, las armas autónomas no requieren de materias primas costosas o difíciles de obtener, por lo que se convertirán en armas ubicuas y baratas, que todos los poderes militares podrán producir en masa. Sólo será cuestión de tiempo que (estas armas) aparezcan en el mercado negro y caigan en manos de terroristas, dictadores que deseen controlar mejor a su población, de señores de la guerra que deseen perpetrar limpiezas étnicas, etc. Las armas autónomas son ideales para objetivos tales como asesinatos, la desestabilización de países o el sometimiento de poblaciones  matando selectivamente a grupos étnicos particulares. Por ello, creemos que una carrera de armas IA no resultarábeneficioso para la humanidad», escriben los especialistas.

El peligro de la impunidad

Los autores de la presente carta hablan en realidad de un futurible, porque las armas completamente autónomas como tal aún no existen. Sin embargo, están cada vez más cerca, pues sí que existen ya, por ejemplo, sistemas «semiautónomos», como los aviones no tripulados capaces de despegar, volar y aterrizar sin dirección humana alguna.

El pasado mes de abril, delegados de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales se reunieron en Ginebra (Suiza) para hablar sobre estas armas completamente autónomas (que han sido bautizadas como ‘robots asesinos’) y sus potenciales peligros.

Con motivo de esta reunión, la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard y la organización Human Rights Watch publicaron entonces el informeMind the Gap: The Lack of Accountability for Killer Robots” (“¡Cuidado con la brecha!: La falta de rendición de cuentas de los robots de combate”), en el que se señala el riesgo de que programadores, fabricantes y personal militar queden exentos de toda responsabilidad penal por las muertes que podrían ocasionar estas armas, por lo que es necesario un tratado internacional de prohibición de su fabricación.

“El vacío en la rendición de cuentas significa que no hay disuasión para futuros delitos, ni reparación para las víctimas, ni ninguna condenación social del responsable”, ha señalado en un comunicado de Human Rights Watch Bonnie Docherty, investigadora principal de la división de Armas de la organización y autora principal del informe.

“Los numerosos obstáculos a la justicia que afrontan las potenciales víctimas demuestran por qué necesitamos con urgencia una prohibición de las armas completamente autónomas”, añade Docherty.

Evitar un escenario oscuro

En 2007, ya se alertó de la posibilidad de que el hecho de que se pierda el control sobre la inteligencia artificial armada pueda llevarnos a un escenario bastante oscuro. Lo hizo un equipo internacional de científicos y académicos pertenecientes a EURON (EUropean RObotics research Network). Estos especialistas elaboraron además un prototipo de “código de ética” para los robots.

Entre sus recomendaciones se destacaba la necesidad de asegurarse el control de los humanos sobre los robots, la prevención de su utilización nociva o ilegal, la protección de los datos que éstos obtengan y el seguimiento exhaustivo de su actividad. Las recomendaciones actuales, como vemos, son aún más radicales: la prohibición absoluta de este uso bélico de la tecnología.

RedacciónT21

Hacer un comentario

RSS Lo último de Tendencias21

  • No hay tiempo para dormir la siesta en la naturaleza 4 marzo, 2022
    El estudio del sueño en una manada de babuinos salvajes revela que sacrificar el sueño para satisfacer demandas apremiantes es común en la naturaleza, e incluso que podría ser parte de nuestra historia evolutiva humana.
    Redacción T21
  • Descubren cómo "respira" una estrella de neutrones mientras deglute a su compañera 3 marzo, 2022
    Los científicos han descubierto que las estrellas de neutrones pueden emitir al mismo tiempo vientos cálidos y fríos, en diferentes longitudes de onda, mientras se “alimentan” del material de otra estrella. Es la primera vez que se advierte este comportamiento en estos objetos cósmicos extremos.
    Pablo Javier Piacente
  • El supuesto agujero negro más cercano a la Tierra en realidad no existe 3 marzo, 2022
    En 2020, un equipo de astrónomos informó que a solo 1.000 años luz de distancia de la Tierra, en el sistema HR 6819, se encontraba el agujero negro más cercano a nosotros. Ahora, una nueva investigación parece haber comprobado que en realidad no existe ningún agujero negro en esa zona del cosmos. El estudio previo […]
    Pablo Javier Piacente
  • Stonehenge funcionaba como calendario solar hace 4.500 años 3 marzo, 2022
    Stonehenge era un calendario solar hace 4.500 años: los megalitos representan 12 meses de 30 días, más un mes extra de cinco días y un día bisiesto cada cuatro años. Las semanas eran de 10 días y el año se iniciaba con el solsticio de invierno.
    N+1/T21
  • La ciencia española rompe su silencio sobre Ucrania 3 marzo, 2022
    El Ministerio de Ciencia está revisando la colaboración científica española con Rusia como consecuencia de la invasión de Ucrania, al mismo tiempo que tres instituciones científicas de referencia en España recomiendan que se suspenda esa colaboración. Las academias europeas y del Grupo de los Siete, así como destacados astrónomos mundiales, se suman a la condena […]
    Redacción T21
  • Los entornos complejos provocaron el avance de la creatividad humana 2 marzo, 2022
    Según un nuevo estudio, los avances del ser humano moderno durante la Edad de Piedra Media en el sur de África son solamente la "punta del iceberg" del período que forjó el desarrollo del cerebro y la creatividad humana. Al parecer, los olvidados y sacrificados pueblos que habitaron zonas desérticas más al norte habrían conseguido […]
    Pablo Javier Piacente
  • Usarán rayos cósmicos para "escanear" a la Gran Pirámide de Guiza 2 marzo, 2022
    Con el propósito de descubrir a fondo los detalles de su estructura interna, un grupo de científicos utilizará los avances en física de alta energía (HIP) para escanear la Gran Pirámide de Guiza con muones de rayos cósmicos. El monumento, fiel representante de la grandeza del período de esplendor de la civilización egipcia, es la […]
    Pablo Javier Piacente
  • La nostalgia es mucho más que añorar el pasado 2 marzo, 2022
    La nostalgia no solo puede aliviar el dolor físico, sino que también combate la soledad, mejora la resiliencia y potencia la creatividad de las personas. Genera optimismo, autoestima y afecto social.
    Eduardo Martínez de la Fe
  • La ciencia ucraniana está bajo los escombros de la guerra 2 marzo, 2022
    La ciencia de Ucrania ha quedado paralizada por la guerra, al mismo tiempo que el cerco a la ciencia rusa aumenta después de que el emblemático MIT suspendiera su colaboración con el pretendido Silicon Valley de Moscú. La ciencia española guarda silencio, mientras misiles rusos han impactado un depósito de residuos radiactivos en Kiev, sin […]
    Redacción T21
  • Un antiguo deslizamiento de tierra en el Mar Rojo podría desencadenar un futuro tsunami 1 marzo, 2022
    Un deslizamiento de tierra submarino, que probablemente provocó olas de 10 metros de altura que azotaron la costa egipcia hace aproximadamente 500 años, podría servir para predecir un futuro tsunami en Medio Oriente. Si ese sector de tierra se moviliza nuevamente, los modelos sugieren que podría desencadenar un segundo tsunami dos veces más grande que […]
    Pablo Javier Piacente