Tendencias21
Stephen Hawking (y otras 16.000 personas) contra los 'robots asesinos'

Stephen Hawking (y otras 16.000 personas) contra los 'robots asesinos'

Las armas completamente autónomas aún no son una realidad, pero casi. Han sido bautizadas como ‘robots asesinos’, y se cree pueden ser la causa de una nueva y terrible revolución armamentística. Ahora, más de 16.000 expertos en Inteligencia Artificial y otras ramas de la ciencia (entre ellos, Hawking o Steve Wozniak) piden a los Gobiernos en una carta abierta que no las desarrollen. Por Yaiza Martínez.

Stephen Hawking (y otras 16.000 personas) contra los 'robots asesinos' Esta semana se ha hecho pública una carta abierta firmada por más de 16.000 personas, la mayoría de ellas investigadores de Inteligencia Artificial y robótica, en la que se pide la prohibición de armas autónomas capaces «de seleccionar y atacar objetivos sin intervención humana alguna».

La presentación de la carta fue realizada aprovechando la inauguración de  la Conferencia de Inteligencia Artificial (IJCAI) que se celebra entre el 25 y el 31 de julio en Buenos Aires (Argentina).

Entre sus firmantes están el célebre astrofísico Stephen Hawking, el famoso director general del fabricante de coches eléctricos TeslaElon Musk; el lingüista estadounidense Noam Chomsky o el cofundador de Apple, Steve  Wozniak. El documento constituye un nuevo aviso de los peligros potenciales de la inteligencia artificial (IA) aplicada al terreno militar, según Le Monde. 

Máquinas soldado y helicópteros selectivos

Pero, ¿qué peligrosas máquinas señalan los expertos como temibles? Por ejemplo, los  cuadricópteros o quadcopters armados (un tipo de helicópteros con cuatro hélices), capaces de buscar y eliminar a personas que cumplan con ciertos criterios predefinidos, o las máquinas para sustituir a soldados humanos en los campos de batalla.

Según los firmantes de la carta abierta, la tecnología de Inteligencia Artificial (IA) ha llegado a un punto en que permite el desarrollo de este tipo de sistemas, y hay mucho en juego, consideran, pues las armas autónomas se han descrito ya como la tercera revolución bélica de la humanidad, tras la pólvora y las armas nucleares.

«La pregunta clave para la humanidad actual es si desea iniciar una carrera mundial de armas de IA o evitar que esta se inicie. Si alguna potencia militar sigue adelante con el desarrollo de armas de IA, será prácticamente inevitable que esa carrera mundial de armas se produzca. El punto final de esta trayectoria tecnológica es obvio: las armas autónomas se convertirán en los Kalashnikovs del mañana. A diferencia de las armas nucleares, las armas autónomas no requieren de materias primas costosas o difíciles de obtener, por lo que se convertirán en armas ubicuas y baratas, que todos los poderes militares podrán producir en masa. Sólo será cuestión de tiempo que (estas armas) aparezcan en el mercado negro y caigan en manos de terroristas, dictadores que deseen controlar mejor a su población, de señores de la guerra que deseen perpetrar limpiezas étnicas, etc. Las armas autónomas son ideales para objetivos tales como asesinatos, la desestabilización de países o el sometimiento de poblaciones  matando selectivamente a grupos étnicos particulares. Por ello, creemos que una carrera de armas IA no resultarábeneficioso para la humanidad», escriben los especialistas. El peligro de la impunidad

Los autores de la presente carta hablan en realidad de un futurible, porque las armas completamente autónomas como tal aún no existen. Sin embargo, están cada vez más cerca, pues sí que existen ya, por ejemplo, sistemas «semiautónomos», como los aviones no tripulados capaces de despegar, volar y aterrizar sin dirección humana alguna.

El pasado mes de abril, delegados de la Convención de las Naciones Unidas sobre Ciertas Armas Convencionales se reunieron en Ginebra (Suiza) para hablar sobre estas armas completamente autónomas (que han sido bautizadas como ‘robots asesinos’) y sus potenciales peligros.

Con motivo de esta reunión, la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard y la organización Human Rights Watch publicaron entonces el informeMind the Gap: The Lack of Accountability for Killer Robots” (“¡Cuidado con la brecha!: La falta de rendición de cuentas de los robots de combate”), en el que se señala el riesgo de que programadores, fabricantes y personal militar queden exentos de toda responsabilidad penal por las muertes que podrían ocasionar estas armas, por lo que es necesario un tratado internacional de prohibición de su fabricación.

“El vacío en la rendición de cuentas significa que no hay disuasión para futuros delitos, ni reparación para las víctimas, ni ninguna condenación social del responsable”, ha señalado en un comunicado de Human Rights Watch Bonnie Docherty, investigadora principal de la división de Armas de la organización y autora principal del informe.

“Los numerosos obstáculos a la justicia que afrontan las potenciales víctimas demuestran por qué necesitamos con urgencia una prohibición de las armas completamente autónomas”, añade Docherty.

Evitar un escenario oscuro

En 2007, ya se alertó de la posibilidad de que el hecho de que se pierda el control sobre la inteligencia artificial armada pueda llevarnos a un escenario bastante oscuro. Lo hizo un equipo internacional de científicos y académicos pertenecientes a EURON (EUropean RObotics research Network). Estos especialistas elaboraron además un prototipo de “código de ética” para los robots.

Entre sus recomendaciones se destacaba la necesidad de asegurarse el control de los humanos sobre los robots, la prevención de su utilización nociva o ilegal, la protección de los datos que éstos obtengan y el seguimiento exhaustivo de su actividad. Las recomendaciones actuales, como vemos, son aún más radicales: la prohibición absoluta de este uso bélico de la tecnología.

RedacciónT21

Hacer un comentario

RSS Lo último de Tendencias21

  • La IA revela los misterios ocultos de los virus en los océanos y en los intestinos humanos 17 mayo, 2024
    Los virus son una fuerza misteriosa y poco comprendida: se sabe que pueden infectar, matar y manipular células humanas y bacterianas en casi todos los entornos, desde los océanos hasta nuestros intestinos. Sin embargo, aún no se tiene una idea completa de cómo los virus afectan el entorno que los rodea, en gran parte debido […]
    Pablo Javier Piacente
  • El Sol lanza su llamarada más poderosa en 7 años 17 mayo, 2024
    Una erupción solar medida en X8.7, la categoría más extrema para este tipo de fenómenos, acaba de surgir desde la misma región de manchas solares responsable de las llamaradas del fin de semana pasado, que provocaron impresionantes auroras y otras consecuencias en todo el planeta. Se trata de la llamarada solar más poderosa desde 2017, […]
    Pablo Javier Piacente
  • Un videojuego arroja luz sobre cómo vuelan los insectos 17 mayo, 2024
    Moscas de la fruta genéticamente modificadas han permitido a los científicos desentrañar la misteriosa mecánica de vuelo de los insectos. Gracias a la IA, cartografiaron cómo los músculos de la mosca Drosophila melanogaster manipulan la bisagra del ala para realizar maniobras de vuelo ágiles y aerodinámicas.
    Redacción T21
  • Descubren un exoplaneta similar a la Tierra orbitando una estrella que sobrevivirá al Sol 16 mayo, 2024
    Un planeta extrasolar rocoso del tamaño de la Tierra orbita de cerca a una estrella enana roja ultrafría, que se supone brillará durante 100.000 millones de años, mucho más tiempo que nuestro Sol, que se extinguirá en alrededor de 5.000 millones de años. A pesar de estas características y de su cercanía con la Tierra, […]
    Pablo Javier Piacente
  • El dióxido de carbono atmosférico crece a un ritmo sin precedentes en los últimos 50.000 años 16 mayo, 2024
    Un análisis químico detallado del hielo antártico antiguo permitió a los científicos comprobar que la tasa de incremento actual del dióxido de carbono (CO2) atmosférico es la mayor en los últimos 50.000 años: según los investigadores, este aumento y su comparación con ciclos anteriores indica claramente la intensidad del cambio climático que está comenzando a […]
    Pablo Javier Piacente
  • Un Parlamento Ciudadano Climático se abre paso en España 16 mayo, 2024
    Después de las Asambleas Ciudadanas celebradas en España entre 2022 y 2024, la Asamblea Cívica por el Clima y el Observatorio de Sostenibilidad han propuesto la creación de un Parlamento Ciudadano Climático, formado mediante sorteo representativo por expertos y actores sociales, para alcanzar un consenso social mayoritario sobre la emergencia climática que esté basado en […]
    Alejandro Sacristán
  • Los virus humanos más antiguos estarían ocultos en los huesos de los neandertales 15 mayo, 2024
    El análisis genético de esqueletos de neandertales de 50.000 años de antigüedad ha revelado restos de tres virus relacionados con patógenos humanos modernos: los investigadores creen que podrían recrearse.
    Pablo Javier Piacente
  • Ondas gigantes de materia oscura podrían estar alterando las órbitas de las estrellas 15 mayo, 2024
    Los científicos creen que las perturbaciones en los sistemas estelares binarios podrían ser la clave para detectar la sustancia más confusa del espacio: la materia oscura. Ondas de esta materia invisible serían capaces de modificar las órbitas de las estrellas, de acuerdo a un nuevo estudio.
    Pablo Javier Piacente
  • El envejecimiento también es cosa del azar 15 mayo, 2024
    ¿Cómo funciona el envejecimiento? Los científicos del Grupo de Excelencia para la Investigación del Envejecimiento CECAD han descubierto que el azar es más importante en el proceso de envejecimiento de lo que se pensaba anteriormente.
    Redacción T21
  • Revelan el misterio de las "manchas gigantes" en el Océano Pacífico 14 mayo, 2024
    Un grupo de manchas de agua extremadamente cálidas en el Océano Pacífico han tenido un efecto desastroso en los ecosistemas marinos desde 2010. Ahora, una nueva investigación sugiere que, paradójicamente, una de las causas de su formación habría sido la reducción en las emisiones de aerosoles en China, junto al calentamiento global.
    Pablo Javier Piacente