Avión no tripulado / EFE
"La pregunta clave para la humanidad, es si desea iniciar una carrera mundial para el desarrollo de armas con inteligencia artificial (IA) o evitar que se inicie". Este es el dilema que plantea el manifiesto que más de mil ingenieros y expertos en computación e inteligencia artificial han firmado para pedir a los gobiernos de todo el mundo que dejen de desarrollar armamento con IA.
Los expertos
reclaman que se dejen de utilizar los avances tecnológicos desarrollados
durante los últimos años en armamento militar y recuerdan que "las
armas autónomas serán capaces de seleccionar y atacar objetivos sin
intervención humana". Según ha declarado a eldiario.es el investigador
de la Universidad New School de Nueva York, Peter Asaro:
"No podemos perder el control sobre las decisiones que implican el uso de la fuerza y dejarlo en manos de algoritmos"
El doctor Asaro es uno de los fundadores del Comité Internacional para el Control de Robots Armados (ICRAC,
por sus siglas en inglés), una ONG con base en EEUU que lleva años
realizando campañas para limitación de este tipo de armamento. Según
Asaro, esta carta representa la "preocupación de unos científicos que
quieren ver como sus innovaciones se ponen en práctica", pero que al
mismo tiempo son "conscientes del peligro que conlleva un mal uso de
esos avances tecnológicos". El manifiesto asegura que "hay muchas formas
de utilizar la IA para hacer que los campos de batalla sean más seguros
para los seres humanos, especialmente los civiles, sin necesidad de
crear nuevas herramientas para matar gente".
Durante los últimos años el ICRAC ha unido sus esfuerzos con otras organizaciones como Human Rights Watch y han conformado una campaña internacional para parar el desarrollo de robots asesinos.
El objetivo de esta campaña es que la Convención sobre Ciertas Armas
Convencionales (CCA), que ha convocado varias reuniones durante los
últimos dos años en la sede de Naciones Unidas en Ginebra, avance en la
negociación de un tratado que establezca límites al desarrollo de este
tipo de armamento. "Queremos que la CCA tome una decisión antes de que
se implementen de forma definitiva los sistemas de armas autónomas",
asegura Asaro.
Las armas autónomas serán una realidad a corto plazo
Según los investigadores, las evoluciones tecnológicas han hecho
posible que las armas inteligentes y autónomas puedan ser una realidad a
corto plazo. "En este momento ya existen armas en desarrollo que tienen
capacidad de orientación y fuego basados en IA y prevemos que unos
pocos años estas armas serán una parte importante de las fuerzas
militares más avanzadas", afirma Asaro. Pero los expertos no solo llaman
la atención sobre los problemas éticos que puede implicar no tener a un
ser humano al mando de un arma de fuego, sino también los posibles
problemas legales frente a fallos del armamento. "Si no hay humanos
controlando las armas y tomando las decisiones sobre los posibles
objetivos, quiénes serán los responsables si el algoritmo falla",
plantea Asaro.
El manifiesto, que ha sido publicado por el Future of Life Institute de la Universidad de Oxford, será presentado hoy en la Conferencia Internacional sobre Inteligencia Artificial que
está teniendo lugar en Buenos Aires (Argentina). "Albert Einstein y
Bertrand Russell firmaron un manifiesto en contra del desarrollo de
armamento nuclear, nuestra carta sigue la misma tradición", concluye
Asaro. Entre los firmantes de este manifiesto se encuentran el
astrofísico Stephen Hawking, el cofundador de Apple, Steve Wozniak o los
filósofos Daniel Dennett y Noam Chomsky. También se han adherido al
manifiesto más de una treintena de investigadores españoles, entre los
que destacan los catedráticos Daniel Borrajo y Francisco Herrera, de la
Universidad Carlos III y la Universidad de Granada respectivamente o la
profesora Carme Torras, del Instituto de Robótica de Barcelona.
