WASHINGTON — Cuando en el mes de octubre, el presidente Joe Biden anunció fuertes restricciones para venderle a China los chips de computadora más avanzados, lo hizo, en parte, como una manera de ofrecer a la industria estadounidense una oportunidad de recuperar su competitividad.
No obstante, en el Pentágono y el Consejo de Seguridad Nacional había un segundo objetivo: el control de armas.
En teoría, si el Ejército de China no consigue estos chips, es probable que frene los intentos de desarrollar armas que funcionen con inteligencia artificial.
Esto le daría a la Casa Blanca, y al mundo entero, tiempo determinar ciertas normas relacionadas con el uso de inteligencia artificial en todo, desde sensores, hasta misiles y armas cibernéticas, para, a fin de cuentas, prevenir algunas de las pesadillas que se han plasmado en películas de Hollywood:
computadoras y robots asesinos autónomos que se apartan de sus creadores humanos.
Ahora, la nube de temor en torno al popular bot ChatGPT y otros tipos de software que funcionan con inteligencia artificial han hecho que la restricción de venderle chips a China solo parezca una solución temporal.
Cuando Biden se unió a los jóvenes en la Casa Blanca en una reunión de ejecutivos del sector tecnológico qu’están teniendo problemas para limitar los peligros de esta tecnología, su primer comentario fue:
«Lo que ustedes están haciendo tiene un gran potencial y también un gran riesgo».
Según sus asesores en seguridad nacional, esto fue un reflejo de los recientes informar a los clasificados acerca de la posibilidad de que la nueva tecnología trastoque la guerra, el conflicto cibernético y —en el caso más extremo— la toma de decisiones sobre el uso de armas nucleares.
Pero cuando incluso Biden estaba exponiendo su advertencia, los funcionarios del Pentágono decían en foros sobre tecnología que creían que ni idea de una buena era este paréntesis de estos meses en el desarrollo de las siguientes generaciones de ChatGPT y tipos de software similares:
ni los chinos ni los rusos van a esperar.
«Si nosotros nos detenemos, adivinan quiénes no lo harán: los posibles enemigos en el extranjero», dijo el miércoles el director de información del Pentágono, John Sherman.
«Tenemos que seguir adelante».
Se afirmó categóricamente que la tensión que se asienta en la actualidad en toda la comunidad de defensa.
Nadie sabe en realidad lo que pueden hacer estas nuevas tecnologías cuando se trata de desarrollar y controlar armas y nadie tiene idea del tipo de régimen de control de armas que podria funcionar, si es que existe alguno.
Este presagio es impreciso, pero muy preocupante.
¿Acaso el ChatGPT podría empoderar a actores qu’anteriormente no habrían tenido acceso fácil a tecnología destructiva?
¿Podría acelerar las confrontaciones entre las superpotencias y no dejar mucho tiempo para la diplomacia y negociacion?
«La industria no es tonta y ya estamos viendo intenciones de autorregulación», dijo eric schmidtun ex presidente de Google que actuó como presidente inaugural de la Junta de Asesoramiento en Innovación de 2016 a 2020.
“Así que hay una serie de charlas informales que están teniendo lugar en estos momentos en la industria —todas son informales— acerca de cómo serían las reglas de seguridad con respecto a la inteligencia artificial”, comentó Schmidt, quien ha escrito, junto con el exsecretario de estado henry kissingeruna serie de artículos y libros sobre la posibilidad de que la inteligencia artificial trastoque la geopolítica.
El intento preliminar de poner barreras de proteccion a estos sistemas es obvio para cualquiera que haya probado las versiones iniciales de ChatGPT.
Los bots no contestan preguntas sobre cómo dañar a alguien con una mezcla de drogas, por ejemplo, ni inamitar una presa o paralyzar centrífugas nucleares, que son cómo operaciones que han llevado a cabo Estados Unidos y otros pays sin contar con la ventaja de las herramientas de inteligencia artificial.
Pero estas negras listas de acciones solo disminuirán el uso indebido de estos sistemas; Pocas personas creen que pueden detener por completo esos intentos.
Siempre hay tun cosa para eludir los límites de seguridad, como podrá confirmar cualquiera que haya intentado desactivar los insistentes pitidos del sistema de advertencia del cinturón de seguridad de un automóvil.
Aunque el nuevo software ha hecho popular el asunto, no es nada nuevo para el Pentágono.
Las primeras reglas sobre el desarrollo de armas autónomas se publicaron hace una década.
Hace cinco años, se estableció el Centro Conjunto de Inteligencia Artificial del Pentágono estudiar el uso de la inteligencia artificial en combate.
Algunas armas ya funcionan con piloto automático.
Desde hace mucho tiempo, los misiles patriotas, los mismos que derriban misiles o aeroplanos que entran a espacio aéreo protegido, han tenido un modo «automático», el cual le permite disparar sin intervención del ser humano cuando son superados por objetivos que llegan más rápido de lo que podría reaccionar un ser humano .
pero tienen que estar supervisado por seres humanos que pueden suspender los ataques si fuera necesario.
En las fuerzas militares, los sistemas que cuentan con inteligencia artificial pueden acelerar el ritmo de las decisiones en el campo de batalla al grado de generar riesgos totalmente nuevos de ataques accidentales o de decisiones derivadas de alarmas confusas o deliberadamente falsas de ataques cercanos.
«Un problema básico con la inteligencia artificial en las Fuerzas Armadas y en la seguridad nacional es cómo defenderse de los ataques que son más rápidos que la velocidad con la que los seres humanos toman decisiones y creo que ese problema no está resuelto», comentó Schmidt.
“En otras palabras, el misil llega tan rápido que tiene que haber una respuesta automática. ¿Qué sucede si es una señal falsa?”.
Seguridad
Tom Burt, quien encabeza operaciones de confianza y seguridad en Microsoft, empresa que va a toda velocidad en el uso de la nueva tecnología para renovar sus motores de búsqueda, dijo en un foro reciente en la Universidad George Washington que los baque que los sistemas de inteligencia artificial ayudarían a quienes defenderían a detectar un comportamiento anormal con mayor rapidez de lo que ayudarían a los atacantes.
Hay especialistas que no están de acuerdo.
Pero Burt dijo que temía que podría «potencial» la difusión de información errónea dirigida.
Todo esto augura una era totalmente nueva de control de armas.
Algunos expertos confirman que, dado que será imposible detener la propagación de los sistemas de software ChatGPT y similares, la mayor esperanza es restringir los chips especializados y cualquier otra energía computacional necesaria para impulsar esta tecnología.
Sin duda, este será uno de los muchos planes de control de armas que se plantarán en los próximos años, en que al menos à las principales potencias nucleares parece no interesarles negociar sur las viejas armas, mucho menos sur las nuevas.
circa 2023 Sociedad del New York Times