Nuestra fe actual en la tecnología sólo resulta comparable con el miedo que nos genera. En ocasiones, parece como si exageráramos sus proezas, para maravillarnos mientras ya de paso se acrecientan nuestros temores. La mayoría de mis alumnos -entre 16 y 24 años- confían más en los dispositivos que en sí mismos. Antes les atribuyen cualquier fallo a sus errores que al malfuncionamiento o limitaciones del programa. Y esto de olvidarnos de que la tecnología no es infalible sí debería preocuparnos, ya que, al menos dos veces, desconfiar de la tecnología salvó el mundo.
Viajemos al 26 de septiembre de 1983. Nos encontramos en plena Guerra Fría, a las afueras de Moscú, dentro de una instalación militar soviética, el Búnker Seroukhov-15. Los satélites de han detectado cinco misiles nucleares disparados contra la Unión Soviética.
“Nuestra fe actual en la tecnología sólo resulta comparable con el miedo que nos genera”
No hay tiempo para hacer muchas comprobaciones ni llamadas diplomáticas. La decisión de lanzar un contraataque estaba en manos de Stanislav Petrov, un coronel del Ejército Rojo. Cada minuto cuenta. Los ingenieros informáticos confirman los datos iniciales.
A disposición de Petrov se encontraba la mejor tecnología de una de las dos superpotencias de la época. Podía confiar en ella o en sus propios conocimientos y experiencias. Gracias a Dios, hizo lo segundo. Ordenó a su equipo que paralizara cualquier contraataque, el ordenador estaba fallado, porque: “la gente no empieza una guerra nuclear con sólo cinco misiles”. He ahí una frase para la historia.
“Petrov podía confiar en la tecnología o en sus propios conocimientos y experiencias”
Efectivamente, ni Estados Unidos ni nadie había lanzado una ofensiva nuclear a la Unión Soviética. El episodio pasó a la historia militar Incidente del Equinoccio de Otoño. Ya que dos semanas más tarde, la investigación aclaró que los satélites soviéticos confundieron los reflejos de la luz solar con ojivas nucleares, a causa de la posición orbital de la tierra durante el equinoccio.
“la gente no empieza una guerra nuclear con sólo cinco misiles”
Cuatro años antes, en Estados Unidos se vivió una situación similar. Los ordenadores de la NORAD (North American Aerospace Defense Command) detectaron ni más ni menos que 300 misiles soviéticos lanzados contra Norteamérica.
En aquel caso, la tensión no fue tan grande, ya que otros ordenadores y el equipo de reconocimiento visual confirmaron que efectivamente el equipo informático fallaba. Además, la amenaza guardaba una increíble similitud con una simulación realizada poco antes. En efecto, la investigación entonces concluyó el software confundió los juegos teóricos con información real.
“la investigación entonces concluyó el software confundió los juegos teóricos con información real”
La industria de defensa no es ajena a las revoluciones tecnológicas. De hecho, suele actuar como pionera de otros sectores, para muestra la aviación. Cada vez se encuentra más digitalizada y robotizada, lo que se traduce en una progresiva automatización de sus procesos. La confianza en su efectividad aumenta día tras día. Y eso nos deja una pregunta sobre sobre la mesa ¿habría hoy un Petrov? ¿O todos confiaríamos ciegamente en la información de la máquina antes que en nuestros conocimientos?
En 2019 la Universidad de Princeton realizó una simulación de una guerra nuclear entre Rusia y los países de la OTAN. Sus estimaciones se consideraron prudentes, o lo que es lo mismo, demasiado optimistas. No obstante, el resumen es que, en 5 horas, se dispararían unas 600 ojivas nucleares. Como resultado, 34’1 millones de personas morirían inmediatamente y 57’4 resultarían gravemente heridas y probablemente fallecerían en cuestión de días por el síndrome de intoxicación nuclear aguada. ¡Eh! Y seguiría habiendo ataques y contraataques durante al menos 48 horas.
“¿habría hoy un Petrov?”
No cabe duda de que la tecnología ha cambiado nuestras vías y, en muchos sentidos para bien. Sus continuas mejoras justifican gran parte de nuestra confianza en sus progresos. Pero no deberíamos ignorar sus límites. El dilema de la Caja China sigue en vigor.
Este fue definido por el lingüista y filósofo Searle en 1983. Si ubicamos a una máquina (o a una persona) en una habitación, en cuyas paredes se encuentran todos los signos de la lengua china y le damos las instrucciones para que seleccione los caracteres concretos y construya frases ¿diríamos que habla chino? Searle respondió que no.
“El dilema de la Caja China sigue en vigor”
El pensamiento del ser humano goza de dos cualidades, conciencia, compartida por muchas especies, y autoconciencia, mucho más excepcional. Mientras la llamada Inteligencia Artificial no reúna ambas cualidades, no podemos hablar de inteligencia en el sentido de una máquina capaz de reinventarse ilimitadamente a sí mismo. Mientras eso no ocurra, la tecnología sólo podrá detectar los errores que haya sido diseñada para detectar. Complejos o sencillos, muchos o pocos, pero sólo eso. Es algo que merece la pena recordar.
