El pánico reflejado en la carta de IA se deriva del temor de que incluso aquellos que están en la "tren de progreso", no podrán dirigirla. Nuestros actuales maestros feudales digitales están asustado. Lo que quieren, sin embargo, no es un debate público, sino un acuerdo entre gobiernos y corporaciones tecnológicas para mantener el poder donde pertenece.
Una expansión masiva de las capacidades de IA es una seria amenaza para aquellos en el poder - incluyendo aquellos que desarrollan, poseen y controlan la IA. Apunta a nada menos que el fin del capitalismo tal como lo conocemos, se manifiesta en la perspectiva de un sistema de IA autorreproducible que necesitará cada vez menos aporte de agentes humanos (el comercio del mercado algordítmico es simplemente el primer paso en esta dirección). La elección que nos queda será entre una nueva forma de comunismo y un caos incontrolable.
Los nuevos chatbots ofrecerán a muchos personas solas (o no tan solas) incasar noches de diálogo amistoso sobre películas, libros, cocinas o política. Para reutilizar una vieja metáfora mía mía, lo que la gente obtendrá es la versión de IA de café descafeinado o refresco sin azúcar: un vecino amistoso sin esqueletos en su armarios, un Otro que simplemente se acomodará a sus propias necesidades. Hay una estructura de rechazo fetista aquí: "Sé muy bien que no estoy hablando con una persona real, pero se siente como si lo fuera y sin ninguno de los riesgos que los acompañas.
En cualquier caso, un examen de cerca de la carta de la IA demuestra que es un intento más de prohibir lo imposible. Esta es una vieja paradoja: es imposible para nosotros, como humanos, participar en un futuro post-humano, por lo que debemos prohibir su desarrollo. Para orientarnos en torno a estas tecnologías, deberíamos hacerle la vieja pregunta de Lenins: Libertad para quién hacer qué? En qué sentido estábamos libres antes? No estábamos ya controlados mucho más de lo que nos dimos cuenta? En lugar de quejarnos de la amenaza a nuestra libertad y dignidad en el futuro, tal vez deberíamos considerar primero lo que significa la libertad ahora. Hasta que no hagamos esto, actuaremos como histéricas que, según el psicoanalista francés Jacques Lacan, están desesperados por un maestro, pero sólo uno que podamos dominar.
El futurista Ray Kurzweil predice que, debido a la naturaleza exponencial del progreso tecnológico, pronto trataremos con máquinas "spiritual", que no sólo mostrarán todos los signos de autoconciencia, sino que también superarán con creces la inteligencia humana. Pero no se debe confundir esta postura post-humana por la preocupación paradigmáticamente moderna de lograr la dominación tecnológica total sobre la naturaleza. Lo que estamos presenciando, en cambio, es una inversión dialéctica de este proceso.
Las ciencias de hoy en día ya no se trata de dominación. Su credo es una sorpresa: qué tipo de propiedades contingentes, no planificadas, podrían adquirir los modelos de IA de la caja negra para sí mismos? Nadie sabe, y ahí yace la emoción o, de hecho, la banalidad de toda la empresa.
De ahí que, a principios de este siglo, el filósofo-ingeniero francés Jean-Pierre Dupuy discernió en la nueva robótica, genética, nanotecnología, vida artificial e IA una extraña inversión de la arrogancia antropocéntrica tradicional que la tecnología permite:
Cómo vamos a explicar que la ciencia se convirtió en una actividad tan arriesgadora que, según algunos científicos de alto nivel, representa hoy la principal amenaza para la supervivencia de la humanidad? Algunos filósofos responden a esta pregunta diciendo que el sueño de Descartes se ha convertido en maestro y poseedor de la naturaleza, y que debemos volver urgentemente a la maestría de la maestría. No han entendido nada. Ellos no ven que la tecnología se perfila en sí misma en nuestro horizonte a través de la "convergencia" de todas las disciplinas apunta precisamente a la no-maestría. El ingeniero del mañana no será un aprendiz de brujos por su negligencia o ignorancia, sino por elección.