|
por Jordi Pigem
16 Mayo 2025
del Sitio Web
BrownstoneEsp
Ahora la IA ha subido al podio de las
tecnologías de autodestrucción colectiva,
que en
tiempos de Chargaff
era ocupado por la
escisión del átomo
y la manipulación genética...
La semana pasada, un grupo de investigadores encabezado por Max
Tegmark pidió que las compañías de IA calculen el riesgo de que
sus inventos se nos vayan de las manos y acaben con el prodigio de
la existencia humana:
Según Tegmark,
futuros desarrollos de la IA
podrían tener más del 90% de posibilidades de
llevarnos al desastre...
Aunque esas estimaciones se basan en juegos
matemáticos que pueden ser tan complicados como irreales (como los
infames modelos matemáticos que durante
el Covid desencadenaron epidemias
de pánico y se usaron como justificación para los confinamientos y
otros delirios), el problema de fondo es real.
La IA (Imitación Algorítmica o
Invasión
Algorítmica, mal llamada "Inteligencia Artificial") se
une a las armas nucleares en el podio de nuestros inventos
autodestructivos.
El gran bioquímico
Erwin Chargaff (1905-2002), sin cuya
contribución
Watson y
Crick no habrían llegado al
modelo de la doble hélice del ADN, resumió así su trayectoria a
través del siglo XX:
Mi vida ha estado marcada por dos
descubrimientos científicos inmensos y fatídicos: la escisión
del átomo y el reconocimiento de la química de la herencia y su
subsiguiente manipulación.
Ambos casos están basados en la vejación del
núcleo:
el núcleo del átomo, el núcleo de la célula.
Siento que,
en ambos casos, la ciencia ha transgredido una barrera que
debería haber permanecido inviolada.
Heraclitean Fire - Sketches from a Life
Before Nature
Ahora la IA ha subido al podio de las tecnologías
de autodestrucción colectiva, que en tiempos de Chargaff era ocupado
por la escisión de la átomo y la manipulación genética.
Chargaff lamentaba que la biología se había
apartado de la vida y que la ciencia se había convertido en,
"una máquina para resolver todo tipo de
problemas que, al ser resueltos científicamente, generan
problemas todavía mayores".
Y consideraba la,
"intromisión genética" (genetic meddling)
como una grave "patología de la imaginación científica" (igual
que "el deseo de dar saltitos en la Luna") y como un "crimen
inconcebible".
En junio de 1976
publicó en la revista Science
una carta cuyo párrafo final sigue resonando por su honestidad y
contundencia:
Este mundo nos es dado en préstamo.
Venimos y nos vamos, y tras un tiempo dejamos
tierra, aire y agua a otros que vienen detrás de nosotros.
Mi
generación, o tal vez la anterior, ha sido la primera en iniciar,
bajo el liderazgo de las ciencias exactas, una destructiva guerra
colonial contra la naturaleza.
El futuro nos maldecirá por ello.
La alusión a lo
trascendente ("nos maldecirá por ello") viene a cuento con la IA.
Como
señalaba David Souto hace unos días,
"es una buena señal que León XIV asegure que
'el mal no prevalecerá' y explique que ha escogido su nombre
para hacer lo que León XIII con respecto a la Revolución
Industrial, solo que en relación a la Revolución Digital y a la
tiranía poshumana de la Inteligencia Artificial".
Algo se juega aquí la humanidad...
El llamado "padrino de la IA",
Geoffrey Hinton, galardonado
con el Premio Nobel de Física en 2024, se marchó
de Google en 2023
para, según declaró,
poder denunciar libremente el "riesgo
existencial" que genera la IA.
Reconoció que, en parte, se arrepentía de haber
contribuido a desarrollar esta tecnología potencialmente
destructiva.
Su consuelo era que, de no haber contribuido él,
habrían contribuido otros (triste consuelo al que podría recurrir el
verdugo que sabe que ejecuta a un inocente).
Y sin embargo, en vez de preocuparse de ese "riesgo existencial"
para la humanidad, las compañías de IA están ahora cada vez más
preocupadas por el "bienestar" de sus máquinas (AI welfare), colmo
de un mundo que quiere fundir y confundir máquinas y personas.
Hablar de derechos de las máquinas no
tiene sentido...
Las máquinas de IA podrán imitar a las personas y
hacer creer que en sí mismas tienen o pueden llegar a tener
"conciencia", pero máquinas son y máquinas se quedan.
Lo complejo y prodigioso puede dar lugar a lo simple y tangible,
pero a partir de lo simple y tangible no puede generarse lo complejo
y prodigioso (lo que en ciencia se llaman "propiedades emergentes"
es un intento de esquivar esta obviedad).
Un sencillo ejemplo:
es muy fácil convertir un árbol vivo en
ceniza, humo y energía, pero no hay manera alguna de convertir
una combinación de ceniza, humo y energía en un árbol vivo.
Nuestra cultura reduccionista y materialista
,
sigue creyendo irracionalmente que de la química de lo inerte puede
surgir la vida (aunque nadie pueda explicar cómo), y sigue creyendo que a partir del metal y la
electricidad puede generarse la conciencia.
Y así estamos.
En 2022, centenares de expertos en IA respondieron a una pregunta
que les planteó una revista especializada,
AI Impacts...:
"¿Qué probabilidad cree que hay de que
adelantos futuros en IA causen la extinción de la humanidad, o
que lleven a la especie humana a una ruina permanente y severa?"
Es decir, se preguntó a expertos en IA,
qué
probabilidad veían de que aquello en lo que despreocupadamente
trabajan cada día acabe con la humanidad o la malogre para siempre.
El simple hecho de que esta pregunta sea
concebible muestra que hemos perdido el contacto vital con la
realidad.
Y resulta que la mitad de los 738 expertos
respondieron que hay, como mínimo, un 10% de probabilidades de que
su trabajo desencadene una catástrofe global irreparable.
¿Quién subiría a un avión que, según los
ingenieros aeronáuticos, tiene una probabilidad de, como mínimo,
el 10% de explotar en vuelo o estrellarse...?
Exactamente cien años antes, en 1922,
Rainer
Maria Rilke mostró algunas de las implicaciones del desarrollo
tecnológico desenfrenado en sus
Sonetos a Orfeo, en un tiempo en que
la tecnología (lo que él epitomiza en "die Maschine", "la Máquina")
era poco más que la locomotora de vapor y los primeros automóviles.
Dos de sus versos pueden aplicarse a la IA:
A todo lo logrado amenaza la máquina,
osando en el espíritu estar, no en la obediencia.
Alles Erworbne bedroht die Maschine, solange
sie sich erdreistet, im Geist, statt im Gehorchen, zu sein.
El alemán Geist, aquí (versión castellana
de José María Valverde) traducido como 'espíritu', también incluye
entre sus significados 'mente' e 'inteligencia'.
Rilke avisaba, hace más de un siglo,
de que todo
lo conseguido por la humanidad ("todo lo logrado") estaría amenazado
por máquinas que, en vez de estar a nuestro servicio, usurpan el
ámbito de la inteligencia ("osando en el espíritu estar, no en la
obediencia").
Los poetas, hoy tan poco valorados,
son tanto descubridores de
tesoros como avisadores de incendios.
Los son mientras mantienen la
fascinación por el prodigio de la vida.
Chargaff, el gran bioquímico, hacia el final de su existencia
acabó definiendo la vida como,
"la intervención continua de lo
inexplicable".
|
