Nexus.—Algunos extractos.

Nexus. Una breve historia desde la Edad de Piedra hasta la AI. Yuval Noah Harari, Debate, 24. —Algunos extractos. Prólogo y otros. Capcast 

1. 

El poder no es sabiduría y su uso 'imprudente' nos hace destructivos

"El poder no es sabiduría y, después de cien mil años de descubrimientos, inventos y conquistas, la humanidad se ha visto abocada a una crisis existencial autoinfligida. 

Nos hallamos al borde de un colapso ecológico causado por el mal uso de nuestro propio poder. -También nos afanamos en la creación de nuevas tecnologías como la inteligencia artificial (IA), que tienen el potencial de escapar de nuestro control y de esclavizarnos o aniquilarnos. 

Pero, lejos de que nuestra especie haya unido fuerzas para abordar estos retos existenciales, 

las tensiones internacionales van en aumento, 

la cooperación global se está haciendo más difícil, 

las naciones acumulan armas apocalípticas y una nueva guerra mundial no parece imposible.

    Si los sapiens somos tan sabios, ¿por qué somos tan autodestructivos?" Prólogo, p. 11

2.

"El argumento principal de este libro es que la humanidad consigue un poder enorme mediante la construcción de grandes redes de cooperación, pero la forma en que se construyen dichas redes las predispone a hacer un uso imprudente del poder. Nuestro problema, por lo tanto, tiene que ver con las redes.

Más concretamente, es un problema de información. La información es el pegamento que mantiene unidas las redes. Pero, durante miles de años, los sapiens construyeron y mantuvieron grandes redes al inventar y expandir ficciones, fantasías, ilusiones: sobre dioses, sobre palos de escoba encantados, sobre la IA y sobre muchas otras cosas. 

Mientras que cada individuo humano suele interesarse por conocer la verdad acerca de sí mismo y del mundo, las grandes redes ponen en contacto a sus miembros y crean orden al generar dependencia en ficciones y fantasías. Así es como, por ejemplo, vimos surgir el nazismo y el estalinismo. Estas eran unas redes poderosísimas sostenidas por ideas excepcionalmente equivocadas. Tal como afirmó con acierto George Orwell, la ignorancia es fuerza.

El hecho de que los regímenes nazi y estalinista se fundaran sobre fantasías crueles y mentiras cargadas de cinismo no los hizo excepcionales desde el punto de vista histórico, ni los predestinó al hundimiento. El nazismo y el estalinismo han sido dos de las redes más poderosas jamás creadas por el ser humano."(...) p. 14

3

"A pesar de -o quizá debido a— la acumulación de datos, seguimos arrojando a la atmósfera gases de efecto invernadero, 

contaminamos ríos y mares, talamos bosques, 

destruimos hábitats enteros, condenamos a innumerables especies a la extinción y ponemos en peligro los cimientos ecológicos de nuestra especie. 

También, producimos armas de destrucción masiva cada vez más poderosas, desde bombas termonucleares hasta virus que pueden suponer la total aniquilación de la humanidad.              Nuestros líderes no carecen de información acerca de estos peligros, pero, en lugar de colaborar en la búsqueda de soluciones, se acercan cada vez más a una guerra global." Prólogo p. 20.

4.

" En primer lugar, el poder de la IA podría sobrecargar los conflictos humanos ya existentes y dividir a la humanidad en una lucha contra sí misma. Así como en el siglo xx el Telón de Acero dividió a las potencias rivales durante la Guerra Fría, en el siglo XXI el Telón de Cilicio constituido por chips de silicio y códigos informáticos en lugar de por alambre de espino podría llegar a dividir a las poten- cias rivales en un nuevo conflicto global. Debido a que la carrera ar- mamentística de la IA producirá armás cada vez más destructivas, incluso una pequeña chispa podría causar un incendio cataclísmico.

En segundo lugar, el Telón de Silicio podría no generar una divi- sión entre dos grupos de humanos, sino más bien entre los humanos y sus nuevos jefes supremos de IA. Con independencia de dónde vivamos, podríamos vernos envueltos por una red de algoritmos incomprensibles cuya función sería gestionar nuestras vidas, remodelar nuestras políticas y nuestras culturas, e incluso rediseñar nuestro cuerpo y nuestra mente; al mismo tiempo, nos resultaría imposible entender las fuerzas que nos controlan, no hablemos ya de detenerlas. Si una red totalitaria del siglo XXI consigue conquistar el mundo, puede que no se encuentre gobernada por un dictador de carne y hueso, sino por una inteligencia no humana." p. 22.

5. 

"La IA ya es capaz de producir arte que en las próximas décadas adquiera incluso la capacidad de crear nuevas formas de vida, ya sea a través de la escritura de código genético o de la invención de un código inorgánico que anime entes inorgánicos.

Incluso en el momento actual, en la fase embrionaria de la revolución de la IA, los ordenadores toman decisiones por nosotros: la concesión de una hipoteca, un contrato de trabajo o la imposición de una pena de cárcel. Esta tendencia no hará más que aumentar y acelerarse, lo que nos dificultará la comprensión de nuestra propia vida. ¿Podemos confiar en los algoritmos informáticos para tomar decisiones sensatas y construir un mundo mejor? Este es un juego mucho más serio que confiar en que una escoba encantada achique agua. Y estamos poniendo en riesgo más que vidas humanas. La IA puede alterar el curso no solo de la historia de nuestra especie, sino de la evolución de todos los seres vivos." p. 23

6.

" La aparición de la IA es la mayor revolución de la información que ha conocido la historia. Pero no la podremos comprender a menos que la comparemos con sus predecesoras. La historia no es el estudio del pasado, sino el estudio del cambio. La historia nos enseña lo que se mantiene inmutable, lo que cambia y cómo cambian las cosas. Esto es tan relevante para las revoluciones de la información como para cualquier otro tipo de transformación histórica. Así, entender el proceso por el que la Biblia, supuestamente infalible, fue canonizada nos proporciona importantes conocimientos acerca de la infalibilidad que hoy se atribuye a la IA. De modo similar, episodios como la caza de brujas de inicios de la Edad Moderna y la colectivización de Stalin ofrecen a cualquiera que los estudie duras advertencias sobre lo que podría ir mal si concedemos a la IA un mayor control sobre las sociedades del siglo XXI. Asimismo, un conocimiento cabal de la historia es vital para comprender qué novedades ofrece la IA, en qué se diferencia de la imprenta y de la radio, y de qué maneras específicas una futura dictadura de la IA podría ser muy distinta de lo que hemos conocido hasta ahora.

El libro no defiende que estudiar el pasado nos permita predecir el futuro. Tal como se subraya en repetidas ocasiones a lo largo de las páginas que siguen, la historia no es determinista, y las decisiones que tomemos en los años venideros servirán para moldear el futuro, La escritura de este libro tiene como objetivo principal que, al tomar decisiones bien fundadas, prevengamos el peor de los desenlaces. Si no podemos cambiar el futuro, ¿por qué perder el tiempo hablando de él?" p. 31

                         *

" La idea ingenua afirma que la información es un intento de representar la realidad, y cuando este intento tiene éxito lo denominamos verdad. Aunque este libro discrepa en muchos aspectos de esta visión ingenua, sí está de acuerdo en que la verdad es una representación exacta de la realidad. Pero este libro también sostiene que la mayoría de la información no intenta representar la realidad y que lo que define la información es algo completamente diferente. La mayoría de la información en la sociedad humana, y sin duda en otros sistemas biológicos y físicos, no representa nada. Quiero dedicar un poco más de espacio a este argumento complejo y esencial, porque constituye la base teórica del libro. 

¿QUÉ ES LA VERDAD? (...) "Aquel que  rechaza el universalismo rechaza la verdad". p. 41

La realidad contiene muchos puntos de vista(...) Solo existe una realidad, pero es compleja". p. 42

                       ***

"<<En la ciudad masacrada>>, Bialik, condenaba a la turba antisemita de asesinos que perpetró aquellas atrocidades, pero también criticaba a los propios judíos por su pacifismo e indefensión.

    En una escena desgarradora, Bialik describe cómo varias mujeres judías fueron víctimas de violaciones en grupo mientras sus maridos y hermanos, temerosos de intervenir, se escondían en las inmediaciones. El poema compara a los hombres judíos con ratones aterrorizados e imagina cómo rogaron a Dios en silencio, para que obrara un milagro que no se materializó. El poema cuenta entonces que, ni siquiera después de que el pogromo hubiera terminado, los supervivientes pensaron en armarse y, en cambio, se enzarzaron en disputas talmúdicas acerca de si las mujeres violadas eran ahora «impuras>> desde el punto de vista ritual o de si todavía eran «puras». Hoy este poema es de lectura obligada en muchas escuelas israelíes. También es de lectura obligada para quien busque entender por qué después de dos milenios en los que fueron una de las comunidades más pacíficas de la historia, los judíos construyeron uno de los ejércitos más potentes del mundo. No sin motivo, a Bialik se lo ha considerado el poeta na-cional de Israel. " Harari, Debate 24. pp 77-79. Cita capcast

                       *

"ERRORES: LA FANTASÍA DE LA INFALIBILIDAD

"Eran ajenos a la brecha que parecía abrirse entre texto y realidad. Más bien, mantenían que escribir textos sobre estos ritos y debatir acerca de dichos textos era mucho más importante que la propia ejecución de los ritos.38. Finalmente, esto condujo a los rabinos a creer que el universo era una esfera de información: un ámbito compuesto de palabras que funcionaba según el código alfabético de las letras hebreas. Sostenían además que este universo de información se había creado para que los judíos pudieran leer textos y discutir sobre su interpretación, y que, si en algún momento los judíos dejaran de leer dichos textos y de deba- tir sobre ellos, el universo dejaría de existir. En la vida cotidiana, esta postura implicaba que, para los rabinos, con frecuencia las palabras de los textos tenían más importancia que la realidad del mundo. O, para ser más precisos, que las palabras que aparecían en los textos sagrados se convertían en la más importante de las realidades acerca del mundo y moldeaban la vidą de individuos y de comunidades enteras." :123

(***)

Cualquier tipo de actividad física que desarrollemos deja un rastro de datos. Cada compra se registra en una base de datos. Actividades online como enviar mensajes a amigos, compartir fotos, pagar facturas, leer noticias, hacer reservas o pedir taxis también pueden registrarse.
El océano de datos resultante puede analizarse después mediante sistemas de IA para identificar actividades ilegales, pautas sospechosas, a personas desaparecidas, portadores de enfermedades o disidentes políticos."(...). Nexus, 24(:292)