Matías Zibell sobre Benjamín Labatut (relato y entrevista)
El físico húngaro Eugene Wigner
sobre su compatriota Jancsi Von Neumann:
En este mundo solo hay dos tipos de personas:
Jancsi von Neumann y el resto de nosotros.
(Benjamín Labatut)
Benjamín Labatut (chileno nacido en Roterdam 1980) en Un verdor terrible (2020) ya se había adentrado en las oscuridades y paradojas de la ciencia y los científicos del siglo 20. Pero en Maniac (2023), titulada con las siglas de la computadora que creó Von Neumann (mathematical analyzer numerical integrator and automatic computer), todos los avances científicos de las últimas décadas parecen darse cita en un solo cerebro. Von Neumann participó en el proyecto Manhattan, que desarrolló la bomba nuclear; es considerado junto a Alan Turing el padre de la computación; fue uno de los creadores de la teoría de juegos y de la estrategia detrás de la Guerra Fría, y, sin embargo, su nombre pasa desapercibido para una gran mayoría. Von Neumann, quien en Estados Unidos cambió el Jancsi por John y ayudó a científicos como él a escapar del nazismo en Europa, es definido por el autor chileno como un tipo de enorme complejidad. Y para adentrarse en él, Labatut hace lo que nunca había hecho: recurre a muchos para hablar de uno solo: además de Wigner, otras 14 personas describen etapas de la vida de John Von Neumann. —¿Por qué el personaje de Von Neumann necesitaba esa chorrera de voces? —Porque Von Neumann requiere algo distinto. Los milagros que han descubierto otros científicos, por lo general, se circunscriben a un área. Son genios en la física o en la matemática, descubrieron un monstruo dentro de una ecuación, abrieron nuestra visión del mundo hacia un ámbito específico. Pero Von Neumann es único, en el sentido de que prácticamente no hay área de la ciencia moderna que no haya tocado con su pensamiento, y muchas de sus ideas siguen teniendo impacto. Tú hablas con gente que está estudiando la forma en que se comunican las células con cáncer y están aplicando ecuaciones de Von Neumann, un matemático puro. Es una lección medio sacada del libro anterior (Un verdor terrible), siguiendo a Alexander Grothendieck quien dice que cuanto más complejo es un objeto, más puntos de vista son necesarios para verlo. En el caso de Von Neumann eso es algo tan colosal que la única manera de no amarrarlo, de no disminuirlo con una perspectiva autoritaria única, simplista, era el coro. —Al comienzo de la novela, lo defines como el hombre más inteligente del siglo 20, mientras que su biógrafo Ananyo Bhattacharya lo llama el hombre del futuro. ¿De qué manera su inteligencia es superior a las demás? —Hay dos aspectos fundamentales. El primero es la velocidad, una velocidad incomparable, inhumana. Von Neumann construyó el primer computador moderno, que se convirtió en la base de todos los computadores, y estos de alguna manera nos han dado una perspectiva similar a la que él tenía sobre las cosas: esa capacidad inmediata, el cómputo, el cálculo. Su mente es sinónimo de computar. Lo segundo es la abstracción y la lógica. Von Neumann era capaz de tomar algo y verlo en aspectos lógicos, y eso te permite cosas maravillosas. Por ejemplo, se sienta y dice cómo tendría que funcionar cualquier organismo que se replique a sí mismo, sea mecánico o biológico, y pone las ecuaciones en el papel. Y tú puedes ver en su texto el funcionamiento del arn y del adn, más o menos diez años antes de que supiéramos de ellos. —Su biógrafo lo llama el Einstein olvidado y en la película Oppenheimer, de Christopher Nolan, es el gran ausente. Si estuvo en todo, ¿cómo es que su nombre parece perdido? —Porque es como el Espíritu Santo, la tercera persona que está en todos lados y en ninguna parte. No es fácilmente comprensible. Si tú le tratas de explicar a un niño lo que es el espíritu santo no lo va a entender. Luego le dices, el padre y el hijo, y eso sí lo entiende. En esta trinidad, el padre es Albert Einstein y, considerando hacia donde va el siglo 21, el hijo podría ser Turing. Pero el espíritu santo es Von Neumann, alguien que opera a todo nivel y es tan grande que es invisible, pero está metido en cada uno de los aspectos del mundo moderno. También hay que reconocer que nuestra comprensión es limitada. No tenemos las herramientas intelectuales para entender la mayor parte de sus aportes. Yo escribí cientos de páginas, porque quise tocarlo todo, y era imposible. No sé cuántas tuve que sacar por razones obvias: yo ‑y la mayoría de la gente- no comprendo la matemática pura, pero lo que hizo él en matemática pura también fue colosal. Por ejemplo, a los 14 años hace una investigación con un matemático, y ese matemático le dedica el resto de su carrera a desarrollar el área que Von Neumann había inventado en el colegio. Eso pasa una y otra vez. Llega, toca un área y sigue adelante. Y luego la gente tiene que empezar a tratar de ver qué fue lo que nos mostró. —En el libro aparece la primera mujer de Von Neumann diciendo que, en temas prácticos era un inútil. ¿Cómo se inserta una inteligencia inhumana en el mundo cotidiano? —A una persona que tiene sobre desarrollada la razón, una capacidad de abstracción brutal, le va a ser muy difícil ir a un cumpleaños, celebrar la navidad o cocinarse el desayuno. Es lo que hemos aprendido ahora que estamos desarrollando sistemas o robots: lo más difícil no es que apunten a un avión, sino que sepan recoger una taza de la mesa. Von Neumann dice que la ciencia es útil para cualquier propósito, pero indiferente ante todo. —¿Se trata de una inteligencia amoral? ¿O moral o inmoral, ético o no ético, no tienen sentido en una mente como la de suya? —Los criterios de moralidad y de ética tienen sentido siempre. Von Neumann no es amoral, para nada. El problema es qué puede ver del mundo una mente como la suya. Lo que nosotros nos deberíamos preguntar es qué son capaces de ver de la realidad que nosotros no somos capaces. Los grandes maestros morales de Occidente (Cristo, Nietzsche, Kant) nos han enseñado una forma de ser humano. Pero hay momentos en que uno tiene que apagarlos, apagar a Cristo, a Kant, no continuamente, pero tiene que poder ver el mundo sin esos filtros. Ponerse en la cabeza de otras formas de ser humano. Von Neumann participa de la creación de la bomba nuclear y del desarrollo de la computación, o sea, el momento más creativo de la humanidad con su momento más destructivo. —¿Es una coincidencia u obedece a esa mitad tan compleja del siglo 20? —Primero, aclarar que eso lo dijo George Dyson en La Catedral de Turín. Dyson presenta una serie de metáforas fundamentales como esa donde dice que el invento más creativo y el más destructivo de la humanidad surgen básicamente en el mismo instante y se potencian el uno al otro. Yo no elijo a los científicos porque están locos; lo hago porque es gente que se ha atrevido a abrazar con las dos manos lo que quema, lo que arde, lo que te rompe la cabeza en mil pedazos. Porque nuestras cabezas están construidas de forma muy frágil, y el cerebro no está hecho para soportar la contradicción. —En tu ensayo La piedra de la locura dices que la irrupción de lo nuevo es un proceso traumático que solo nos deja temblando. Maniac cierra justamente con la inteligencia artificial. ¿Cómo nos enfrentamos a este nuevo fenómeno? —Solamente hay un camino posible cada vez que el ser humano se enfrenta a un límite: matar o morir. No solo desarrollamos estos pequeños semidioses de la racionalidad, sino que al mismo tiempo desarrollamos toda nuestra materia oscura. Estos mecanismos que estamos creando son profundamente poderosos y misteriosos, pero los grandes saberes del ser humano son todos inconscientes. Lo que te mantiene a ti vivo, lo que nos mantiene como fenómeno humano, todo eso brota del inconsciente y eso siempre va a ser un misterio. Ya lo decía Nicanor Parra: somos un injerto de ángel y bestia. (Benjamín Labatut por Matías Zibell)
Seguimos a la tecnología como el burro sigue eternamente a la zanahoria; nos promete sin cesar que lo siguiente será mejor, más fácil y más barato. Nuestro apetito de innovación es insaciable. La aparente inevitabilidad de las olas no viene de la falta de resistencia, sino de una demanda que la sobrepasa. Las naciones sienten la necesidad existencial de estar a la altura. La innovación es poder. El segundo incentivo es el ecosistema de investigación mundial, que tiene arraigados rituales que recompensan la publicación abierta, la curiosidad y la búsqueda de nuevas ideas a toda costa. Luego están los inmensos beneficios económicos de la tecnología y la urgente necesidad de afrontar los retos sociales globales que se nos van a presentar. El último impulsor es, quizá, el más humano de todos: el ego. (Mustafa Suleyman, La ola que viene: Tecnología, poder y el gran dilema del siglo 21)
Mariano Sigman y Santiago Bilinkis: Artificial: La nueva inteligencia y el contorno de lo humano.
1.
La 2ªGM precipitó el desarrollo de la IA y de la tecnología nuclear. Pero, después del conflicto, ambas tecnologías siguieron trayectorias muy diferentes. Mientras que la IA quedó relegada a una curiosidad académica, el poderío del arsenal atómico se convirtió en la clave para el balance geopolítico del mundo de las siguientes ocho décadas. Es probable que el objetivo principal de lanzar las bombas sobre Hiroshima y Nagasaki no fuera solamente la destrucción de esas dos ciudades, y la muerte de unas doscientas cincuenta mil personas, sino mostrar al mundo que Estados Unidos disponía de un arma nueva que terminaba de inclinar por completo el balance de fuerzas.
2.
Lo que las bombas atómicas hicieron en el siglo 20, seguramente lo haga la IA en el 21. Las indudables aplicaciones militares de esta tecnología pueden, una vez más, resultar la clave para el balance geopolítico de las próximas décadas. Con una diferencia importante: esta vez buena parte del desarrollo tecnológico está en manos de corporaciones que, si bien son seguidas muy de cerca por los gobiernos, tienen sus propias agendas.
3.
En mayo de 2023, muchos de los referentes mundiales en IA firmaron una declaración conjunta que consiste en una sola oración: Mitigar el riesgo de extinción por causa de la IA debe ser una prioridad global, a la altura de otros riesgos como las pandemias y la guerra nuclear. La frase llama la atención por lo contundente, pero también por lo escueta. Subraya tanto el consenso acerca del peligro existente, como la imposibilidad de trasladar la preocupación a acciones concretas por la dificultad que plantea ponerse de acuerdo sobre qué forma podría tomar ese peligro y qué medidas podríamos adoptar para protegernos. Sería casi imposible lograr que empresas como OpenAI, Google o Meta aceptaran detener sus desarrollos de manera coordinada. Pero imaginemos por un instante que ese acuerdo fuera posible. ¿Cómo respondería el gobierno chino o sus empresas? Probablemente acelerando.
4.
Con el escándalo de Cambridge Analytica en 2018, descubrimos que es posible manipular el voto para influir en el resultado de elecciones. Pero este incidente no fue una anomalía. Fue la consecuencia inevitable de un sistema basado en recopilar y monetizar nuestra información: capitalismo de vigilancia. Los pilares fundamentales del modelo son: recopilar enormes cantidades de datos sobre personas, utilizarlos para deducir perfiles increíblemente detallados de su vida y su comportamiento, y monetizarlos vendiendo esas predicciones a otras partes, por ejemplo, anunciantes. Cambridge Analytica se limitó a utilizar ese mismo modelo básico para dirigirse a votantes, en lugar de a consumidores. Este modelo se ha convertido en el núcleo de la economía de datos, y sustenta un complejo ecosistema de empresas tecnológicas, corredores de datos, anunciantes y otros. Pero son los pioneros del modelo, Google y Facebook, los que tienen un acceso inigualable al seguimiento y la monetización de nuestras vidas, al controlar los principales portales (fuera de China) al mundo online (Google Search, Chrome, Android, YouTube, Instagram y WhatsApp). Ya en ese momento, la proliferación de noticias falsas diseñadas para viralizarse en las redes era un problema que no logramos solucionar.
5.
Si nos basamos en la cantidad de patentes relacionadas con la IA que presenta cada país, el dominio de China en los últimos años es abrumador. Entretanto, el gobierno de Estados Unidos presiona a Nvidia, la empresa más importante entre las que fabrican gpu [graphics processing unit, procesador gráfico para operaciones de coma flotante, para aligerar la carga de trabajo del procesador cpu], para que no venda a China los modelos más avanzados. Quizá el destino de esta pugna lo defina una pequeña isla, cinco veces menor en superficie que Uruguay: Taiwán.
6.
Los beneficios de la IA están repartidos de forma muy desigual: la ganancia económica directa de desarrollar esta tecnología es inmensa para un grupo de empresas y gobiernos. Los avances que se logren (como curar el cáncer o alargar la vida) quizá estén disponibles solo para quien pueda pagarlos. En cambio, la consecuencia de un eventual error fatal nos afecta a todos. ¿Cómo convencer a quienes hasta un minuto antes de la extinción se estén beneficiando con su desarrollo? La ambición por el rédito económico a corto plazo o el poder están nublando el juicio a muchos de los encargados de tomar las decisiones cruciales.
0.
Penguin Random House Grupo Editorial apoya la protección del copyright. El copyright estimula la creatividad, defiende la diversidad en el ámbito de las ideas y el conocimiento, promueve la libre expresión y favorece una cultura viva. Gracias por comprar una edición autorizada de este libro y por respetar las leyes del copyright al no reproducir ni distribuir ninguna parte de esta obra por ningún medio sin permiso. Al hacerlo está respaldando a los autores y permitiendo que prhge continúe publicando libros para todos los lectores. Diríjase a cedro. (broche legal del libro de Mariano Sigman y Santiago Bilinkis: Artificial: La nueva inteligencia y el contorno de lo humano, leído en Kindle como libro electrónico)
daniellebrato.com 