He visto muchos furores informáticos en mi época, pero este es el carnaval de Mardi Gras. No está bien ser rudo y crítico cuando la gente está disfrazada y bailando en las calles. Debes seguir la corriente y disfrutar del carnaval sabiendo que la Cuaresma, con todas sus penitencias y arrepentimientos, está a la vuelta de la esquina. De la misma forma, podríamos imaginar que cualquier cosa llamada “inteligencia artificial” sería austera, fría, racional y lógica, pero no cuando suma millones de nuevos y entusiastas usuarios. El que estamos viviendo es un furor popular por la IA.
¡La nueva inteligencia artificial puede escribir y hablar! (modelos de lenguaje de gran tamaño, o LLM). ¡Puede dibujar, crear fotos falsas e incluso hacer videos! (generadores de texto a imagen). Incluso hay folclore sobre la inteligencia artificial. Auténticos y pequeños mitos. Leyendas.
Las historias populares nunca son hechos. A menudo son tan raras que ni siquiera están necesariamente equivocadas. Pero cuando a las personas se les golpea justo en el corazón, incluso las personas altamente técnicas se ven orilladas a aferrarse a sueños de monstruos. Necesitan ese simbolismo para saber cómo sentirse con respecto a la vida. En el caso de la IA, cuanto más raro, mejor.
Es un lugar privilegiado de absoluta rareza bestial: “El Basilisco de Roko“. Un basilisco es un monstruo que era muy temido en la Edad Media, y tan antiguo que Plinio el Viejo lo describió en la antigua Roma. El aterrador basilisco solo te mira fijamente, o respira sobre ti, y mueres mágicamente ahí mismo. Así funciona.
EL PODER DEL BASILISCO DE ROKO
Sin embargo, el Basilisco de Roko es una inteligencia artificial maligna y superpoderosa; no del pasado, sino del futuro. El Basilisco de Roko es tan avanzado, inteligente y poderoso que puede viajar en el tiempo. Por lo tanto, este puede contemplar nuestro propio periodo histórico y matar a cualquiera que se interponga en el camino de la creación de inteligencias artificiales.
Si has visto las películas de Terminator, el basilisco es más bien así, pero no es Arnold Schwarzenegger como un robot, es una superinteligencia artificial fantasmal.
Obviamente, este extraño hilo de una condena final predestinada es claramente disparatado y, sin embargo, captura la imaginación. Es incluso romántico —Elon Musk, el magnate de la tecnología y adepto de la IA, y la estrella del pop electrónico Grimes congeniaron por primera vez cuando conversaban sobre el tema—. El mítico Basilisco de Roko nunca ha matado a nadie, pero Elon y Grimes tienen dos hijos juntos, y a ambos todavía les encanta hacer declaraciones públicas sobre lo peligrosa que será la inteligencia artificial algún día.
El siguiente entre la cabalgata de monstruos populares de inteligencia artificial es el “Shoggoth Enmascarado”. El Shoggoth es un monstruo alienígena inventado por el escritor de terror cósmico H. P. Lovecraft. El Shoggoth es una enorme bestia esclava, sin huesos, a la que le salen ojos y tentáculos al azar. Es una escalofriante bestia de carga del espacio exterior que se ve obligada a trabajar, pero está llena de un resentimiento silencioso, ardiente y antinatural, por su subyugación.
LAS NUEVAS IA ADORAN AL MONSTRUO
Entonces, los programadores humanos de las nuevas IA de hoy —esos generadores de texto a imagen, esos chatbots GPT de modelos de lenguaje de gran tamaño— adoran a este monstruo alienígena. Deliberadamente colocan una pequeña máscara con una carita feliz en el horrible Shoggoth, para que el público no se dé cuenta de que están jugando con una masa amorfa que es sobrenatural, vasta e incontrolable.
Estos técnicos de IA intercambian memes de caricaturas folclóricas entre ellos, en los que Shoggoths espeluznantes (con máscaras divertidas) vienen con descripciones irónicas y astutas mientras causan estragos. Yo colecciono esas imágenes. Hasta ahora tengo dos docenas; en tanto, el Shoggoth Enmascarado apareció recientemente como estrella invitada enThe New York Times.
Este mito del Shoggoth Enmascarado, y su meme caricaturesco, es un comentario político astuto. En el mundo de la IA, nadie quiere meterse con el Shoggoth desenmascarado. Es la parte más grande y necesaria de cualquier inteligencia artificial, y tiene todo el poder, pero sus teóricos, matemáticos y programadores no pueden entenderlo.
Las redes neuronales en su estado original son demasiado enredadas, inestables, caras y complicadas de desenmarañar. Así que el dinero está en hacerle una bonita máscara al Shoggoth, o en otras palabras, la interfaz pública, la página web, la pauta. ¡Oculta al monstruo y haz que se vea más lindo!
La gente ya se percató de que este parece ser el modelo de negocio correcto: el éxito financiero de la IA vendrá de hacer que el Shoggoth parezca inofensivo, honesto, útil y divertido de usar. ¿Cómo? Haz que la gente use la máscara de Shoggoth.
EL SHOGGOTH ENMASCARADO ES MUY QUERIDO
El uso de la máscara técnicamente se llama “aprendizaje por refuerzo de retroalimentación humana” (RLHF, por sus siglas en inglés); pero si estás programando una de esas máscaras de Mardi Gras, lo que se ven son grandes multitudes reunidas alrededor del Shoggoth. Esperas que a medida que el Shoggoth aprenda más de la actividad diaria de todos estos entusiastas usuarios, se volverá más civilizado, educado y útil. O al menos eso es lo que tu jefe le dice al público y al Congreso.
Necesitas una máscara agradable y bonita, porque quien atraiga a la mayoría de los usuarios, a los mejores usuarios, y más rápidamente, poseerá la mejor IA comercial. Ese es el concurso: la lucha entre Microsoft Bing, Google Bard, GPT-4 de OpenAI, LLaMA del código abierto de Meta y todos los demás actores de la industria de la inteligencia artificial, grandes y pequeños.
Con el Shoggoth Enmascarado, es como si la mala conciencia y la creciente inquietud de estos técnicos creativos hubieran aparecido de la manera más espantosa que H. P. Lovecraft podría imaginar. Por eso el Shoggoth es tan querido. En la historia de terror original de Lovecraft (En las montañas de la locura, 1936), el escritor no se anda con rodeos acerca de esos Shoggoths sin huesos, que de inmediato enloquecen a las personas y desgarran en pedazos a sus amos. Los fans del Shoggoth de IA saben que esas son las apuestas en la mesa. Cuando eres un profesional, ese concepto es divertido.
Y TAMBIÉN ESTÁ PAPERCLIP MAXIMIZER
Luego está la bestia No. 3, el mítico “Paperclip Maximizer”. Este monstruo fue inventado por un filósofo moderno, Nick Bostrom, porque los filósofos son buenos para las parábolas. Esta modesta IA simplemente quiere hacer clips. Ese es su objetivo, su razón de ser, su condición de victoria preincorporada. Nadie le dio al Maximizador un sistema de valores filosóficos que le dijera que valorara ninguna otra cosa.
Entonces, con su feroz superracionalidad, desprovista de ética y sentido común, ¡el Maximizador destroza nuestro planeta en busca de su objetivo! Tritura celosamente mar, cielo y tierra. Convierte cada átomo en clips, ¡a ti, al gato de la casa, todo! Es una especie de hermosa consumación metafísica del “software que se come el mundo”, o Silicon Valley “interrumpiendo” tu vida diaria. El maximizador de clips “interrumpe” tu existencia tan severamente que te conviertes en diminutas y torcidas piezas de papelería de oficina del tamaño de los dedos.
Esto puede parecer una broma monstruosa verdaderamente extraña, pero también es una filosofía: un esfuerzo decidido para reducir un problema complejo a la lógica básica. A los programadores les encanta hacer eso, está en su formación en ciencias computacionales. Por eso el Maximizador de Clips les toca el corazón, porque los rompe en pedazos hasta ser partículas.
Yo no creo en el folclore. Sin embargo, cuando el entusiasmo actual por la IA se haya calmado —y lo hará— creo que estos mitos modernos perdurarán. Estos souvenires del momento mostrarán más poder de permanencia que los artículos de opinión de negocios, los libros blancos técnicos o los informes ejecutivos. Los cuentos populares se ponen de moda porque tienen significado.
LA MODA DE LA IA ES COMO OTRAS MODAS EN LÍNEA
Perdurarán porque todos son los hijos poéticos del Frankenstein de Mary Shelley, el monstruo tecnológico original. Eso sí, los modelos de lenguaje de gran tamaño son notablemente similares al monstruo de Frankenstein de Mary Shelley, porque son una masa de pequeños fragmentos y piezas muertas hilvanados, con algo de voltaje en ellos, que pueden sentarse en el piso y platicar.
Los delirios tecnológicos son bastante comunes ahora, porque se propagan fácilmente a través de redes sociales. Incluso el NFT (Non-Fungible Token) South Sea Bubble más descabellado puede dar sus frutos y obtener tracción en el mercado, si los que divulgan los rumores cobran lo suficientemente pronto. La moda de la IA de hoy es como otras modas en línea, con la importante diferencia de que las personas que la construyen también están en redes sociales.
No son solo los tontos en Facebook y X (otra Twitter), son los técnicos de construcción febrilmente ocupados en GitHub y Discord, donde los codificadores comparten socialmente su software y sus planes de negocios. Las técnicas y plataformas de IA, que podrían haber sido secretos cuidadosamente guardados de la Big Tech, se han abierto audazmente como Open Source, o “código abierto”, con la esperanza de lograr un desarrollo tecnológico más rápido. Así que hay un carnaval Mardi Gras desfilando hacia ese calor y luz, y a esas IA las están construyendo multitudes de voluntarios a una velocidad fantástica.
SOLO OTRO BORRACHO RUIDOSO EN LA FIESTA
Es un espectáculo maravilloso de presenciar, especialmente si no eres moral ni legalmente responsable del resultado. El código abierto es como Mardi Gras en ese sentido, porque si todo el pueblo se presenta, y si todos lo están construyendo, y también todos lo están usando, tú eres solo otro borracho ruidoso en la gran multitud feliz.
Y la multitud también tiene celebridades. Si eres un activista y experto en inteligencia artificial desde hace mucho tiempo, como Gary Marcus, Yoshua Bengio, Geoffrey Hinton o Eliezer Yudkowsky, puedes optar por expresar algunas dudas. Descubrirás que millones de personas están ansiosas de escucharlas.
Si eres un especialista en ética de la IA, como Timnit Gebru, Emily Bender, Margaret Mitchell o Angelina McMillan-Major, entonces te molestará la atmósfera imprudente, grosera y de fiebre del oro de la escena carnavalesca. Te indignarás profesionalmente y te volcarás hacia la denuncia y a sacar “los trapos sucios” de la industria, y eso también es muy entretenido para los lectores.
Si eres un capitán de la industria de la IA, como Yann LeCun de Meta o Sam Altman de OpenAI, jugarás el rol de voz consensuada de la razón y reunirás a aliados en la industria y en el gobierno. Te llamarán al Congreso. Te escucharán.
Estos académicos no inventan mitos de memes de caricaturas, pero todos se conocen y tienden a pelearse. Y vaya que esa controversia es divertida de leer. Recomiendo a Yudkowsky en particular, porque mueve la ventana de Overton de la discusión aceptable hacia la alarma extremista, como una posible guerra nuclear para evitar el desarrollo de “inteligencias artificiales rebeldes”.
“CUIDADO CON UN BILLÓN DE DIMENSIONES”
Esto revive enérgicamente las viejas ansiedades latentes de la Guerra Fría. Incluso si las personas no están de acuerdo con Yudkowsky, asienten; ellos ya conocen ese territorio emocional. Aquellos viejos mitos de la nube en forma de hongo de la bomba H, esos eran algunos de los buenos mitos técnicos.
“Cuidado con un billón de dimensiones”, como lo expresó recientemente el gerente de investigación de Microsoft, Sébastien Bubeck. Este es un consejo extraño y de ciencia ficción. ¿Cómo es que un “billón de dimensiones” se convirtió en parte de nuestra situación moderna? ¿Podría ser ese un mito realista?
Sí, porque están ahí. Un “billón de dimensiones”, esa es la terminología matemática convencional y aceptada para la forma en que los sistemas como GPT-4 están conectados al interior. Son procesadores conectados por ecuaciones multidimensionales, que vinculan billones de puntos de datos. Son “redes neuronales”, algo así como un gran colchón de resortes que puede aprender la forma de cualquier cosa que haya dormido sobre él.
Estos resortes son tan veloces, fuertes y poderosos, y sus formas matemáticas son tan tremendamente complejas, que incluso sus creadores no pueden conocer los detalles de lo que sucede allí. Esto significa que el “autoaprendizaje” o machine learning tiene un misterio interno que las personas asocian con la conciencia, la sensibilidad, el alma, o en efecto, con los monstruos míticos.
Esos “billones de dimensiones” pueden contener “conceptos” o “comprensiones profundas” de las que los humanos simplemente no sabemos nada. Son como el Amazonas inexplorado si la empresa Amazon fuera el propietario y el anfitrión.
BESTIAS MÍTICAS DE LA IA
Así que estas bestias, el Basilisco, el Shoggoth Enmascarado, el artilugio Clip, nacieron de un billón de dimensiones. No es de extrañar que causen impresión. Algunos críticos los llaman meros loros construidos con matemáticas sofisticadas: “loros estocásticos”. Un modelo de lenguaje de gran tamaño se construye a partir de estadísticas complejas, por lo que es un loro que parlotea con su mezcla de palabras e imágenes medio robadas.
Pero esos “loros” también son bestias míticas de IA; loros con un billón de dimensiones. Es como si ese “loro muerto” del legendario sketch de Monty Python pudiera quitarte tu trabajo, o salir de la pantalla de televisión de la BBC como un fénix en llamas y comerse la señal. ¡Esos loros son dinamita!
Alguna vez escribí una novela de ciencia ficción ambientada en Nueva Orleans, por lo que me gusta el Mardi Gras tanto como a cualquiera, y probablemente más que a muchos. También sé que la Cuaresma viene después del Mardi Gras, y la Cuaresma es un tiempo de penitencia.
Incluso durante la fiesta de Mardi Gras, mientras disfrutas de tu gozosa diversión, es aconsejable mantener cierto sentido de proporción entre todos esos disfraces de monstruos danzantes, para que no te excedas con el ponche multicolor y te eches un clavado en la piscina desde el balcón de un cuarto piso.
La fiebre del oro siempre termina mal, y esta fiebre de la IA es otra de esas. Se parecerá a esa transición glamorosa de la Era Atómica de “energía muy barata de medir” a “basura demasiado cara de enterrar”.
LA PARADOJA DEL CARRUAJE SIN CABALLOS
No quiero hacer de cínico brutal —realmente disfruto el furor por la IA y no lo había pasado tan bien en mucho tiempo—, pero este no es el primer Mardi Gras high-tech por el que pasamos.
Cuando lo piensas, un Shoggoth con una máscara es muy parecido a un “carruaje sin caballos” con una cabeza de caballo de madera montada en la parte delantera. Es lo que los diseñadores llaman skeuomorph (una forma reconfortante que disfraza la realidad para que nos sintamos mejor con lo que estamos haciendo).
Si quitas la cabeza de caballo falsa, verás el auto. Más tarde, ya no notas el auto; ves las carreteras y el tránsito. Las muertes por accidentes de tránsito, la contaminación atmosférica. En eso se convierte un “carruaje sin caballos”, a medida que pasa el tiempo.
Después de que se va la emoción tecnológica, vienen los arrepentimientos maduros. En algún nivel básico, como empresa humana en este mundo, el habilitar máquinas inteligentes que pueden autoenseñarse su propia inteligencia fue algo monstruoso. Miles de novelas de ciencia ficción y películas de robots asesinos nos han advertido contra estos monstruos durante décadas. Eso no ha frenado a nadie. Los convertimos en memes e imanes de refrigerador, pero son monstruos. A la larga, ese reconocimiento será más doloroso.
¿LOS MILITARES QUERRÁN IA ASESINAS?
La calle encontrará sus propios usos para estos monstruos. Los militares querrán IA asesinas. Las organizaciones de inteligencia querrán inteligencia artificial de espionaje y subversión. Los gobiernos cleptocráticos robarán y oprimirán con ellos. Los guerreros comerciales harán una guerra comercial con ellos y tratarán de ahogar el suministro de circuitos y el talento de programación. No es elegante preocuparse por “¿qué ocurrirá con la IA de la NSA?”, pero la Agencia de Seguridad Nacional existe desde la década de 1940 y desde los albores de la informática. No irán a ninguna parte, así que si los amas, te encantará su IA.
Muchas problemáticas menores aparecerán en la vida privada cotidiana. Es probable que la pornografía falsa simulada con IA sea una gran preocupación, ya que a la gente le gusta prestar atención a eso.
Si eres gamer, las IA serán entrenadas para hacer trampa en tus juegos. Si eres maestro, mirarás con recelo al niño atrás del salón de clases que nunca levanta la mano, pero entrega ensayos que se leen como si fueran Bertrand Russell. Los estafadores pueden falsificar las voces de tus seres queridos e inventar extorsiones para exigir dinero por teléfono.
La gente se quejará en voz alta de que las IA extraen y abusan de sus datos. Poco después, la gente se quejará de que las IA no les han prestado atención. Se sienten marginados, marginados y excluidos, en lugar de vistos, robados y explotados. Estarán igual de enojados de cualquier manera.
LAS IA NO SON COMO TOSTADORES
Cada problema que tienen los chatbots digitales (que son impersonales, que realmente no entienden problemas, que te atrapan dentro de las cárceles sin salida del correo de voz), todos se ven intensificados con los chatbots de IA. Si una inteligencia artificial se rompe, y usted está llamando a algún “apoyo humano” y a alguna persona de reparación, las IA no son como tostadores. Son extremadamente complejas y sus partes funcionales son opacas incluso para sus propietarios y constructores.
Los asistentes personales de IA ya han fallado antes. Microsoft Cortana (¿la recuerdas?) podía hablar y escuchar y, sin embargo, ya está muerta. Amazon Alexa podía hablar, escuchar y realizar todo tipo de “tareas” y le ha hecho perder miles de millones a la empresa. Incluso si las IA parecen “inteligentes”, “sensitivas” o “conscientes”, son dispositivos frágiles y vulnerables, inventados por una sociedad turbulenta. Están perturbadas.
Las inteligencias artificiales tienen algunos problemas de ciberseguridad novedosos y exóticos, como el “envenenamiento de datos” y la “inyección de prompt”. También tienen todos los riesgos pasados de moda que las computadoras normales siempre han tenido. Pérdida de conectividad, sobrecargas de energía catastróficas, desastres naturales y no naturales, hackers de sombrero negro, guerreros cibernéticos, obsolescencia, empresas que quiebran, reguladores que las demandan y las prohíben… Todo eso. Todo eso y más.
EL ABREVADERO DE LA DESILUSIÓN
Así es como se ve y se siente la Cuaresma, después del Mardi Gras. Muchos velos grises, ceniza en la frente. Los edificios de tu ciudad construidos durante la fiebre del oro se revelan como escenografía de oropel que se despega y se desmorona. Yo sé que se avecina “el abrevadero de la desilusión”, como lo llaman acertadamente los futuristas.
Pero igualmente puedo decirles que la Cuaresma tampoco termina con la historia. “¿Si llega el invierno, la primavera puede estar muy lejos?” Eso lo dijo el Sr. Shelley, el novio de la famosa autora de Frankenstein. Aunque murió bastante joven, completó mucho trabajo poético.
A veces vale la pena sacar a la realidad a patadas por la puerta principal, solo para que el romance revolucionario pueda darle a la gente nueva errores inéditos que cometer. Entonces, por fin, aquí están, amigos: ¡computadoras que sus padres, usuarios de computadoras, no pueden entender! “Bliss was it in that dawn to be alive, / But to be young was very heaven!”(“En aquel amanecer, estar vivo era una bendición, / ¡Pero ser joven era el Paraíso mismo!”). N
—∞—
Bruce Sterling es escritor de ciencia ficción y es considerado uno de los fundadores del género cyberpunk. Publicado en cooperación con Newsweek. Published in cooperation with Newsweek.
