Cada vez hay más entusiasmo entre los líderes de las principales empresas de inteligencia artificial respecto de que una inteligencia informática “fuerte” superará pronto a la de los humanos, pero muchos investigadores en el campo consideran esas afirmaciones como una estrategia de marketing.
La creencia de que las técnicas actuales de aprendizaje automático generarán una inteligencia humana o superior —a menudo llamada “inteligencia artificial general” (AGI)— alimenta hipótesis sobre el futuro que abarcan desde la hiperabundancia generada por las máquinas hasta la extinción humana.
«Se vislumbran sistemas que empiezan a apuntar hacia la IAG», escribió Sam Altman, director de OpenAI, en una entrada de blog el mes pasado. Dario Amodei, de Anthropic, afirmó que este hito «podría alcanzarse ya en 2026».
Estas predicciones ayudan a justificar los cientos de miles de millones de dólares que se están invirtiendo en hardware informático y en el suministro de energía para hacerlo funcionar.
Otros, sin embargo, son más escépticos.
El científico jefe de inteligencia artificial de Meta, Yann LeCun, dijo a AFP el mes pasado que “no vamos a llegar a una inteligencia artificial de nivel humano simplemente ampliando los LLM”, los grandes modelos de lenguaje detrás de sistemas actuales como ChatGPT o Claude.
La opinión de LeCun parece respaldada por la mayoría de los académicos en el campo.
Más de tres cuartas partes de los encuestados en una encuesta reciente de la Asociación para el Avance de la Inteligencia Artificial (AAAI), con sede en Estados Unidos, coincidieron en que era poco probable que “ampliar los enfoques actuales” produjera IAG.
Algunos académicos creen que muchas de las afirmaciones de las empresas, que los jefes a veces han acompañado de advertencias sobre los peligros de la IAG para la humanidad, son una estrategia para captar la atención.
Las empresas “han realizado grandes inversiones, y deben dar frutos”, dijo Kristian Kersting, un destacado investigador de la Universidad Técnica de Darmstadt en Alemania y miembro de la AAAI reconocido por sus logros en este campo.
“Simplemente dicen: ‘Esto es tan peligroso que solo yo puedo manejarlo. De hecho, yo mismo tengo miedo, pero ya hemos dejado salir al genio de la botella, así que me voy a sacrificar por ti, pero entonces dependerás de mí’”.
El escepticismo entre los investigadores académicos no es total: figuras prominentes como el físico ganador del Nobel Geoffrey Hinton o el ganador del Premio Turing 2018 Yoshua Bengio advierten sobre los peligros de la IA poderosa.
“Es un poco como ‘El aprendiz de brujo’ de Goethe: de repente tienes algo que ya no puedes controlar”, dijo Kersting, refiriéndose a un poema en el que un aspirante a brujo pierde el control de una escoba que ha encantado para realizar sus tareas.
Un experimento mental similar, más reciente, es el “maximizador de clips”.
Esta IA imaginaria perseguiría su objetivo de fabricar clips con tal determinación que convertiría la Tierra y, en última instancia, toda la materia del universo en clips o máquinas para fabricar clips, habiéndose librado primero de los seres humanos que, a su juicio, podrían obstaculizar su progreso al apagarla.
Si bien no es “malvado” en sí, el maximizador se quedaría fatalmente corto en lo que los pensadores en el campo llaman “alineación” de la IA con los objetivos y valores humanos.
Kersting dijo que “puede entender” esos temores, aunque sugirió que “la inteligencia humana, su diversidad y calidad es tan excepcional que pasará mucho tiempo, si es que alguna vez” hasta que las computadoras puedan igualarla.
Le preocupan mucho más los daños a corto plazo que puede causar la IA ya existente, como la discriminación en los casos en que interactúa con humanos.
La aparente brecha entre las perspectivas académicas y los líderes de la industria de la IA puede simplemente reflejar las actitudes de las personas al elegir una trayectoria profesional, sugirió Sean O hEigeartaigh, director del programa IA: Futuros y Responsabilidad en la Universidad de Cambridge, Gran Bretaña.
“Si eres muy optimista sobre el poder de las técnicas actuales, probablemente tengas más probabilidades de trabajar en una de las empresas que están invirtiendo muchos recursos para intentar que esto suceda”, dijo.
Aunque Altman y Amodei pueden ser “bastante optimistas” sobre los plazos rápidos y la aparición de la IAG mucho más tarde, “deberíamos pensar en ello y tomarlo en serio, porque sería lo más grande que jamás sucedería”, añadió O hEigeartaigh.
“Si existiera cualquier otra posibilidad… la de que los extraterrestres llegaran en 2030 o que hubiera otra pandemia gigante o algo así, dedicaríamos tiempo a planificarlo”.
El desafío puede residir en comunicar estas ideas a los políticos y al público.
Hablar de superIA “crea instantáneamente este tipo de reacción inmune… suena a ciencia ficción”, dijo O hEigeartaigh.
