La carta pública firmada por el magnate Elon Musk y un centenar de expertos para que se haga una pausa en el desarrollo de la inteligencia artificial (IA) desató este jueves 30 de marzo un debate en las redes entre los académicos.
Los avances vertiginosos de la inteligencia artificial llevaron a Musk, fundador del gigante de los autos eléctricos Tesla y actual patrón de Twitter, a firmar esa carta, frente a lo que se califica de “dramática perturbación económica y política (especialmente para la democracia) que causará la IA”.
A pesar de que la carta, publicada en el sitio futureoflife.org, fue suscrita por pensadores independientes como el historiador Yuval Noah Hariri, o el cofundador de Apple, Steve Wozniak, algunos académicos protestan por lo que consideran una malinterpretación de la discusión.
Timnit Gebru, una investigadora especializada en ética de la inteligencia artificial, escribió un artículo académico que fue citado en la carta de Musk y sus correligionarios. Sin embargo, ahora se muestra descontenta.
“Básicamente dicen lo contrario de lo que decimos y citamos en nuestro artículo”, explica.
La otra autora del artículo, Emily Bender, califica por su parte la carta abierta de “embrollo”. “En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable”, afirman Musk y los expertos.
El director de Open AI, que diseñó ChatGPT, Sam Altman, ha reconocido tener “un poco de miedo” de que su algoritmo se utilice para “desinformación a gran escala o ciberataques”.
EL PELIGRO DE LA INTELIGENCIA ARTIFICIAL ES LA CONCENTRACIÓN DE PODER
Las académicas Gebru y Bender afirman en cambio que el peligro de la IA es “la concentración de poder en manos de gente. (Así como) la reproducción de sistemas de opresión, el daño al ecosistema informativo”. Uno de los firmantes de la carta abierta, Emad Mostaque, fundador de la empresa británica Stability AI, aseguró por su parte que se retractaba de la demanda de una moratoria de seis meses.
“No creo que una pausa de seis meses sea la mejor idea” dijo en Twitter.
El profesor de psicología Gary Marcus, firmante de la carta, considera en cambio en una contrarréplica que “los escépticos tienen que emitir una alarma. No hay ninguna contradicción al respecto”.
Los gigantes del sector como Google, Meta y Microsoft ya llevan años investigando en los programas basados en inteligencia artificial para acelerar tareas como la traducción o la publicidad selectiva. Sin embargo, son los algoritmos de empresas como OpenAI las que han provocado polémica.
Su robot conversacional ChatGPT, capaz de mantener conversaciones complejas con seres humanos, acaba de ser actualizado con una nueva versión, GPT-4. Esta es aún más potente.
“¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Tenemos que automatizar todos los trabajos, incluidos los gratificantes? (…) ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos”, señalan los firmantes de la carta. N
