Las interfaces entre el cerebro y una computadora (ICC), como la que se desarrolla actualmente en Neuralink, la empresa creada recientemente por Elon Musk, tienen el riesgo de ser secuestradas por algún programa hostil de inteligencia artificial, han advertido varios expertos, lo que significaría que los pensamientos, decisiones y emociones de una persona podrían ser manipuladas contra su voluntad por la inteligencia artificial.
Esta advertencia se presentó en un artículo de opinión publicado en la revista científica Nature de esta semana, y fue escrito por 27 neurocientíficos, expertos en ética e ingenieros en inteligencia artificial.
Los investigadores utilizan el ejemplo hipotético de un hombre paralizado que participa en una prueba de la interfaz entre su cerebro y una computadora, y a quien le desagradan los miembros del equipo que trabajan con él. La inteligencia artificial que lee sus pensamientos podría interpretar este desagrado como una orden para dañar a los investigadores, a pesar de que el hombre paralizado no hubiera dado una orden directa.
Los investigadores escriben: “Los avances tecnológicos significan que estamos en camino hacia un mundo en el que será posible decodificar los procesos mentales de las personas y manipular directamente los mecanismos cerebrales que están detrás de sus intenciones, emociones y decisiones, en el que las personas puedan comunicarse con otras simplemente por el pensamiento, y en el que poderosos sistemas computacionales enlazados directamente con los cerebros de las personas faciliten sus interacciones con el mundo, de manera que sus capacidades mentales y físicas se vean mejoradas en gran medida”.
Para protegernos contra esto, el grupo de investigadores afirman que existen cuatro prioridades éticas que se deben abordar: privacidad y consentimiento, mediación e identidad, mejoramiento y sesgo.
Los investigadores calculan que existen más de una docena de compañías que actualmente trabajan en alguna forma de tecnología ICC, y mencionan específicamente a Neuralink, la empresa creada por Musk a principios de este año.
Neuralink está desarrollando una interfaz inalámbrica entre el cerebro y una computadora, capaz de cargar o descargar información hacia una computadora con el objetivo de mejorar la inteligencia natural. La tecnología de Musk se basa en el concepto del lazo neural, descrito por primera vez en la serie de novelas ‘Culture’ (La cultura), escritas por el autor de ciencia-ficción Iain M. Banks, que describió una red futurista que se amolda al cerebro humano, de manera que las neuronas pueden ser programadas.
Si se desarrolla todo el potencial de dicha tecnología, podría llevar a una nueva era tecnológica para la humanidad. Sin embargo, los investigadores advierten que la historia indica que “la búsqueda de ganancias con frecuencia supera a la responsabilidad social” en este campo. Por ello, es indispensable abordar las cuatro prioridades éticas para asegurarnos de que la tecnología beneficie a la humanidad, en lugar de dañarla.
“Los posibles beneficios clínicos y sociales de las neurotecnologías son muy amplios”, concluyen los investigadores. “Para aprovecharlos, debemos guiar su desarrollo en una forma que respete, proteja y facilite los mejores aspectos de la humanidad”.
—
Publicado en cooperación con Newsweek / Published in cooperation with Newsweek
