La inteligencia artificial puede “provocar mucho daño”, dice robot a humanos


Robot debate con humanos sobre inteligencia artificial, advierte que puede “provocar mucho daño”

inteligencia-artificial-daño-humanos


Una máquina con inteligencia artificial subió al podio de Cambridge Union en el Reino Unido para debatir con humanos sobre los pros y los contras de la IA, y dijo al público, en un momento dado, que “la IA puede provocar mucho daño”.

Sin embargo, los partidarios de la IA ganaron el debate, consiguiendo una estrecha victoria al obtener los votos de apenas un poco más de la mitad del público.

Según la revista Fortune, los argumentos sobre la IA fueron extraídos de más de 1,100 mensajes enviados a IBM la semana previa al debate, los cuales se clasificaron como a favor o en contra de la IA, o bien, fueron descartados por ser irrelevantes para el debate. De todos ellos, Project Debater de IBM buscó y condensó los argumentos más sólidos y más diversos que repitió cuando se le daba una frase breve como entrada.

Entre los argumentos a favor de los beneficios de la IA está el que indica que ésta podría generar nuevos empleos y lograr una mayor eficiencia en el lugar de trabajo, mientras que uno de los argumentos en contra mencionó el problema de los sesgos humanos y el hecho de que la IA es incapaz de tomar decisiones de tipo moral.

Lee más: Humanos vs inteligencia artificial: crean programa capaz de vencer en el póker a jugadores profesionales

“La IA puede provocar mucho daño”, dijo al público, según New Scientist . “La IA no podrá tomar una decisión que sea moralmente correcta porque la moralidad es exclusiva de los seres humanos”. 

Sin embargo, el desempeño del algoritmo no careció totalmente de errores, pues mostró la tendencia a repetirse a sí mismo en ocasiones, como cuando habló sobre la capacidad de la IA de llevar a cabo tareas repetitivas, y utilizó un argumento sesgado para indicar un beneficio y no una crítica contra la IA. Sin embargo, sí logró arrancar algunas risas con frases tomadas de su “banco de bromas”, informó CNN.

No es la primera vez que la IA actúa frente a seres humanos. Lo hizo en febrero pasado, cuando perdió en una batalla frontal contra Harish Natarajan, que ostenta el récord mundial de más victorias en debates. Natarajan también se presentó en Cambridge Union, con argumentos a favor de la IA.

Entérate: “Bots”: El lado oscuro de la inteligencia artificial

Dan Lahav, científico informático de IBM que trabaja en el Project Debater, declaró a reporteros de Fortune que algunas personas enviaron obscenidades y comentarios racistas, aparentemente para que la IA los repitiera durante el debate. Sin embargo, a diferencia de algoritmos como Tay de Microsoft, este tipo de IA pudo eliminar el lenguaje discriminatorio y controversial.

El equipo que está detrás de esta máquina espera que pueda utilizarse como herramienta para recolectar retroalimentación de grupos de gran tamaño, por ejemplo, por gobiernos que buscan retroalimentación del público o por empresas que quieran saber cuál es su reputación entre posibles clientes.

En cuanto a la forma en que el público estadounidense percibe a la IA, la mayoría parece estar a favor en gran medida: en una encuesta Gallup realizada en 2018, 79 por ciento de los participantes estuvieron de acuerdo en que la IA ha tenido un impacto “mayormente positivo” o “muy positivo” en su vida. Sin embargo, 73 por ciento esperaba que la IA erradicara más empleos de los que generaba. La mayoría (63 por ciento) también esperaba que la IA exacerbara la desigualdad económica.

Los expertos en IA tampoco están de acuerdo en relación con los daños y los beneficios de la IA, y muchos de ellos afirman que el futuro de ésta estará determinado por la manera en que los seres humanos programamos la operación de los algoritmos.

Te puede interesar: Yeeko: los bots mexicanos que conversan contigo y ayudan a generar acuerdos

“Pienso que es más probable que utilicemos este poder para hacer del mundo un mejor lugar. Por ejemplo, podemos eliminar la pobreza en todo el mundo, reducir en gran medida las enfermedades y proporcionar una mejor educación a casi cada uno de los habitantes del planeta”, dijo a Pew Research Erik Brynjolfsson, director de la Iniciativa sobre la Economía Digital del MIT y autor de “Machine, Platform, Crowd” (Máquina, plataforma, multitud).

“Dicho lo anterior, la IA y el AM [aprendizaje máquina] también pueden utilizarse para concentrar cada vez más la riqueza y poder, dejando atrás a muchas personas, y creando armas aún más aterradoras. Ninguno de estos dos resultados es inevitable, así que la pregunta correcta no es ‘¿Qué ocurrirá?’, sino ‘¿Qué decidiremos hacer?'”

Publicado en cooperación con Newsweek / Published in cooperation with Newsweek

Ingresa las palabras claves y pulsa enter.