En esta nueva era tecnológica conocemos la inteligencia artificial (IA) por su capacidad para recopilar datos, generar textos, ofrecer recordatorios y responder preguntas. Pero su potencial va más allá de lo que percibimos a simple vista. Hoy cuenta con una fuerza y capacidad de mejora que le permite, incluso, realizar ciertas acciones de manera autónoma para permitirnos tener un mejor aprovechamiento de nuestro tiempo. Le llamamos IA agéntica, o agentes de IA.
Los agentes de IA son la tercera ola de la inteligencia artificial después de la IA predictiva y generativa. Son una revolución tecnológica. Juegan un papel crucial en la automatización de tareas. Sin embargo, existen diferencias en sus niveles de sofisticación y personalización al servir a sus usuarios y la gama de tareas que pueden realizar.
Sin ir más lejos, y a diferencia de los chatbots o copilotos, un agente puede ser totalmente personalizado a las necesidades específicas y cubrir las áreas de oportunidad de cada organización, y actuar sin necesidad de intervención humana.
TENEMOS QUE ESTAR PREPARADOS PARA LOS AGENTES DE IA
Sin embargo, más allá de sus usos, quienes crean regulaciones, marcos normativos y estrategias para fomentar la adopción responsable y segura de la IA agéntica deben enfocarse en generar las condiciones adecuadas para impulsar su adopción de manera confiable y que ninguna nación o comunidad se quede atrás en este avance.
Además, es necesario preparar a la fuerza laboral con las habilidades necesarias para aprovechar el potencial de la IA es fundamental. Se estima que el 75 por ciento del valor final de la IA reside en el “front office”. Sin embargo, 41 por ciento del tiempo de los empleados se pierde en tareas repetitivas y de bajo valor. Se trata de dar a las personas la oportunidad de enfocarse en trabajos más creativos, significativos y productivos.
CONSIDERACIONES CLAVE PARA LA ADOPCIÓN DE LA IA AGÉNTICA
Hay una lista de consideraciones clave que deben tener en cuenta los responsables de crear políticas públicas, entre ellas, destaco:
- Capacitación humana. Se deben adquirir habilidades para configurar, gestionar y supervisar a los agentes de IA que, si bien están diseñados para optimizar procesos, requieren de una supervisión humana efectiva.
- Ética y transparencia. Es crucial asegurarse de seguir las pautas éticas de manera consistente y confiable. Del mismo modo, los usuarios tienen que ser capaces de identificar cuando están interactuando con un agente de IA en lugar de con un humano. Esto requerirá el desarrollo de nuevos protocolos y normas para los sistemas de IA autónomos, fomentando una colaboración efectiva entre humanos e IA.
- Gobernanza y privacidad de los datos. La confianza en los agentes de IA, que pueden requerir acceso a datos personales o confidenciales para cumplir sus tareas, depende de su capacidad para proteger la privacidad y garantizar la seguridad mediante acceso controlado, cifrado, políticas de privacidad claras, monitoreo continuo, consentimiento informado, anonimización y actualizaciones constantes.
- Seguridad. Al igual que otras aplicaciones de IA, los agentes pueden ser vulnerables a los ataques de adversarios, donde se diseñan entradas maliciosas para engañar a la IA y hacer que produzca resultados incorrectos. A medida que los agentes de IA asumen tareas cada vez más complejas, adherirse a las mejores prácticas para la seguridad y el control de calidad de la IA será determinante.
- Confianza. Los agentes de IA deben estar cuidadosamente diseñados y equipados con limitaciones para garantizar el traspaso claro y fluido de proyectos y tareas a los humanos en caso de ser necesario.
- Interacción entre agentes. Contar con protocolos y normas comunes, como estándares de comunicación, autenticación, intercambio seguro de datos, resolución de conflictos, trazabilidad y control de responsabilidades es clave para asegurar que los agentes actúen de forma controlada, predecible y responsable, en un entorno seguro que permita el intercambio de información y registros de auditoría que documenten sus interacciones.
EL FUTURO ESTÁ EN NUESTRAS MANOS…
La adopción de agentes de IA es una oportunidad transformadora que redefine cómo interactuamos, trabajamos y resolvemos desafíos. Su capacidad para optimizar procesos y generar experiencias más significativas es innegable, pero solo con preparación, responsabilidad y un compromiso firme con la ética, la transparencia y la seguridad podremos realmente aprovechar todo el potencial que surge de la combinación de agentes de IA con agentes humanos.
Mediante la implementación de políticas sólidas, la capacitación adecuada y la creación de entornos de confianza podremos aprovechar al máximo los beneficios de la IA agéntica. El futuro está en nuestras manos, y es momento de construirlo de manera consciente y colaborativa. N
—∞—
Teresa Verthein es lideresa de Asuntos Gubernamentales para México, Colombia y Centroamérica en Salesforce. Los puntos de vista expresados en este artículo son responsabilidad de la autora.
