Fuente: Diario Gestión
La inteligencia artificial agéntica, aquella que puede ejecutar acciones en nombre de una persona, está ganando relevancia en el ecosistema tecnológico y empresarial de Perú. Este enfoque va más allá de conversar con un chatbot: puede realizar compras, gestionar pagos y extraer información, lo que abre oportunidades para acelerar procesos y mejorar la productividad. Sin embargo, su poder conlleva riesgos reales si no va acompañado de gobernanza y controles adecuados.
Qué es la IA agéntica
La IA agéntica se caracteriza por su capacidad de interpretar instrucciones y ejecutar tareas autónomamente dentro de límites predefinidos. Aunque esto puede simplificar operaciones, también puede generar errores, repetir acciones o incluso actuar sobre información incorrecta si no hay supervisión y límites claros.
Desafíos y riesgos en el contexto peruano
En Perú, el uso de estas tecnologías plantea preguntas sobre responsabilidad, seguridad y costos. Por ejemplo, una IA con autorización para realizar pagos puede generar pérdidas si no se controla adecuadamente. Expertos señalan que no es suficiente con activar la automatización; es crucial entender qué decisiones puede tomar la IA y cuáles requieren aprobación humana. Además, la adopción masiva puede generar costos operativos significativos si no se gestiona la gobernanza financiera y de datos.
- Permisos y límites: no conceder acceso libre a cuentas, tarjetas o contratos sin límites explícitos y sin supervisión humana.
- Riesgos de ciberseguridad: analizar amenazas como la inyección de prompts, el envenenamiento de herramientas y la manipulación de objetivos.
- Memoria y persistencia: evitar que instrucciones maliciosas queden activas entre sesiones.
- Arquitecturas multiagente: protegerse contra posibles ataques entre agentes.
La clave está en equilibrar productividad con controles de seguridad y responsabilidad, para que la IA no se convierta en una fuente de costos o de errores críticos.
Marco legal y gobernanza en Perú
La legislación peruana actual no regula con detalle los agentes de IA autónomos, y aún se discute cómo asignar responsabilidades por daños o decisiones tomadas por estas tecnologías. Se destaca la necesidad de reglas claras sobre responsabilidad, trazabilidad, auditoría y límites de autonomía para decisiones de alto impacto. Mientras tanto, se enfatiza que la innovación no debe frenarse: las normas deben evolucionar para ganar confianza y proteger a usuarios y empresas, especialmente en temas de protección de datos personales.
En síntesis, la IA agéntica ofrece un camino interesante para la productividad en Perú, pero su implementación exitosa exige gobernanza, límites transparentes y una responsabilidad compartida entre proveedores, empresas y usuarios.