Los agentes de IA necesitan reglas claras antes de operar pagos

Los agentes de inteligencia artificial pueden asumir tareas y encadenar etapas de un flujo de trabajo, pero todavía no deberían operar pagos sin reglas claras, límites objetivos y derechos de decisión definidos previamente. Esta es la tesis central presentada por Colin Swain, Global Head of Product de Bottomline, en un artículo de opinión publicado por PYMNTS.com.

El punto es relevante porque los pagos no son solo una etapa operativa. Implican dinero, autorización, identidad, datos sensibles, obligaciones de cumplimiento y consecuencias difíciles de revertir. Un agente que interpreta una solicitud de forma incorrecta puede elegir un beneficiario equivocado, superar un límite financiero o completar una transacción que requería validación humana.

La diferencia entre automatizar y delegar decisiones

La automatización tradicional suele seguir reglas relativamente fijas: se cumple una condición y un sistema ejecuta una acción predefinida. En cambio, un agente puede interpretar instrucciones, buscar información, elegir el siguiente paso e interactuar con distintos sistemas. Esta flexibilidad aumenta el potencial de productividad, pero también dificulta prever todos los caminos que se recorren antes de una orden de pago.

Por eso, el debate planteado por PYMNTS.com no se limita a preguntar si un agente puede ejecutar una transferencia o un cobro. La pregunta más importante es qué decisiones pueden delegarse, en qué contexto, con qué datos y dentro de qué límites. El agente puede preparar una operación, pero quizá no pueda modificarla, aprobarla o liberarla sin una segunda capa de control.

La responsabilidad también se distribuye entre varios participantes. La empresa que implementa el agente define el objetivo y los controles; bancos, fintechs y procesadores sostienen la infraestructura para mover fondos; los equipos de riesgo y cumplimiento evalúan las excepciones; y los usuarios o gestores pueden seguir siendo responsables de la aprobación final. Sin una división explícita, la autonomía del software puede crear una zona gris sobre quién autorizó una acción y quién debe responder por un error.

Qué reglas deben existir antes de la ejecución

Las reglas eficaces deben transformar una intención amplia, como pagar a un proveedor o saldar una factura, en condiciones verificables. Esto incluye definir el alcance de la tarea, los importes máximos, los beneficiarios permitidos, las señales que requieren un bloqueo y los casos en que el agente debe interrumpir el flujo y solicitar intervención humana.

• Límites de importe, frecuencia, moneda, cuenta de origen y tipo de beneficiario.
• Criterios de autenticación y confirmación para operaciones fuera del patrón habitual.
• Separación entre preparar una transacción, recomendar su aprobación y liberarla efectivamente.
• Registro auditable de las instrucciones recibidas, los datos consultados, las decisiones tomadas y las respuestas de los sistemas.
• Mecanismos de pausa, reversión, investigación y escalamiento cuando existan inconsistencias o sospechas de fraude.

La secuencia operativa también debe ser clara. Primero, el agente interpreta la solicitud y verifica si está dentro del mandato recibido. Después, consulta las políticas, confirma la identidad y el contexto, calcula o recibe una evaluación de riesgo y decide si puede continuar. Si la operación supera los parámetros, la tarea debe remitirse a una persona o a un sistema de aprobación; solo después de esa etapa debe producirse la ejecución, con todos los eventos registrados.

Riesgos, límites y lo que aún no se ha confirmado

Entre los riesgos se encuentran los errores de interpretación, las instrucciones ambiguas, los datos desactualizados, las credenciales comprometidas, la manipulación del contexto y las decisiones difíciles de explicar después de los hechos. También existe el riesgo de que una organización confunda una respuesta convincente con una autorización válida. En los pagos, la velocidad sin gobernanza puede aumentar las pérdidas en lugar de limitarse a reducir el trabajo manual.

La investigación proporcionada describe la postura de Swain y menciona un nuevo libro electrónico de PYMNTS.com, pero no confirma un producto específico de Bottomline, una asociación comercial, la adopción por parte de bancos ni un estándar regulatorio ya definido. Tampoco hay, en el material disponible, un calendario de implementación, métricas de rendimiento, nombres de clientes o evidencia de que los agentes autónomos ya estén autorizados para ejecutar pagos a escala.

En la práctica, esto sugiere que las empresas deben tratar la autonomía como una escala, no como una elección binaria. Una primera etapa puede limitar al agente a recopilar documentos, verificar datos y preparar una operación. En niveles posteriores se pueden permitir recomendaciones o aprobaciones condicionadas, siempre con límites más bajos, supervisión continua y la exigencia de una validación adicional para las situaciones de mayor riesgo.

Los próximos pasos consisten en mapear cada decisión del flujo de pagos, asignar un responsable, definir niveles de autorización y probar escenarios de excepción antes de ampliar la autonomía. También será necesario revisar los permisos de acceso, separar funciones incompatibles, supervisar comportamientos anómalos y establecer procedimientos para incidentes. La gobernanza debe acompañar la evolución del agente, porque los cambios en el modelo, los datos o los sistemas conectados pueden alterar su comportamiento.

El mensaje central del artículo es que las reglas no son un obstáculo para la adopción de agentes de IA, sino la infraestructura que hace que esa adopción sea defendible. En los pagos, la ventaja competitiva no estará solo en completar tareas con mayor rapidez, sino en demostrar que cada decisión se tomó dentro de una autoridad válida, con una supervisión proporcional y una trazabilidad suficiente para corregir el rumbo cuando sea necesario.

Fuente: PYMNTS.com