Al terminar podrá crear la matriz de herramientas y aprobaciones
Podrá establecer acceso a herramientas con privilegios mínimos, límites de aprobación y un traspaso que permita a una persona continuar sin repetir la historia del cliente.
El buen trabajo de un agente es útil antes de impresionar.
La mayoría de los fracasos evitables de los agentes provienen de demasiada autoridad, no de muy poca inteligencia. La primera versión segura a menudo lee información, redacta una recomendación y le pide a un humano que apruebe la acción consiguiente.
Aumente la autoridad solo cuando existan controles
- 01Solo lectura
- 02Recomendar
- 03Aprobación humana
- 04Acción limitada
Conceptos clave: diseñe herramientas, aprobaciones y transferencias
Cómo crear la matriz de herramientas y aprobaciones
- 01
Enumere cada herramienta
Escriba cada capacidad de búsqueda, escritura, envío, programación, pago o eliminación por separado.
- 02
Consecuencias de rango
Marque qué acciones son informativas, reversibles, de cara al cliente, financieras, sensibles o irreversibles.
- 03
Establecer el primer límite
Comience con solo lectura o solo recomendación cuando la incertidumbre o el impacto sean altos.
- 04
construir el paquete
Exigir al agente que conserve los hechos, el motivo, la solicitud del cliente y el siguiente paso recomendado para el responsable humano.
Caso práctico: diseñe herramientas, aprobaciones y transferencias
Una agencia construye un asistente de citas para un contratista. Puede leer áreas de servicio, disponibilidad de citas y las necesidades declaradas de un cliente potencial. Puede recomendar un espacio y crear un borrador de registro de reserva.
No puede cancelar una cita existente, prometer un precio ni enviar mensajes a un cliente fuera de las plantillas aprobadas sin la aprobación del responsable. Si el cliente potencial describe un riesgo de seguridad, crea una tarea urgente y utiliza el mensaje de ruta de emergencia aprobado.
El despachador recibe el paquete de transferencia completo, no una notificación vaga que dice "La IA necesita ayuda".
Cree la matriz de herramientas y aprobaciones
Cada llamada a una herramienta cruza un límite de autorización.
Un nombre de función válido y un JSON correcto no convierten una acción en segura. La aplicación debe validar los argumentos, autenticar la identidad que actúa, autorizar el recurso concreto, limitar la operación y devolver un resultado explícito que el agente pueda interpretar.
- Use entradas tipadas y rechace los campos desconocidos.
- Haga idempotentes las operaciones de escritura cuando sea posible.
- Exija aprobación para acciones cuyo coste o consecuencia sea difícil de revertir.
- Registre solicitud, identidad, decisión, resultado y error sin exponer secretos.
Fuentes consultadas
Antes de seguir adelante
- Inventario de las herramientas del agente propuesto.
- Degradar una acción riesgosa a recomendación o aprobación.
- Revise si el humano puede reconstruir lo que sucedió a partir del paquete de transferencia.
- Cada herramienta tiene un propósito específico para el trabajo.
- Las acciones de alto impacto cuentan con aprobación o son eliminadas.
- El traspaso contiene evidencia y un siguiente paso.
- El primer lanzamiento es más limitado que la ambición final.