Ejecute una evaluación restringida antes de una implementación amplia
Comience con tipos de llamadas definidos y repetibles. Deje que el personal revise los registros y traspasos resultantes. Mantenga el alcance del piloto lo suficientemente limitado como para que el equipo pueda notar resúmenes incorrectos, enrutamiento débil, confusión en las personas que llaman y falta de propiedad.
el Marco de gestión de riesgos de IA del NIST ofrece orientación voluntaria para pensar en los riesgos de la IA y la gestión de riesgos. No aprueba a un proveedor ni hace que un flujo de trabajo sea seguro por sí solo. Úselo como un mensaje para documentar el contexto, el uso previsto, las limitaciones, la revisión y la responsabilidad en un nivel apropiado para su organización y caso de uso.
Antes del lanzamiento, decida quién puede cambiar las instrucciones de las llamadas, quién revisa las interacciones marcadas, cómo el personal corrige los registros, qué desencadena una transferencia inmediata y qué sucede si el servicio no está disponible. Para contextos de alto riesgo, regulados, de emergencia, legales, médicos, financieros o sensibles, busque la revisión calificada adecuada y limite la automatización en consecuencia.