Presentando controles de política para interacciones de agentes más seguras

En AWS re:Invent, Amazon Web Services anunció la adición de una función de política a su plataforma Bedrock AgentCore. La política permite a los desarrolladores definir límites de interacción para los agentes de inteligencia artificial utilizando declaraciones de lenguaje natural. Estas restricciones se hacen cumplir a través de la puerta de enlace AgentCore, que automáticamente verifica cada acción propuesta y bloquea cualquier que viola los controles escritos. Los casos de uso destacados incluyen limitar la capacidad de un agente para emitir reembolsos hasta una cantidad determinada y requerir aprobación humana para transacciones más grandes, así como restringir el acceso a conjuntos de datos internos o servicios de terceros como Salesforce y Slack.

AgentCore Evaluations: una herramienta de garantía de calidad lista para usar

Para abordar las preocupaciones sobre la confiabilidad de los agentes de inteligencia artificial, AWS introdujo AgentCore Evaluations, una colección de 13 sistemas de evaluación preconstruidos. La suite monitorea factores como la corrección factual, el cumplimiento de la seguridad y la precisión de la selección de herramientas. Al proporcionar estas métricas listas para usar, AWS tiene como objetivo reducir el esfuerzo de desarrollo necesario para construir soluciones de monitoreo personalizadas, lo que da a las empresas un camino más rápido hacia implementaciones de agentes confiables.

Capacidad de memoria que permite experiencias personalizadas y persistentes

La nueva función AgentCore Memory permite a los agentes retener un registro duradero de la información del usuario acumulada a lo largo de múltiples interacciones. Los ejemplos citados incluyen almacenar las horas de vuelo preferidas de un viajero o sus opciones de hotel. Con esta historia, los agentes pueden adaptar futuras recomendaciones y decisiones, lo que crea una experiencia de usuario más fluida y personalizada.

Perspectiva estratégica y contexto de la industria

David Richardson, vicepresidente de AgentCore, enmarcó estos lanzamientos como una iteración coordinada en tres capas: aplicación de políticas, razonamiento mejorado con memoria y evaluación robusta. Mientras que algunos observadores de la industria dudan de la longevidad de los agentes de inteligencia artificial, Richardson argumentó que la combinación de poder de razonamiento y integración de herramientas del mundo real posiciona a los agentes como un patrón sustentable, incluso a medida que evolucionan las aplicaciones específicas.

Implicaciones para la adopción empresarial

El lanzamiento combinado de Policy, Evaluations y Memory está diseñado para reducir las barreras para que las empresas adopten agentes de inteligencia artificial a gran escala. Al proporcionar controles de seguridad integrados, monitoreo de calidad y personalización, AWS espera abordar las principales preocupaciones que han frenado una implementación más amplia. Los anuncios señalan el compromiso de AWS de hacer que los agentes de inteligencia artificial sean un componente confiable de la pila de tecnología empresarial moderna.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas