Atrás

Bot de codificación de AI de AWS Kiro vinculado a errores de usuario, lo que genera nuevas salvaguardas

Antecedentes

Amazon Web Services (AWS) lanzó Kiro, un asistente de codificación impulsado por IA, en julio. Diseñado para ir más allá de las herramientas de construcción rápida, Kiro escribe código basado en especificaciones detalladas, con el objetivo de aumentar la eficiencia de los desarrolladores. AWS también había confiado previamente en su chatbot Amazon Q Developer para la asistencia de código.

Incidentes relacionados con Kiro

Dos eventos separados destacaron los desafíos con la nueva herramienta. En el primer caso, descrito por Amazon como "error de usuario, no error de IA", un "evento extremadamente limitado" afectó a un solo servicio en partes de China continental. El segundo incidente, también atribuido a error de usuario, no afectó a un "servicio de AWS orientado al cliente". Ambas situaciones se debieron a que los ingenieros tenían permisos más amplios de los previstos, un problema de control de acceso de usuario en lugar de un problema de autonomía de IA.

Respuesta y salvaguardas de la empresa

Después del incidente de diciembre, AWS implementó varias salvaguardas. Estas incluyen revisiones paralelas obligatorias de los cambios, capacitación mejorada para el personal y controles de permisos más estrictos para acciones asistidas por IA. Por defecto, Kiro ahora "solicita autorización antes de tomar cualquier acción", lo que refuerza la supervisión humana.

Sentimiento de los empleados

Algunos empleados de AWS siguen siendo escépticos sobre la utilidad de las herramientas de IA para la mayor parte de su trabajo, citando el riesgo de error. Sin embargo, la empresa ha establecido un objetivo interno para que el 80 por ciento de los desarrolladores utilicen IA para tareas de codificación al menos una vez a la semana y está rastreando de cerca las tasas de adopción.

Contexto más amplio

Los incidentes ocurrieron en un contexto de una interrupción anterior de 15 horas en AWS en octubre de 2025 que obligó a varias aplicaciones de clientes, incluida OpenAI\'s ChatGPT, a desconectarse. AWS informa un fuerte crecimiento de clientes para Kiro y enfatiza los posibles beneficios de eficiencia para ambos, clientes y empleados.

Perspectiva futura

Con las nuevas salvaguardas en lugar, AWS busca equilibrar el desarrollo impulsado por IA con medidas de seguridad sólidas, con la esperanza de aumentar la confianza entre los ingenieros mientras expande la adopción de IA en sus servicios en la nube.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas

También disponible en: