Tres fronteras que dan forma a la capacidad de los modelos de IA

Michael Gerstenhaber, vicepresidente de productos en Google Cloud, supervisa Vertex AI, la plataforma unificada de la empresa para implementar IA empresarial. Observa que los modelos de IA se miden actualmente contra tres frentes distintos. El primer frente es la inteligencia bruta, donde el enfoque es entregar la salida de la más alta calidad, como generar el mejor código posible, sin importar el tiempo que tome.

El segundo frente se refiere a la latencia, o tiempo de respuesta. En casos de uso como las interacciones de soporte al cliente, la velocidad se vuelve crítica; un modelo debe proporcionar respuestas precisas con suficiente rapidez para mantener a los usuarios comprometidos, incluso si eso significa sacrificar algo de profundidad de inteligencia.

El tercer frente es la escalabilidad rentable. Las aplicaciones a gran escala, como la moderación de contenido en internet, requieren modelos que puedan operar a volúmenes masivos e impredecibles sin gastos prohibitivos. Las organizaciones deben equilibrar la inteligencia más alta posible con el presupuesto que pueden sostener a escala.

Por qué la IA agente no ha explotado aún

Gerstenhaber señala que a pesar de las impresionantes demostraciones, la IA agente no ha producido los cambios significativos que muchos esperaban. Atribuye esto a la falta de infraestructura esencial. Las empresas aún necesitan patrones robustos para auditar el comportamiento de los agentes, autorizar el acceso a datos y garantizar el cumplimiento antes de que los agentes de IA puedan ser implementados de manera segura en entornos de producción.

La adopción en producción es un indicador rezagado del verdadero potencial de una tecnología. Debido a que las organizaciones deben desarrollar y validar estos salvaguardias operativos primero, la implementación de sistemas agentes tarda naturalmente en producirse.

La integración vertical única de Google

Gerstenhaber destaca la posición distintiva de Google en el paisaje de la IA. La empresa controla toda la pila, desde los centros de datos y el suministro de electricidad hasta los chips personalizados y los modelos propietarios. Esta integración vertical se extiende a la capa de inferencia, la infraestructura agente y una suite de API que admiten la memoria, la escritura de código intercalado y la gobernanza de cumplimiento. Google también ofrece interfaces de chat para usuarios empresariales y de consumo, lo que refuerza su capacidad de extremo a extremo.

Estos activos integrados permiten a Google proporcionar a los desarrolladores acceso a los modelos más avanzados mientras mantiene un control estricto sobre los costos, lo que posiciona a la empresa para abordar las tres fronteras de manera más efectiva que muchos competidores.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas