Descubrimiento y alcance

Investigadores de seguridad de Cisco Talos realizaron una búsqueda en Shodan que descubrió más de 1.100 servidores Ollama expuestos a Internet. Los servidores Ollama permiten a los desarrolladores y empresas ejecutar grandes modelos de lenguaje en infraestructuras locales o privadas sin depender de proveedores de servicios en la nube. Los hallazgos revelan una mezcla de servidores inactivos, aproximadamente el 80% del total, y servidores activos que actualmente alojan modelos, lo que representa alrededor del 20% de los activos descubiertos.

Riesgos de seguridad

Los servidores expuestos presentan múltiples vectores de ataque. Las amenazas incluyen ataques de extracción de modelos, donde los adversarios intentan reconstruir los parámetros del modelo; jailbreaking y abuso de contenido, que fuerzan a los modelos de lenguaje a generar contenido restringido o dañino; y la inyección de puertas traseras o envenenamiento de modelos, que podrían incorporar código malicioso en el flujo de trabajo de la inteligencia artificial. Incluso los servidores inactivos pueden ser aprovechados para ataques de agotamiento de recursos, incidentes de denegación de servicio o movimiento lateral dentro de una red.

Distribución geográfica

El análisis de los servidores expuestos muestra una concentración en tres países. Estados Unidos cuenta con la mayor participación, con un 36,6%, seguido de China con un 22,5% y Alemania con un 8,9%. Esta distribución destaca que el descuido de la seguridad no se limita a una sola región, sino que es un problema global.

Implicaciones para la implementación de la inteligencia artificial

Cisco Talos enfatiza que los hallazgos ilustran un descuido generalizado de las prácticas de seguridad fundamentales, como se relacionan con los sistemas de inteligencia artificial. La falta de control de acceso, autenticación y aislamiento de redes deja a las organizaciones vulnerables a la explotación de sus activos de inteligencia artificial. La situación es comparable a las bases de datos mal configuradas que históricamente han sido objetivo de campañas de robo de datos y phishing. La investigación sirve como advertencia de que, a medida que los modelos de inteligencia artificial se vuelven más integrales para las operaciones comerciales, se debe aplicar una higiene de seguridad robusta desde la implementación hasta la gestión continua.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas