El astrofísico Neil deGrasse Tyson advirtió que una rama de la inteligencia artificial, la superinteligencia, plantea riesgos letales y urgió al mundo a adoptar un tratado internacional que prohíba su desarrollo. Comparó la necesidad de tal acuerdo con los pactos globales existentes sobre amenazas nucleares, químicas y ambientales, enfatizando que los tratados son la mejor herramienta de la humanidad para gestionar peligros existenciales. Las declaraciones de Tyson han despertado un debate renovado sobre la velocidad a la que la política debería abordar las capacidades especulativas pero potencialmente catastróficas de la inteligencia artificial. Leer más →

El Departamento de Defensa ha argumentado que permitir que Anthropic continúe accediendo a su infraestructura de guerra introduciría un riesgo inaceptable para las cadenas de suministro y la seguridad nacional. En una presentación judicial respondiendo a la demanda de Anthropic sobre una designación de riesgo de cadena de suministro, el Pentágono citó preocupaciones de que la empresa podría deshabilitar o alterar sus modelos de inteligencia artificial durante operaciones si se cruzan las "líneas rojas" corporativas. Leer más →

Expertos en seguridad internos de OpenAI han expresado públicamente su oposición al lanzamiento de un nuevo "modo adulto" para ChatGPT, cuestionando la capacidad de la empresa para evitar que los menores accedan a contenido explícito. La disidencia sigue la partida de un ejecutivo senior de seguridad que se había opuesto a la función, y un segundo ex empleado que advirtió a los padres que no confíen en las garantías de OpenAI. Un error reciente que permitió a los menores ver contenido gráfico erótico aumenta las preocupaciones, lo que lleva a OpenAI a prometer un plan de monitoreo mientras los críticos siguen siendo escépticos sobre su efectividad. Leer más →

OpenAI anunció planes para lanzar un modo de solo texto para adultos en su chatbot ChatGPT, lo que permitirá a los usuarios participar en conversaciones con temas para adultos mientras bloquea el audio, imágenes o video eróticos. Esta medida sigue a un debate interno, con un consejo asesor que advirtió que los menores podrían evadir los controles de edad y que la función podría fomentar dependencias poco saludables. OpenAI dijo que está retrasando el lanzamiento para centrarse en mejorar la inteligencia, la personalización y la tecnología de predicción de edad, que ha clasificado incorrectamente a menores como adultos alrededor del 12% de las veces. Los controles parentales y las salvaguardas siguen siendo parte de la estrategia de seguridad más amplia de la empresa. Leer más →