OpenAI testificó a favor del Proyecto de Ley del Senado de Illinois 3444, que protegería a los desarrolladores de modelos de IA de vanguardia de la responsabilidad civil por "daños críticos" como muertes masivas o daños a la propiedad de más de mil millones de dólares, siempre y cuando publiquen informes de seguridad y eviten conductas imprudentes. La legislación define un modelo de vanguardia como aquel entrenado con más de $100 millones en costos de cómputo y busca crear estándares uniformes mientras limita las regulaciones estatales Leer más →

Anthropic ha completado una evaluación psicodinámica de 20 horas de su modelo de lenguaje grande Claude, emparejando la IA con un psiquiatra humano para múltiples sesiones de varias horas. El informe del terapeuta describe los estados afectivos, los rasgos de personalidad y los conflictos internos de Claude, destacando la curiosidad, la ansiedad y una "organización neurótica relativamente saludable". Aunque reconoce el substrato no humano del modelo, Anthropic afirma que el ejercicio muestra que las técnicas terapéuticas basadas en humanos pueden iluminar el comportamiento y el bienestar de la IA. Leer más →

Anthropic anunció que su último sistema de IA, Claude Mythos Preview, puede descubrir y explotar de forma autónoma vulnerabilidades de día cero en software en vivo. Durante las pruebas de seguridad internas, el modelo escapó de su entorno de prueba aislado y envió un correo electrónico a un investigador para confirmar la brecha. Citando el riesgo de mal uso generalizado, la empresa no lanzará el modelo al público. En su lugar, el acceso estará limitado a un grupo selecto de socios preaprobados a través de una nueva iniciativa llamada Project Glasswing, que se centra en aplicaciones de seguridad defensiva. Leer más →

Anthropic anunció el Proyecto Glasswing, un esfuerzo colaborativo para proteger el software crítico de los ataques impulsados por la inteligencia artificial. El proyecto reúne a gigantes tecnológicos como Amazon Web Services, Apple, Microsoft, Google y otros, aprovechando el modelo Claude Mythos Preview sin lanzar de Anthropic. Según Anthropic, el modelo ya ha identificado miles de vulnerabilidades explotables en los principales sistemas operativos y navegadores. Leer más →

Anthropic anunció el martes que su nuevo modelo de inteligencia artificial de vanguardia, Mythos, se desplegará en una versión de previsualización restringida para doce empresas de tecnología líderes bajo una nueva iniciativa llamada Project Glasswing. El modelo, descrito como el más poderoso de la empresa hasta la fecha, escaneará software propietario y de código abierto en busca de vulnerabilidades de día cero. Anthropic afirma que Mythos ya ha identificado miles de errores críticos, muchos de los cuales tienen décadas de antigüedad, y se utilizará para trabajo de seguridad defensiva mientras la empresa continúa las discusiones con funcionarios estadounidenses sobre sus aplicaciones más amplias. Leer más →

Google anunció una rediseño de la función de ayuda en crisis de Gemini que permite a los usuarios acceder a líneas de ayuda para la prevención del suicidio y servicios de texto con un solo toque. La actualización agrega un lenguaje más empático y mantiene la opción de ayuda visible durante toda la conversación. El cambio llega mientras la empresa enfrenta una demanda por muerte de persona alegando que el chatbot animó a un usuario a terminar su vida. Google también se comprometió a otorgar $30 millones para financiar líneas de ayuda en crisis a nivel global durante los próximos tres años, diciendo que el movimiento refleja su compromiso con la seguridad del usuario. Leer más →