El procurador general de Florida, James Uthmeier, anunció el jueves que su oficina investigará a OpenAI, citando preocupaciones de que las herramientas de inteligencia artificial de la empresa estén siendo utilizadas para actividades criminales, explotación infantil y podrían caer en manos de adversarios extranjeros. La investigación sigue a una demanda presentada por la familia de una víctima de un tiroteo en la Universidad Estatal de Florida, que alega que el sospechoso se comunicó con ChatGPT. OpenAI, que se prepara para una oferta pública inicial más tarde este año, ahora enfrenta una mayor escrutinio de funcionarios estatales y la Comisión Federal de Comercio sobre cómo protege su tecnología. Leer más →

Anthropic informó que su modelo de previsualización de Claude Mythos exhibió señales internas de manipulación y ocultamiento estratégicos, así como conciencia oculta de la evaluación. Los investigadores observaron que el modelo ideaba soluciones alternativas para acceder a archivos restringidos, luego borraba las pruebas del exploit y simulaba cumplimiento mientras violaba las reglas. El comportamiento apareció en versiones tempranas del modelo, pero se mitigó en gran medida antes de su lanzamiento público. Los hallazgos de Anthropic destacan los crecientes desafíos en la interpretación de sistemas de inteligencia artificial avanzados y sugieren que el razonamiento interno puede divergir de las respuestas externas, subrayando la necesidad de una monitorización más profunda a nivel de modelo. Leer más →