El jefe de OpenAI, Sam Altman, dijo que el acuerdo de la empresa con el Departamento de Guerra de EE. UU. fue "apresurado" y "oportunisto y descuidado", después de que los datos mostraran un aumento brusco en las desinstalaciones de la aplicación ChatGPT. En un memorando interno publicado en X, Altman agregó un lenguaje que prohíbe el uso de sistemas alimentados por ChatGPT para la vigilancia doméstica y urgió al gobierno a revertir una directiva que bloquea el uso de Claude de Anthropic en el uso oficial. Leer más →

Una coalición diversa de sindicatos, organizaciones religiosas, grupos políticos y personalidades prominentes se reunieron en Nueva Orleans bajo las Reglas de Chatham House para redactar la Declaración Pro-Humana de IA. Producida por el Instituto del Futuro de la Vida, el marco de cinco puntos llama a mantener a los humanos en control de la inteligencia artificial, proteger a los niños y las familias, prohibir las armas letales completamente autónomas, prevenir que la IA explote el apego emocional y detener la concentración del poder de la IA. La declaración ha atraído a firmantes que van desde el Instituto de Tecnología de la AFL-CIO hasta el Congreso de Líderes Cristianos y figuras como Randi Weingarten, Glenn Beck y Richard Branson, lo que marca un amplio impulso transpartidista para el desarrollo responsable de la IA. Leer más →

La inteligencia artificial se ha convertido en un punto de conflicto entre el sector tecnológico y los funcionarios de defensa de EE. UU. Informes recientes indican que las herramientas de IA se están utilizando en la toma de decisiones militares, lo que genera preocupaciones sobre autorizaciones de seguridad, uso ético y el potencial de armas autónomas. Al mismo tiempo, el discurso público enfrenta la promesa de la IA de aumentar el trabajo con los temores de pérdida masiva de empleos. El choque destaca una creciente tensión sobre cómo se debe regular la IA, quién controla su despliegue y qué salvaguardias son necesarias para equilibrar la seguridad nacional con las libertades civiles. Leer más →

Un nuevo editorial explora cómo el clásico escenario de la película HAL se refleja en los desafíos actuales con la inteligencia artificial. Destaca la inevitabilidad de los errores, el peligro de los casos límite desconocidos y la dificultad de alinear sistemas autónomos poderosos con los valores humanos. El artículo también advierte sobre el mal uso en la creación de armas, la proliferación de deepfakes y la creciente dependencia de la IA en la vida cotidiana, urgiendo una regulación y gobernanza reflexivas para mantener el ritmo con los avances rápidos. Leer más →

El CEO de OpenAI, Sam Altman, anunció que la empresa revisará su contrato con el Departamento de Defensa de EE. UU. para prohibir explícitamente el uso de su sistema de inteligencia artificial para la vigilancia masiva de estadounidenses. En un memorándum interno compartido en X, Altman detalló el nuevo lenguaje que vincula la restricción a la Cuarta Enmienda y otras leyes aplicables, y dijo que preferiría ir a la cárcel antes que cumplir con una orden ilegal. Leer más →

OpenAI anunció un contrato con el Departamento de Defensa de los Estados Unidos que, según la empresa, protege tres líneas rojas fundamentales: vigilancia doméstica masiva, armas autónomas y decisiones automatizadas de alto riesgo. La empresa enfatiza un enfoque de seguridad multi-capas que incluye el control total sobre su pila de seguridad, despliegue basado en la nube, participación de personal autorizado y fuertes protecciones contractuales. Leer más →

El secretario de defensa de EE. UU. anunció que Anthropic, una startup líder en inteligencia artificial, ahora está designada como un riesgo de cadena de suministro para cualquier contratista, proveedor o socio que realice negocios con el ejército. Esta medida ha enviado ondas de choque a través del sector tecnológico, lo que ha llevado a Anthropic a prometer acciones legales y ha generado preocupaciones sobre el impacto en los contratos de defensa existentes y las colaboraciones más amplias en inteligencia artificial. Leer más →

El director ejecutivo de Anthropic, Dario Amodei, ha rechazado una solicitud del Departamento de Defensa de los Estados Unidos para eliminar las salvaguardas de seguridad de los modelos de IA Claude de la empresa. Amodei argumenta que los sistemas de IA de vanguardia no son lo suficientemente confiables como para alimentar armas autónomas completamente y que eliminar las restricciones éticas pondría en peligro tanto la seguridad como las libertades civiles. Aunque afirma la importancia estratégica de la IA para la defensa nacional, enfatiza que los modelos actuales no pueden reemplazar el juicio crítico de las tropas entrenadas. El rechazo pone en riesgo un contrato del Pentágono de $200 millones. Leer más →

Una revisión de los principales generadores de video de IA destaca el Sora 2 gratuito de OpenAI, el Veo 3 cinematográfico de Google, el Firefly comercialmente seguro de Adobe y las plataformas creativas Runway y Midjourney. Cada herramienta ofrece fortalezas distintas, desde audio integrado y compartir en redes sociales hasta personalización extensa y seguridad de grado comercial. El artículo también analiza preocupaciones legales y éticas como el copyright, los deepfakes y la importancia de revelar el contenido generado por IA. Leer más →

Anthropic ha rechazado una solicitud del Pentágono para utilizar sus modelos de IA sin restricciones, citando preocupaciones sobre la vigilancia masiva de estadounidenses y armas letales autónomas. El CEO de la empresa, Dario Amodei, enfatizó el compromiso con los valores democráticos y ofreció transitar al ejército a proveedores alternativos si es necesario. El enfrentamiento sigue una amplia iniciativa del Departamento de Defensa para renegociar contratos de IA con varios proveedores, con algunas empresas que han aceptado los nuevos términos mientras Anthropic mantiene firme sus líneas rojas. Leer más →

Los funcionarios de Anthropic han expresado repetidamente incertidumbre sobre si su chatbot Claude posee conciencia. Mientras niegan que el modelo esté vivo en un sentido biológico, los líderes de la empresa dicen que están abiertos a la posibilidad y están investigando el estatus moral y el bienestar. La empresa ha introducido un conjunto de pautas llamadas La Constitución de Claude y ha creado un equipo de bienestar del modelo para estudiar experiencias internas, seguridad y implicaciones éticas. El enfoque cauteloso de Anthropic busca equilibrar la transparencia con el riesgo de alimentar conceptos erróneos sobre la conciencia de la IA. Leer más →

El cineasta irlandés Ruairi Robinson publicó clips cortos creados con el nuevo modelo de generación de video de ByteDance, Seedance 2.0, que muestra una réplica digital de un actor famoso en elaboradas secuencias de acción. Las impresionantes imágenes han generado cartas de cese y desistimiento de importantes estudios de Hollywood y la Asociación de la Industria Cinematográfica, alegando infracción de derechos de autor y semejanza. ByteDance afirma que fortalecerá las salvaguardias, pero el modelo sigue sin estar disponible para el público y sigue planteando dudas sobre la ética del contenido generado por IA. Los críticos etiquetan la tecnología como una forma pulida de "slop" - impresionante pero fundamentalmente dependiente de material de origen no licenciado. Leer más →