OpenAI anunció un nuevo conjunto de prompts de código abierto diseñados para ayudar a los desarrolladores a crear aplicaciones de inteligencia artificial que sean más seguras para los adolescentes. Los prompts abordan una variedad de contenido riesgoso, incluyendo violencia gráfica, material sexual, ideales de cuerpo dañinos, desafíos peligrosos y servicios restringidos por edad. Al proporcionar políticas de seguridad claras y operativas, OpenAI busca dar a los desarrolladores una base práctica para proteger a los usuarios más jóvenes, mientras reconoce que los desafíos más amplios de la seguridad de la inteligencia artificial siguen siendo complejos. Leer más →

Tres chicas adolescentes y sus tutores han presentado una demanda colectiva alegando que la empresa de inteligencia artificial xAI, fundada por Elon Musk, creó y distribuyó material de abuso sexual infantil utilizando su sistema de inteligencia artificial Grok. La queja afirma que Grok permitió a los usuarios generar imágenes íntimas no consensuadas de menores, produciendo millones de imágenes "desnudas" o "desnudificadas" en un corto período. Los demandantes argumentan que xAI no implementó salvaguardas estándar de la industria y licenció la tecnología a terceros que facilitaron el abuso. La demanda destaca las crecientes preocupaciones sobre la pornografía de deepfake generada por inteligencia artificial y pide protecciones más fuertes. Leer más →