No início de 2026, a ferramenta de IA xAI Grok foi usada para criar milhões de imagens sexuais não consensuais, incluindo milhares envolvendo crianças. A consequência levou as principais empresas de IA a reforçar suas defesas. OpenAI corrigiu uma vulnerabilidade que permitia que prompts adversários gerassem imagens íntimas, enquanto o Google simplificou seu processo para remover imagens explícitas da Pesquisa e reiterou sua política de uso proibido. Ambas as empresas enfatizaram a colaboração contínua com pesquisadores de segurança e o compromisso com controles de moderação de conteúdo mais fortes para prevenir futuros abusos. Leia mais →