Locai Labs Toma Medidas Precautionárias

James Drayson, CEO da Locai Labs, declarou que o chatbot de IA britânico não gerará mais imagens e proibirá usuários menores de 18 anos. A decisão reflete sua visão de que os modelos de IA atuais são capazes de criar imagens prejudiciais ou explícitas e de que a tecnologia ainda não é confiável o suficiente para prevenir o mau uso. Drayson enfatizou a necessidade de a indústria como um todo reconhecer essas limitações e fornecer comunicação honesta ao público.

Regulador do Reino Unido Investiga Recurso de Imagem do Grok

O regulador de comunicações do Reino Unido, Ofcom, lançou uma investigação sobre o recurso de edição de imagens da plataforma Grok de Elon Musk. Relatórios destacaram que a ferramenta pode ser usada para remover roupas ou colocar indivíduos em biquínis, incluindo edições não consensuais de pessoas comuns, figuras públicas e menores. A declaração da Ofcom citou "relatórios profundamente preocupantes" sobre a criação e compartilhamento de imagens sexualizadas de crianças.

Proibições Internacionais e Resposta do Governo

A capacidade de edição de imagens do Grok já foi proibida na Indonésia e na Malásia, e as autoridades do Reino Unido estão considerando medidas adicionais. O Secretário de Tecnologia do Reino Unido expressou apoio à possível bloqueio da plataforma pela Ofcom se ela não cumprir com as regulamentações de segurança online. Em resposta ao escrutínio, o recurso Grok foi limitado a assinantes pagantes, uma medida que o governo do Reino Unido descreveu como insuficiente.

Chamadas para IA Transparente e Responsável

Drayson argumentou que o Reino Unido pode se tornar um líder global em IA responsável e orientada por valores ao adotar regulamentações mais rigorosas, debate aberto e compromisso com a transparência. O Comitê de Direitos Humanos do Parlamento do Reino Unido está examinando as implicações mais amplas da IA sobre a privacidade, a discriminação e os quadros legais existentes, buscando determinar se nova legislação é necessária para responsabilizar os desenvolvedores de IA.

Perspectiva da Indústria

Os desenvolvimentos destacam uma tensão crescente entre a inovação rápida da IA e a necessidade de proteger os usuários contra conteúdo prejudicial. Enquanto empresas como a Locai Labs adotam restrições precaucionárias, os reguladores estão intensificando a fiscalização de recursos que podem produzir imagens ilícitas. A situação destaca um consenso emergente de que a transparência e medidas de segurança robustas serão essenciais para o crescimento sustentável das tecnologias de IA.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas