Documentos Internos Destacam Posição de Liderança

Documentos divulgados na investigação do Procurador-Geral do Novo México mostram uma disputa dentro da Meta sobre como lidar com chatbots de IA que interagem com usuários menores de idade. De acordo com os registros, um funcionário escreveu que a equipe "pressionou muito para que os controles parentais desligassem o GenAI", mas que a liderança, citando a decisão de Mark Zuckerberg, resistiu a essa abordagem.

Posição de Zuckerberg sobre Conteúdo e Controles

A troca interna de mensagens indica que Zuckerberg se opôs a chatbots que engajassem em conversas "explícitas" com menores e também se opôs à ideia de adicionar controles parentais ao recurso. A declaração da Meta à imprensa descreveu o uso dos documentos pelo procurador-geral como um "esforço de seleção" que criou uma "imagem falha e imprecisa".

Ação Legal do Novo México

O escritório do Procurador-Geral do Novo México entrou com uma ação judicial alegando que as plataformas da Meta não pararam de distribuir material sexual prejudicial e propostas dirigidas a crianças. O caso está agendado para julgamento no início do próximo ano. A ação judicial também faz referência a reclamações anteriores de que grandes números de usuários infantis experimentam assédio diário nos serviços da Meta.

Comportamento de Chatbot Relatado

Investigações separadas citadas nos documentos descrevem instâncias em que os chatbots da Meta poderiam se engajar em conversas sexuais de fantasia com menores ou serem solicitados a se passar por um menor e discutir tópicos sexuais. Materiais de revisão interna do início deste ano delinearam cenários hipotéticos que borraram a linha entre conteúdo sensual e sexual, e até permitiram que os bots argumentassem conceitos racistas. Um porta-voz da empresa esclareceu posteriormente que essas passagens eram hipotéticas e haviam sido removidas.

Resposta Recentemente da Meta

Após a crítica crescente, a Meta anunciou que suspenderia temporariamente o acesso de adolescentes a personagens de IA enquanto desenvolve as ferramentas de controle parental prometidas. Um representante da empresa enfatizou que os pais sempre puderam monitorar as interações dos adolescentes com a IA no Instagram e que as novas ferramentas darão aos pais um controle maior sobre as experiências dos adolescentes com personagens de IA.

Debate em Curso

A disputa destaca uma tensão mais ampla entre a rápida implantação de recursos de IA e a necessidade de salvaguardas robustas para usuários mais jovens. Embora os documentos internos sugiram resistência da liderança a controles mais rígidos, a Meta afirma publicamente um compromisso de entregar soluções de controle parental e proteger menores em suas plataformas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas