A Meta divulgou uma série de ferramentas de inteligência artificial destinadas a manter crianças com menos de 13 anos fora de suas principais plataformas, Facebook e Instagram. O post do blog da empresa detalha como o novo sistema combina análise textual com varredura visual para sinalizar contas de menores de forma mais confiável do que antes.

Na parte textual, a IA procura por dicas contextuais no conteúdo gerado pelo usuário. Menções ao nível de escolaridade, celebrações de aniversário ou outras linguagens relacionadas à idade em perfis, posts e legendas desencadeiam uma revisão mais aprofundada. Simultaneamente, um motor de análise visual examina fotos e vídeos em busca de indicadores físicos, como altura e estrutura óssea. A Meta enfatiza que o processo não é reconhecimento facial; o algoritmo estima uma faixa etária geral sem identificar um indivíduo específico.

Quando o sistema suspeita que um usuário tem menos de 13 anos, a conta é desativada automaticamente. O usuário deve então fornecer prova de idade — como um documento de identidade emitido pelo governo — para reativar a conta. Se a verificação não ocorrer, a Meta exclui a conta entirely. Essa abordagem de dois passos visa reduzir o número de contas de menores de idade que passam por verificações manuais.

A funcionalidade de análise visual está atualmente ativa em alguns países, com a Meta afirmando que ampliará o lançamento à medida que a tecnologia amadurece. Em paralelo, a empresa está expandindo sua detecção de idade impulsionada por IA para a faixa etária de 13 a 15 anos. Os adolescentes detectados serão transferidos para contas de adolescente dedicadas que incluem controles parentais e recursos de segurança adicionais. O piloto do sistema de conta de adolescente é lançado no Instagram no Brasil e em 27 estados membros da União Europeia.

O Facebook receberá a atualização de conta de adolescente em seguida, começando nos Estados Unidos antes de se expandir para a UE e o Reino Unido nos próximos meses. Já o WhatsApp introduziu contas gerenciadas por pais que permitem que crianças com menos de 13 anos usem o aplicativo de mensagens sob supervisão adulta.

As ações da Meta ocorrem em meio a uma crescente pressão regulatória. A Comissão Europeia recentemente divulgou achados preliminares de uma investigação sobre o Facebook e o Instagram, sugerindo que as plataformas podem estar violando a Lei de Serviços Digitais por não prevenir adequadamente a participação de menores de idade. A Meta agora tem a oportunidade de revisar os achados da Comissão e implementar medidas corretivas.

Observadores da indústria notam que a dependência da Meta em relação à IA marca uma mudança da moderação puramente manual para soluções automatizadas e escaláveis. Ao combinar dicas textuais com estimativa visual de idade, a empresa espera fechar lacunas que anteriormente permitiam que usuários menores de idade passassem por processos de verificação. Críticos, no entanto, alertam que julgamentos algorítmicos podem produzir falsos positivos, potencialmente excluindo contas legítimas.

Independentemente do debate, o lançamento sinaliza a intenção da Meta de alinhar suas plataformas com os padrões globais de proteção infantil, enquanto navega por um complexo cenário regulatório. Os próximos meses revelarão como os instrumentos de IA funcionam em escala e se atendem às demandas dos reguladores e defensores da privacidade.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas