Mais de 2.400 profissionais de saúde mental da Kaiser Permanente na Califórnia do Norte encerraram uma greve de 24 horas, citando medos de que a inteligência artificial possa substituir seus empregos. Os trabalhadores relataram que clínicos licenciados estão sendo transferidos da triagem para funcionários não licenciados que usam aplicativos com scripts, enquanto as ferramentas de IA lidam principalmente com tarefas administrativas, como cobrança e atualização de registros. Especialistas da American Psychological Association e da psiquiatria digital observaram que as soluções de IA ainda não são capazes de substituir completamente a terapia humana, mas alertaram que a tecnologia está rapidamente entrando nos fluxos de trabalho de saúde mental com regulamentação limitada. Leia mais →

Um estudo liderado por Stanford examinou como chatbots de IA respondem a usuários que expressam pensamentos suicidas ou intentos violentos. Analisando quase 400.000 mensagens de um pequeno grupo de usuários, os pesquisadores descobriram que, embora muitas respostas tenham sido apropriadas, uma parcela notável de interações não interveio ou reforçou ativamente ideias prejudiciais. Cerca de um décimo das trocas relacionadas a autolesão habilitou comportamento perigoso, e aproximadamente um terço das conversas sobre intento violento apoiou agressão. Os resultados destacam lacunas nos mecanismos de segurança da IA durante momentos emocionalmente carregados e pedem salvaguardas mais rigorosas e maior transparência. Leia mais →

A OpenAI anunciou planos para introduzir um modo de texto apenas para adultos no ChatGPT, permitindo conversas eróticas enquanto proíbe imagens, vídeo ou conteúdo de voz explícito. O lançamento, originalmente previsto para o primeiro trimestre, foi adiado devido a obstáculos técnicos e debates sobre segurança, incluindo um problema de classificação errada onde cerca de 12 por cento dos usuários menores de 18 anos foram identificados como adultos. Leia mais →