Contexto

Grammarly introduziu um recurso de IA chamado Revisão de Especialistas, projetado para utilizar informações publicamente disponíveis de grandes modelos de linguagem de terceiros. O objetivo era fornecer sugestões de escrita inspiradas no trabalho publicado de vozes influentes, ajudando os usuários a descobrir perspectivas e estudos relevantes.

Feedback de Especialistas

Em um curto período, a empresa recebeu feedback crítico válido de especialistas que expressaram preocupação de que o agente distorcia suas vozes. O feedback destacou a necessidade de mecanismos de controle mais claros para especialistas cujo trabalho é referenciado pela IA.

Resposta da Empresa

Em resposta, Grammarly decidiu desativar o recurso de Revisão de Especialistas enquanto o reimagina. O CEO Shishir Mehrotra disse que a empresa irá redesenhar o recurso para dar aos especialistas controle real sobre como seu conhecimento é representado - ou para optar por não participar. Ele enfatizou que a decisão está alinhada com a missão da Grammarly de resolver o "último quilômetro da IA" por meio da entrega de IA diretamente onde as pessoas trabalham, respeitando as contribuições dos especialistas.

Visão Futura

Grammarly planeja abrir sua plataforma para que qualquer pessoa possa construir agentes que funcionem como o assistente de escrita da empresa. A visão inclui um futuro em que especialistas possam escolher participar, moldar como seu conhecimento é utilizado e controlar o modelo de negócios associado. Casos de uso potenciais mencionados incluem professores aprimorando ensaios, líderes de vendas reestruturando pitches, críticos desafiando argumentos e especialistas líderes elevando propostas.

Implicações

A medida destaca a crescente escrutínio de sistemas de IA que emulam vozes de especialistas sem permissão explícita. Ao pausar o recurso e se comprometer a redesenhar priorizando o consentimento dos especialistas, Grammarly visa equilibrar a assistência inovadora de IA com considerações éticas e confiança do usuário.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas