Grammarly take away recurso de IA que usava identidades reais de autores e enfrenta ação coletiva

Grammarly retirou seu recurso Skilled Overview baseado em IA depois de ser chamado por usar identidades de jornalistas e autores sem permissão. O software program assistente de redação agora enfrenta um ação coletiva acusando-o de explorar nomes de escritores para lucro próprio.

Lançado junto com outros sete agentes de IA em agosto passado, o Skilled Overview estava disponível nos planos Gratuito e Professional de US$ 12 da Grammarly no lançamento e foi promovido como fornecendo aos usuários suggestions sobre o conteúdo de seus escritos. Uma página no web site da Grammarly, que já foi removida, afirmava que Skilled Overview “[drew] com base em insights de especialistas no assunto e publicações confiáveis” e forneceu suggestions gerado por IA “com base em conteúdo especializado disponível publicamente” (através da máquina Wayback). Os usuários podem até personalizar as fontes “especializadas” das quais o Grammarly se baseou, selecionando os nomes de autores específicos.

“O agente da Skilled Overview oferece conhecimento no assunto e suggestions personalizado e específico do tópico para elevar a redação que atende a padrões acadêmicos ou profissionais rigorosos, adaptados à área do usuário”, Grammarly escreveu em sua postagem no blog anunciando o recurso.

A Skilled Overview da Grammarly chamou a atenção na semana passada depois Com fio relatado que o recurso oferecia edições geradas por IA em nome de escritores e acadêmicos reais, vivos e mortos. O guia do usuário da ferramenta fornece a isenção de responsabilidade de que suas referências a especialistas “são apenas para fins informativos e não indicam qualquer afiliação à Grammarly ou endosso por esses indivíduos ou entidades”. No entanto, a mesma página também afirma que a Skilled Overview oferece “insights dos principais profissionais, autores e especialistas no assunto”.

Muitos disseram que os especialistas no assunto não aceitaram o uso de suas identidades pelo Grammarly sem seu conhecimento ou consentimento.

“[Grammarly] fez a curadoria de uma lista de pessoas reais, deu liberdade aos seus modelos para alucinar conselhos que pareciam plausíveis em seu nome e colocou tudo atrás de uma assinatura”, escreveu o fundador do Platformer, Casey Newton, que estava entre os invocados pela Grammarly. Essa é uma escolha deliberada de monetizar as identidades de pessoas reais sem envolvê-las, e é uma droga.”

“Isso deve ser algum tipo de difamação ou algo assim”, o historiador Mar Hicks postou no Bluesky, tendo compartilhado uma captura de tela de sua identidade incluída na Skilled Overview. “Você não pode simplesmente roubar a propriedade intelectual das pessoas e depois fingir que elas estão dizendo algo que nunca disseram.”

Grammarly responde à reação da Skilled Overview

Respondendo à reação, Grammarly disse ao Platformer na segunda-feira que permitiria que os escritores enviassem um e-mail para eles para cancelar a inclusão em seu recurso Skilled Overview. Isso gerou mais críticas, já que os especialistas não foram informados de que a Grammarly estava usando sua identidade, nem concederam permissão para isso. Os autores afetados não saberiam que precisavam cancelar, a menos que um usuário do Grammarly visse seu nome ao usar o Skilled Overview e os informasse.

Além disso, fornecer a opção de exclusão não abordou o uso de identidades de autores falecidos pela Grammarly. Escritores falecidos usados ​​​​pela Skilled Overview supostamente incluíam o astrônomo Carl Sagan e bell hooks acadêmicos interseccionais.

“Tão gramaticalmente [sic] está violando a memória dos bell hooks E fazendo versões de IA de todos nós antes mesmo de morrermos”, escreveu a pesquisadora Sarah J. Jackson. “Alguém me diga quem processar, nem estou brincando.”

Shishir Mehrotra, CEO do desenvolvedor Grammarly Superhuman, anunciou posteriormente na quarta-feira que estava retirando o Skilled Overview do ar. No entanto, ele também indicou que a empresa pretende eventualmente trazê-lo de volta de alguma forma.

“Na semana passada, recebemos suggestions crítico válido de especialistas que estão preocupados com o fato de o agente ter deturpado suas vozes”, Mehrotra postou no LinkedIn. “Como contexto, o agente foi projetado para ajudar os usuários a descobrir perspectivas influentes e estudos relevantes para seu trabalho, ao mesmo tempo que fornece maneiras significativas para os especialistas construírem relacionamentos mais profundos com seus fãs. Ouvimos o suggestions e reconhecemos que não conseguimos fazer isso. Quero pedir desculpas e reconhecer que repensaremos nossa abordagem daqui para frente.

“Após uma consideração cuidadosa, decidimos desativar o Skilled Overview enquanto reimaginamos o recurso para torná-lo mais útil para os usuários, ao mesmo tempo que damos aos especialistas controle actual sobre como eles desejam ser representados – ou não representados”.

“O fato de isso ter existido sugere uma desconexão complete da sociedade humana regular”, o escritor climático Ketan Joshi respondeu à postagem de Mehrotra. “Deveria ter ficado imediatamente óbvio que isso period explorador, assustador e merciless.”

“Com toda a conversa sobre como a IA ‘constrói a partir’ (leia-se: ‘rouba’) de conteúdo existente, criando uma ferramenta que na verdade constitui ‘conselhos’ de pessoas reais que passam a vida se preocupando com a escrita e a experiência… é difícil entender.” escreveu Dan Saltzstein, do New York Times. “Deveria haver consequências para isso além de ‘vamos reavaliar’. Uma promessa de nunca mais fazer nada assim novamente, no mínimo.”

Ação coletiva acusa Grammarly de usar identidades de escritores sem consentimento

Embora a Grammarly não tenha feito tal promessa no momento, ela já enfrenta repercussões por suas ações que vão além dos danos à reputação. A redatora do New York Occasions, Julia Angwin, entrou com pedido uma ação coletiva contra Superhuman na quarta-feira, tendo descoberto que a Skilled Overview da Grammarly havia usado sua identidade sem seu consentimento. O escritório de advocacia que a representa, Peter Romer-Friedman Regulation PLLC, lançou um apelo para que todos os escritores afetados se juntem à ação coletiva.

Embora não esteja claro exatamente quantas identidades de escritores supostamente foram apropriadas indevidamente pela Grammarly, pode ser um grupo considerável. Olhando apenas para jornalistas de tecnologia, The Verge relata aquela Skilled Overview nomeou vários membros de sua equipe editorial, bem como escritores da Wired, Bloomberg, The New York Occasions, The Atlantic, PC Gamer, Gizmodo, Digital Foundry, Tom’s Information e websites irmãos do Mashable, IGN e Rock Paper Shotgun. Angwin afirmou que “muita gente” já fiz perguntas sobre juntando-se ao processo.

“Estou tomando essa ação não apenas em meu nome, mas em nome de todos que passaram anos e décadas refinando suas habilidades como escritor e editor, apenas para descobrir uma IA se passando por eles”. Angwin escreveu em uma postagem no LinkedIn.

“Por mais de 100 anos, a lei de Nova York proibiu as empresas de usar o nome de uma pessoa para fins comerciais sem o seu consentimento”, disse Peter Romer-Friedman, da Peter Romer-Friedman Regulation PLLC. “A lei não prevê exceção para empresas de tecnologia ou IA.”

Ajuizada em um Tribunal Distrital de Nova York, a ação coletiva busca indenização por danos, bem como uma liminar para impedir que a Grammarly use as identidades dos escritores sem o seu consentimento.

Mashable entrou em contato com Superhuman para comentar.