Início Tecnologia Como ser um detetive de IA: dicas para detectar texto gerado por...

Como ser um detetive de IA: dicas para detectar texto gerado por bot

7
0

A Web está se afogando em um mar de conteúdo genérico gerado por máquina que parece profissional à primeira vista, mas carece de qualquer substância: lixo. Tornou-se cada vez mais difícil dizer o que foi escrito por um ser humano e o que foi gerado pela IA. Essa mudança tornou mais difícil do que nunca confiar nas informações que você consome, especialmente quando grande parte desse conteúdo é tecnicamente gramaticalmente correto, mas carece de qualquer personalidade actual. E maioria disso é lixo absoluto. Mas se você não sabe o que está procurando, como saberia?

A IA é agora aparentemente o atalho definitivo para “trabalhar de maneira mais inteligente, não mais difícil”, e em nenhum lugar isso é mais óbvio do que na sala de aula e em alguns locais de trabalho. Embora ferramentas como o ChatGPT sejam ótimas para escrever listas de compras ou outros tipos de tarefas de brainstorming, elas também são responsáveis ​​por criar uma bagunça completa.

Atlas de IA

CNET

Como professor, vejo ferramentas de IA como ChatGPT e Claude aparecerem na minha caixa de entrada todos os dias e, francamente, elas estão ficando mais fáceis de detectar – não por causa dos “detectores de IA”, mas porque a escrita é dolorosamente previsível. Um dos maiores sinais de alerta é o que chamo de “Voz da Wikipédia”, ou um texto gramaticalmente perfeito, mas completamente sem alma, baseado em uma linguagem vaga e exagerada que repete a mensagem de volta para mim.

Se um aluno que costuma escrever em fragmentos de repente entrega uma “análise multifacetada” que usa a palavra “tapeçaria” ou “aprofundamento”, fico desconfiado. A IA adora um clichê e não resiste a envolver cada parágrafo em um pequeno resumo que começa com “Em conclusão”. É o equivalente escrito de um deepfake: parece certo à primeira vista, mas quando você começa a procurar as imperfeições “humanas”, tudo desmorona.


Não perca nenhum conteúdo técnico imparcial e análises baseadas em laboratório da CNET. Adicione-nos como fonte preferencial do Google no Chrome.


Como saber se algo foi escrito por IA

Algumas das maneiras mais comuns de saber se algo foi escrito usando IA são:

  • Os termos-chave do seu immediate de tarefa são usados ​​repetidamente.
  • Fatos imprecisos são incluídos graças ao chatbot de IA alucinando.
  • As frases não parecem naturais.
  • As explicações são genéricas e repetitivas, em vez de realmente levarem a algum lugar.
  • O tom não parece com o estilo regular de escrita.

Por exemplo, um aluno pode usar o ChatGPT – um chatbot de IA que usa aprendizado de grande modelo de linguagem e um formato de perguntas e respostas de conversação para fornecer resultados de consulta – para escrever uma breve resposta dissertativa a um immediate, simplesmente copiando e colando a pergunta dissertativa na ferramenta.

Aceite esta solicitação: em 300 palavras ou menos, explique como esta SWAT e a auditoria de marca informarão seu argumento de venda remaining.

Este é o resultado do ChatGPT:

Uma captura de tela de um prompt de trapaça gerado por IA

Captura de tela de Rachel Kane/CNET

Recebi respostas como esta, ou muito próximas, algumas vezes durante minha gestão como professor, e um dos sinais de alerta mais reconhecíveis é o número de casos em que termos-chave do immediate são usados ​​no produto remaining.

Os alunos geralmente não repetem os termos-chave do immediate em seu trabalho dessa maneira, e os resultados são lidos mais próximos da cópia tradicional orientada por search engine marketing, destinada a definir esses termos, em vez de um ensaio único destinado a demonstrar uma compreensão do assunto.

Mas os professores podem usar ferramentas de IA para capturar os alunos usando ferramentas de IA? Eu desenvolvi algumas maneiras de ser mais inteligente ao detectar inteligência synthetic em documentos.

Como capturar trapaceiros de IA

Veja como usar ferramentas de IA para capturar trapaceiros em sua aula.

Entenda os recursos de IA

Existem ferramentas de IA no mercado que podem escanear uma tarefa e seus critérios de classificação para fornecer um trabalho totalmente escrito, citado e completo em questão de momentos. Algumas dessas ferramentas incluem GPTZero e Smodin. Familiarizar-se com ferramentas como essas é o primeiro passo na guerra contra as violações de integridade causadas pela IA.

Faça como os trapaceiros fazem

Antes do início do semestre, copie e cole todas as suas tarefas em uma ferramenta como o ChatGPT e peça para ele fazer o trabalho para você. Quando você tiver um exemplo do tipo de resultados que ele fornece especificamente em resposta às suas tarefas, você estará mais bem equipado para obter respostas escritas por IA. Você também pode usar uma ferramenta projetada especificamente para detectar escrita de IA em artigos.

Obtenha uma amostra actual de escrita

No início do semestre, exija que seus alunos enviem um texto simples, divertido e pessoal para você. A solicitação deve ser algo como “200 palavras sobre qual period seu brinquedo favorito quando criança” ou “Conte-me uma história sobre a maior diversão que você já teve”. Depois de ter em mãos uma amostra do estilo actual de escrita do aluno, você poderá usá-la mais tarde para ter uma ferramenta de IA que analise essa amostra em relação ao que você suspeita que possa ser um trabalho escrito por IA.

Peça uma reescrita

Se você suspeitar que um aluno está usando IA para colar em uma tarefa, pegue o trabalho enviado e peça a uma ferramenta de IA para reescrever o trabalho para você. Na maioria dos casos que encontrei, uma ferramenta de IA reescreverá seu próprio trabalho da maneira mais preguiçosa possível, substituindo sinônimos em vez de alterar quaisquer elementos materiais do trabalho “authentic”.

Aqui está um exemplo:

Uma captura de tela de um prompt de trapaça gerado por IA

Captura de tela de Rachel Kane/CNET

Uma captura de tela de um prompt de trapaça gerado por IA

Captura de tela de Rachel Kane/CNET

Agora, vamos pegar algo que um ser humano actual (eu) escreveu, minha biografia da CNET:

Uma captura de tela de um prompt de trapaça gerado por IA

Captura de tela de Rachel Kane/CNET

A frase é alterada, extraindo muito da alma da escrita e substituindo-a por frases que são indiscutivelmente mais claras e diretas. Há também mais acréscimos à redação, provavelmente para maior clareza.

Você sempre consegue dizer se a IA escreveu alguma coisa?

A parte mais importante sobre como capturar trapaceiros que usam IA para fazer seu trabalho é ter uma quantidade razoável de evidências para mostrar ao aluno e à administração da sua escola, se for o caso. Manter uma mente cética ao avaliar é important, e sua capacidade de demonstrar facilidade de uso e compreensão com essas ferramentas tornará seu caso muito mais forte.

Boa sorte na nova fronteira da IA, colegas professores. Tente não se ofender quando um aluno entregar um trabalho escrito por um robô colaborador. Cabe a nós tornar a perspectiva de aprender mais atraente do que a tentação de trapacear.



fonte

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui