A rápida ascensão do ChatGPT da OpenAI aos holofotes da IA em apenas sete semanas elevou as discussões sobre o potencial da tecnologia para causar plágio, alucinação e o impacto subsequente na academia. Como um modelo de linguagem de IA capaz de gerar respostas textuais altamente persuasivas, o ChatGPT demonstra uma capacidade notável de fazer rap, rimar, resolver problemas matemáticos complexos e até mesmo escrever código de computador.
O artigo Stephen Marche's, The College Essay Is Dead, destaca o despreparo da academia para saber como a IA transformará o cenário educacional. No entanto, as medidas iniciais contra a ameaça de plágio do ChatGPT já foram tomadas nos distritos escolares públicos de Seattle e Nova York. Além disso, os avanços tecnológicos estão fornecendo a capacidade de detectar o uso de IA generativa.
Durante o Ano Novo, o estudante de ciência da computação da Universidade de Princeton, Edward Tian, desenvolveu o GPTZero, um aplicativo projetado para detectar com eficiência se um determinado trecho de texto foi escrito pelo ChatGPT ou por um ser humano. O GPTZero analisa duas características do texto: perplexidade e explosão. Tian descobriu que o ChatGPT gera textos menos complexos e de comprimento mais consistente do que a literatura humana.
Embora não seja perfeito, o GPTZero mostra resultados promissores. Tian está em negociações com conselhos escolares e fundos de bolsas para fornecer GPTZeroX a 300.000 escolas e órgãos financiadores. Juntamente com o GPTZero, os desenvolvedores estão criando ferramentas para combater alucinações, outro problema decorrente do destaque do ChatGPT.
Peter Relan, da Got It AI, uma empresa especializada em soluções personalizadas de IA conversacional, destaca que grandes modelos de linguagem como o ChatGPT inevitavelmente produzirão alucinações. A taxa de alucinação do ChatGPT atualmente é de 15% a 20%, mas detectar quando o modelo está alucinando levará a respostas mais precisas.
Na semana passada, o Got It AI anunciou uma prévia privada de um novo componente de verificação da verdade do Autonomous Articlebot, que usa um grande modelo de linguagem treinado para identificar inverdades contadas pelo ChatGPT e outros modelos. Atualmente, esse verificador de verdade possui uma taxa de precisão de 90%, aumentando efetivamente a taxa geral de precisão do ChatGPT para 98%.
Embora uma eliminação completa de alucinações de sistemas de IA de conversação seja irreal, minimizar suas ocorrências é plausível. A OpenAI, criadora do ChatGPT, ainda não lançou uma API para o modelo de linguagem grande. No entanto, o modelo subjacente, GPT-3, possui uma API disponível. O verificador de verdade do Got It AI pode ser usado com a versão mais recente do GPT-3, davinci-003.
Relan acredita que o OpenAI abordará a tendência de alucinação da plataforma principal, com uma melhoria notável já observada na redução da taxa de erros do ChatGPT. O maior desafio para OpenAI é diminuir sua taxa de alucinação ao longo do tempo.
Com ferramentas como GPTZero e verificador de verdade do Got It AI, a ameaça de IA em plágio e alucinação pode ser mitigada. À medida que os avanços são feitos na transparência e precisão da IA, plataformas como AppMaster e outras continuam a ajudar a acelerar o desenvolvimento de aplicativos de back-end, web e móveis para uma ampla gama de usuários, de pequenas empresas a grandes empresas.
