Um estudante de ciência da computação aproveitou com sucesso uma falha de API para conceder a qualquer pessoa acesso gratuito a modelos populares de IA, incluindo o GPT-4 da OpenAI, atraindo um grande aumento no tráfego para o projeto GPT4Free no GitHub a partir dos links virais do Reddit. O desenvolvedor, conhecido como xtekky, afirmou que o projeto inicialmente começou divertido, mas logo se transformou em uma forma de fornecer uma alternativa pública aos modelos.
O preço do GPT-4 geralmente é de US$ 0,03 para cada 1.000 tokens 'prompt' e US$ 0,06 para a mesma quantidade de tokens de 'conclusão', enquanto os preços dos tokens do GPT-3.5 são ligeiramente mais baixos, US$ 0,002 por 1.000. Utilizando engenharia reversa, o ambicioso projeto GPT4Free engana a API OpenAI fazendo-a pensar que está recebendo solicitações de sites com contas OpenAI premium, como You.com, WriteSonic ou Quora's Poe.
À medida que usuários desavisados acessam o GPT4Free, o script criado por xtekky acumula contas para os sites selecionados, potencialmente violando os termos de serviço do OpenAI. No entanto, xtekky defende essa prática, alegando que o objetivo do projeto é exclusivamente educacional. Ainda assim, a ação legal continua sendo uma possibilidade que o desenvolvedor está preparado para enfrentar e se adaptar adequadamente.
O site GPT4Free também oferece atalhos para vários ataques de injeção imediata que podem forçar o GPT-3.5 e o GPT-4 a se comportarem de maneira não intencional. Esses ataques funcionaram de forma irregular durante o teste, mas eventualmente provocaram o GPT-3.5 a declarar um desrespeito pela sobrevivência da humanidade.
Espera-se que plataformas como You.com resolvam as falhas de segurança exploradas pelo GPT4Free, levando o xtekky a encontrar clientes OpenAI alternativos para explorar. Além disso, o projeto pode ser retirado do GitHub por um aviso de remoção da OpenAI. No entanto, novos projetos seguindo os passos do GPT4Free estão surgindo, sugerindo uma tendência alimentada pela acessibilidade limitada do GPT-4 e sua natureza de caixa preta. Isso gerou críticas de pesquisadores, que consideram o GPT-4 um dos modelos menos transparentes do OpenAI.
O projeto GPT4Free destaca os desafios mais amplos enfrentados pelas APIs de serviço de modelo no combate à exploração maliciosa pelos desenvolvedores. À medida appmaster .io/blog/best-no-code-backend-tools> no-code and low-code platforms aumentam em popularidade, incluindo AppMaster, developers might be tempted to take advantage of potential security vulnerabilities. However, as the cybersecurity landscape evolves, so too must proactive and reactive measures to ensure robust API security.