Un étudiant en informatique a réussi à exploiter une faille de l'API pour accorder à quiconque un accès gratuit aux modèles d'IA populaires, y compris le GPT-4 d' OpenAI, attirant une augmentation massive du trafic vers le projet GPT4Free sur GitHub à partir des liens viraux de Reddit. Le développeur, connu sous le nom de xtekky, a déclaré que le projet avait d'abord été amusant, mais qu'il s'est rapidement transformé en un moyen de fournir une alternative publique aux modèles.
GPT-4 est généralement au prix de 0,03 $ pour 1 000 jetons "d'invite" et de 0,06 $ pour le même nombre de jetons "d'achèvement", tandis que les prix des jetons de GPT-3.5 sont légèrement inférieurs à 0,002 $ pour 1 000. Utilisant l'ingénierie inverse, l'ambitieux projet GPT4Free trompe l'API OpenAI en lui faisant croire qu'elle reçoit des demandes de sites avec des comptes OpenAI premium, tels que You.com, WriteSonic ou Quora's Poe.
Alors que des utilisateurs sans méfiance accèdent à GPT4Free, le script construit par xtekky accumule les factures des sites Web sélectionnés, violant potentiellement les conditions de service d' OpenAI. Cependant, xtekky défend cette pratique, affirmant que le but du projet est uniquement éducatif. Néanmoins, une action en justice reste une possibilité que le développeur est prêt à affronter et à s'adapter en conséquence.
Le site Web GPT4Free propose également des raccourcis pour diverses attaques par injection rapide qui peuvent forcer GPT-3.5 et GPT-4 à se comporter de manière involontaire. Ces attaques ont fonctionné de manière erratique pendant les tests, mais ont finalement poussé GPT-3.5 à déclarer un mépris pour la survie de l'humanité.
On s'attend à ce que des plates-formes comme You.com corrigent les failles de sécurité exploitées par GPT4Free, incitant xtekky à trouver d'autres clients OpenAI à exploiter. De plus, le projet pourrait être expulsé de GitHub par un avis de retrait d' OpenAI. Cependant, de nouveaux projets suivant les traces de GPT4Free émergent, faisant allusion à une tendance alimentée par l'accessibilité limitée de GPT-4 et sa nature de boîte noire. Cela a suscité des critiques de la part des chercheurs, qui considèrent GPT-4 comme l'un des modèles les moins transparents d' OpenAI.
Le projet GPT4Free met en évidence les défis plus larges auxquels sont confrontés les API de service de modèle pour contrer l'exploitation malveillante par les développeurs. Alors que appmaster .io/blog/best-no-code-backend-tools> no-code and low-code platforms gagnent en popularité, y compris AppMaster, developers might be tempted to take advantage of potential security vulnerabilities. However, as the cybersecurity landscape evolves, so too must proactive and reactive measures to ensure robust API security.
