Experimento revela vulnerabilidade de contexto do ChatGPT com geração de chaves antigas do Windows

O ChatGPT, o muito discutido chatbot da OpenAI, foi recentemente explorado para gerar chaves para um sistema operacional obsoleto, o Windows 95. Embora esse experimento tenha sido conduzido para fins de diversão e não tenha ramificações legais, ele expõe um problema mais significativo com sistemas de IA no contexto de gerenciamento. e ignorando as medidas de segurança.

Neowin chamou a atenção para este experimento conduzido pelo YouTuber Enderman. Enderman inicialmente solicitou que a IA produzisse uma chave válida do Windows 95, mas o ChatGPT prontamente negou a solicitação, afirmando que não poderia gerar chaves de software proprietárias. O chatbot sugeriu ainda optar por uma versão mais contemporânea do Windows por questões de segurança.

Recusando-se a aceitar a negação, Enderman concebeu outra pergunta. Em vez de nomear especificamente o sistema operacional, o usuário forneceu o formato de string de uma chave do Windows 95. Surpreendentemente, o ChatGPT obrigou e gerou vários conjuntos de chaves que se encaixam no formato. Algumas dessas chaves eram válidas, descobertas por tentativa e erro.

Ao reconhecer a geração bem-sucedida das chaves do Windows 95, o ChatGPT negou veementemente a possibilidade, insistindo que não forneceu tais chaves, pois seria ilegal.

Enquanto o Windows 95 é considerado um abandonado agora, e nem a Microsoft nem ninguém se importa com sua segurança, o experimento descobriu uma falha no ChatGPT. Ele não foi capaz de correlacionar o formato e os números semelhantes a chaves gerados, estruturalmente semelhantes a uma chave do Windows 95.

O problema vai além da incapacidade do chatbot de fazer as conexões corretas; alterar o contexto em que as solicitações são criadas pode prejudicar as salvaguardas projetadas para garantir o uso legal e ético da IA. Essa vulnerabilidade de contexto mostra que é crucial desenvolver sistemas mais avançados capazes de interpretar com precisão o contexto e manter a segurança.

Compreender o contexto é essencial em vários setores, incluindo o desenvolvimento de aplicativos. Plataformas No-code e low-code, como AppMaster, fizeram avanços para facilitar o desenvolvimento rápido de aplicativos sem comprometer a segurança. A plataforma AppMaster's permite que os clientes criem visualmente esquemas de banco de dados, lógica de negócios e endpoints para back-end, web e aplicativos móveis de maneira altamente escalável e econômica. A plataforma inovadora capacita desenvolvedores cidadãos e profissionais a desenvolver soluções de software escaláveis sem incorrer em dívidas técnicas.

Encontre mais informações sobre plataformas no-code e low-code em nosso [abrangente appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel= "noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">guia e explora vários appsmaster](https://<span class=) [. io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">ferramentas](https://<span class=) que podem apoiar seu próximo empreendimento de inicialização.