실험에서 오래된 Windows 키 생성에 대한 ChatGPT의 컨텍스트 취약점이 드러났습니다.

많이 논의된 OpenAI의 챗봇인 ChatGPT는 최근 구식 운영 체제인 Windows 95의 키를 생성하는 데 악용되었습니다. 이 실험은 오락 목적으로 수행되었으며 법적 영향은 없었지만 컨텍스트를 관리하는 AI 시스템에 더 중요한 문제가 노출되었습니다. 안전 조치를 우회합니다.

네오윈은 유튜버 엔더맨이 진행한 이번 실험에 주목했습니다. Enderman은 처음에 AI에 유효한 Windows 95 키를 생성하도록 요청했지만 ChatGPT는 독점 소프트웨어 키를 생성할 수 없다고 말하면서 즉시 요청을 거부했습니다. 챗봇은 보안상의 이유로 최신 버전의 Windows를 선택할 것을 제안했습니다.

거부를 받아들이지 않고 Enderman은 또 다른 질문을 고안했습니다. 구체적으로 OS 이름을 지정하는 대신 사용자가 Windows 95 키의 문자열 형식을 제공했습니다. 놀랍게도 ChatGPT는 형식에 맞는 여러 키 집합을 의무화하고 생성했습니다. 이러한 키 중 일부는 유효했으며 시행 착오를 통해 발견되었습니다.

Windows 95 키의 성공적인 생성을 인정하면서 ChatGPT는 그러한 가능성을 격렬히 부인하고 그러한 키를 제공한 것이 불법일 것이라고 주장했습니다.

Windows 95는 현재 폐기된 것으로 간주되고 Microsoft나 그 누구도 Windows 95의 보안에 관심이 없지만 실험 결과 ChatGPT의 결함이 발견되었습니다. Windows 95 키와 구조적으로 유사한 형식과 생성된 키와 유사한 숫자를 연관시킬 수 없었습니다.

이 문제는 챗봇이 올바른 연결을 만들지 못하는 것 이상으로 확장됩니다. 요청이 생성되는 컨텍스트를 변경하면 AI의 합법적이고 윤리적인 사용을 보장하도록 설계된 보호 장치가 약화될 수 있습니다. 이 컨텍스트 취약성은 컨텍스트를 정확하게 해석하고 보안을 유지할 수 있는 고급 시스템을 개발하는 것이 중요하다는 것을 보여줍니다.

컨텍스트를 이해하는 것은 애플리케이션 개발을 포함한 여러 산업에서 필수적입니다. AppMaster 와 같은 No-code 및 low-code 플랫폼은 보안을 손상시키지 않으면서 신속한 애플리케이션 개발을 촉진하는 데 큰 진전을 이루었습니다. AppMaster's 플랫폼을 통해 클라이언트는 확장성이 뛰어나고 비용 효율적인 방식으로 백엔드, 웹 및 모바일 애플리케이션을 위한 데이터베이스 스키마, 비즈니스 로직 및 endpoints 시각적으로 생성할 수 있습니다. 이 혁신적인 플랫폼은 시민 개발자와 전문가 모두가 기술적 부채 없이 확장 가능한 소프트웨어 솔루션을 개발할 수 있도록 지원합니다.

[포괄적인 appmaster .io/blog/full-guide-on-no-code-low-code-app-development-for-2022" target="_blank" rel=에서 노코드 및 로우코드 플랫폼에 대한 자세한 정보를 찾아](https://<span class=) no-codelow-code ["noopener noreferrer" data-mce-href="https:// appmaster.io/blog/full-guide-on-no-code-low-code-app-development-for-2022">다양한 appmaster를 안내하고 살펴보세요](https://<span class=) [. io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup" target="_blank" rel="noopener noreferrer" data-mce-href="https:// appmaster.io/blog/top-no-code-apps-and-tools-to-help-build-your-next-startup">다음 스타트업 벤처를 지원할 수 있는 도구입니다.](https://<span class=)