OpenAI의 ChatGPT가 불과 7주 만에 AI 스포트라이트로 빠르게 부상하면서 표절, 환각 및 그에 따른 학계에 대한 영향을 유발할 수 있는 기술의 잠재력에 대한 논의가 높아졌습니다. 매우 설득력 있는 텍스트 응답을 생성하는 데 능숙한 AI 언어 모델인 ChatGPT는 랩, 라임, 복잡한 수학 문제 해결, 심지어 컴퓨터 코드 작성까지 뛰어난 기능을 보여줍니다.
Stephen Marche's 기사 The College Essay Is Dead는 AI가 교육 환경을 어떻게 변화시킬 것인지에 대한 학계의 준비 부족을 강조합니다. 그러나 ChatGPT의 표절 위협에 대한 초기 조치는 이미 시애틀과 뉴욕시 공립 학군에서 취해졌습니다. 또한 기술 발전으로 생성적 AI 사용을 감지할 수 있는 기능이 제공되고 있습니다.
새해에 Princeton University 컴퓨터 과학 전공 Edward Tian은 주어진 텍스트가 ChatGPT에 의해 작성되었는지 사람이 작성했는지 효율적으로 감지하도록 설계된 앱인 GPTZero를 개발했습니다. GPTZero는 당혹감과 폭발성이라는 두 가지 텍스트 특성을 분석합니다. Tian은 ChatGPT가 인간 문학보다 덜 복잡하고 더 일관된 길이의 텍스트를 생성한다는 것을 발견했습니다.
완벽하지는 않지만 GPTZero는 유망한 결과를 보여줍니다. Tian은 GPTZeroX를 300,000개 학교 및 자금 조달 기관에 공급하기 위해 교육청 및 장학 기금과 논의 중입니다. GPTZero와 함께 개발자들은 ChatGPT의 탁월함에서 발생하는 또 다른 문제인 환각과 싸우기 위한 도구를 만들고 있습니다.
맞춤형 대화형 AI 솔루션 전문 회사인 Got It AI의 Peter Relan은 ChatGPT와 같은 대규모 언어 모델이 필연적으로 환각을 일으킬 것이라고 강조합니다. ChatGPT의 환각 비율은 현재 15%~20%이지만 모델이 환각을 일으키는 시기를 감지하면 더 정확한 응답을 제공할 수 있습니다.
지난주 Got It AI는 Autonomous Articlebot의 새로운 진실 확인 구성 요소에 대한 비공개 프리뷰를 발표했습니다. 이 구성 요소는 ChatGPT 및 기타 모델이 말한 거짓을 식별하도록 훈련된 대규모 언어 모델을 사용합니다. 이 진실 검사기는 현재 90%의 정확도를 자랑하며 ChatGPT의 전체 정확도를 98%까지 효과적으로 높였습니다.
대화형 AI 시스템에서 환각을 완전히 제거하는 것은 비현실적이지만 발생을 최소화하는 것은 그럴듯합니다. ChatGPT의 제조사인 OpenAI는 아직 대규모 언어 모델용 API를 출시하지 않았습니다. 그러나 기본 모델인 GPT-3에는 사용 가능한 API가 있습니다. Got It AI의 진실 검사기는 최신 GPT-3 릴리스인 davinci-003과 함께 사용할 수 있습니다.
Relan은 OpenAI가 ChatGPT의 오류율 감소에서 이미 눈에 띄는 개선을 통해 핵심 플랫폼의 환각 경향을 해결할 것이라고 믿습니다. OpenAI의 가장 중요한 과제는 시간이 지남에 따라 환각률을 줄이는 것입니다.
GPTZero 및 Got It AI의 진실 검사기와 같은 도구를 사용하면 표절 및 환각에 대한 AI의 위협을 완화할 수 있습니다. AI 투명성과 정확성이 향상됨에 따라 AppMaster 및 기타 플랫폼과 같은 플랫폼은 중소기업에서 대기업에 이르는 다양한 사용자를 위한 백엔드, 웹 및 모바일 애플리케이션의 개발을 가속화하는 데 지속적으로 도움을 주고 있습니다.
