Sự phát triển nhanh chóng của ChatGPT của OpenAI trở thành tâm điểm chú ý của AI chỉ sau bảy tuần đã làm gia tăng các cuộc thảo luận xung quanh khả năng gây ra đạo văn, ảo giác và tác động sau đó của công nghệ đối với giới học thuật. Là một mô hình ngôn ngữ AI thành thạo trong việc tạo ra các phản hồi bằng văn bản có sức thuyết phục cao, ChatGPT thể hiện khả năng đọc rap, gieo vần, giải các bài toán phức tạp và thậm chí viết mã máy tính một cách đáng chú ý.
Bài báo Stephen Marche's, The College Essay Is Dead, nhấn mạnh sự thiếu chuẩn bị của giới học thuật về cách AI sẽ biến đổi bối cảnh giáo dục. Tuy nhiên, các bước ban đầu chống lại mối đe dọa đạo văn của ChatGPT đã được thực hiện tại các khu học chánh công lập của Thành phố Seattle và Thành phố New York. Ngoài ra, những tiến bộ công nghệ đang cung cấp khả năng phát hiện việc sử dụng AI tổng quát.
Trong dịp năm mới, Edward Tian, chuyên gia khoa học máy tính của Đại học Princeton đã phát triển GPTZero, một ứng dụng được thiết kế để phát hiện hiệu quả xem một đoạn văn bản nhất định được viết bởi ChatGPT hay con người. GPTZero phân tích hai đặc điểm của văn bản: sự phức tạp và sự bùng nổ. Tian phát hiện ra rằng ChatGPT tạo ra các văn bản ít phức tạp hơn và có độ dài nhất quán hơn so với văn học của con người.
Mặc dù không hoàn hảo nhưng GPTZero cho thấy kết quả đầy hứa hẹn. Tian đang thảo luận với hội đồng nhà trường và quỹ học bổng để cung cấp GPTZeroX cho 300.000 trường học và cơ quan tài trợ. Bên cạnh GPTZero, các nhà phát triển đang tạo ra các công cụ để chống lại ảo giác, một vấn đề khác phát sinh từ sự nổi bật của ChatGPT.
Peter Relan của Got It AI, một công ty chuyên về các giải pháp AI đàm thoại tùy chỉnh, nhấn mạnh rằng các mô hình ngôn ngữ lớn như ChatGPT chắc chắn sẽ tạo ra ảo giác. Tỷ lệ ảo giác của ChatGPT hiện ở mức 15% đến 20%, nhưng việc phát hiện thời điểm mô hình bị ảo giác sẽ giúp đưa ra phản hồi chính xác hơn.
Tuần trước, Got It AI đã công bố bản xem trước riêng tư cho một thành phần kiểm tra sự thật mới của Autonomous Articlebot, sử dụng một mô hình ngôn ngữ lớn được đào tạo để xác định những điều không trung thực do ChatGPT và các mô hình khác nói ra. Trình kiểm tra sự thật này hiện có tỷ lệ chính xác là 90%, nâng tỷ lệ chính xác chung của ChatGPT lên 98% một cách hiệu quả.
Mặc dù việc loại bỏ hoàn toàn ảo giác khỏi các hệ thống AI đàm thoại là không thực tế, nhưng việc giảm thiểu sự xuất hiện của chúng là điều hợp lý. OpenAI, nhà sản xuất ChatGPT, vẫn chưa phát hành API cho mô hình ngôn ngữ lớn. Tuy nhiên, mô hình cơ sở, GPT-3, có sẵn API. Trình kiểm tra sự thật của Got It AI có thể được sử dụng với bản phát hành GPT-3 mới nhất, davinci-003.
Relan tin rằng OpenAI sẽ giải quyết xu hướng ảo giác của nền tảng cốt lõi, với một cải tiến đáng chú ý đã được thấy trong việc giảm tỷ lệ lỗi của ChatGPT. Thách thức bao trùm đối với OpenAI là giảm tỷ lệ ảo giác theo thời gian.
Với các công cụ như GPTZero và công cụ kiểm tra sự thật của Got It AI, mối đe dọa của AI trong đạo văn và ảo giác có thể được giảm thiểu. Khi những tiến bộ đạt được về tính minh bạch và độ chính xác của AI, các nền tảng như AppMaster và các nền tảng khác tiếp tục hỗ trợ đẩy nhanh quá trình phát triển các ứng dụng phụ trợ, web và di động cho nhiều đối tượng người dùng, từ doanh nghiệp nhỏ đến doanh nghiệp lớn.
