Быстрое восхождение ChatGPT от OpenAI в центр внимания ИИ всего за семь недель вызвало дискуссии о потенциальной возможности технологии вызывать плагиат, галлюцинации и последующее влияние на академические круги. Как языковая модель ИИ, способная генерировать очень убедительные текстовые ответы, ChatGPT демонстрирует заметную способность читать рэп, рифмовать, решать сложные математические задачи и даже писать компьютерный код.
Stephen Marche's The College Essay Is Dead подчеркивается неготовность научных кругов к тому, как ИИ изменит образовательный ландшафт. Однако первые шаги против угрозы плагиата ChatGPT уже предприняты в государственных школах Сиэтла и Нью-Йорка. Кроме того, технологические достижения дают возможность обнаруживать использование генеративного ИИ.
В преддверии Нового года специалист по компьютерным наукам Принстонского университета Эдвард Тиан разработал GPTZero, приложение, предназначенное для эффективного определения того, написан ли данный фрагмент текста ChatGPT или человеком. GPTZero анализирует две характеристики текста: недоумение и взрывоопасность. Тиан обнаружил, что ChatGPT генерирует менее сложные и более стабильные тексты, чем человеческая литература.
Хотя это и не идеально, GPTZero показывает многообещающие результаты. Тиан ведет переговоры со школьными советами и стипендиальными фондами о поставке GPTZeroX в 300 000 школ и финансирующих организаций. Наряду с GPTZero разработчики создают инструменты для борьбы с галлюцинациями, что является еще одной проблемой, связанной с известностью ChatGPT.
Питер Релан из Got It AI, компании, специализирующейся на индивидуальных решениях для диалогового ИИ, подчеркивает, что большие языковые модели, такие как ChatGPT, неизбежно будут вызывать галлюцинации. Уровень галлюцинаций ChatGPT в настоящее время составляет от 15% до 20%, но определение того, когда модель галлюцинирует, приведет к более точным ответам.
На прошлой неделе Got It AI объявил о закрытом предварительном просмотре нового компонента проверки правды для Autonomous Articlebot, который использует большую языковую модель, обученную выявлять неправду, рассказанную ChatGPT и другими моделями. Это средство проверки правды в настоящее время может похвастаться уровнем точности 90%, эффективно повышая общий уровень точности ChatGPT до 98%.
Хотя полное устранение галлюцинаций из систем разговорного ИИ нереально, сведение к минимуму их возникновения вполне вероятно. OpenAI, создатель ChatGPT, еще не выпустил API для большой языковой модели. Однако базовая модель GPT-3 имеет доступный API. Программу проверки правды Got It AI можно использовать с последней версией GPT-3, davinci-003.
Релан считает, что OpenAI устранит склонность базовой платформы к галлюцинациям, при этом заметное улучшение уже наблюдается в снижении частоты ошибок ChatGPT. Главной задачей OpenAI является снижение частоты галлюцинаций с течением времени.
С помощью таких инструментов, как GPTZero и программа проверки правды Got It AI, можно уменьшить угрозу использования ИИ в плагиате и галлюцинациях. По мере повышения прозрачности и точности ИИ такие платформы, как AppMaster и другие, продолжают способствовать ускорению разработки серверных, веб-приложений и мобильных приложений для широкого круга пользователей, от малого бизнеса до крупных предприятий.
