OpenAI расширяет возможности ИИ, генерирующего текст, и снижает цены на фоне конкуренции

Поскольку сектор генеративного ИИ становится все более конкурентным, OpenAI остается впереди, совершенствуя свои модели генерации текста и снижая цены на них. Компания представила новые версии GPT-3.5-turbo и GPT-4, своих передовых моделей ИИ, генерирующих текст, с новой функциональностью вызова функций.

Вызов функций позволяет разработчикам указывать функции программирования для GPT-3.5-turbo и GPT-4, которые в ответ генерируют код, выполняющий указанные функции. Как объясняется в сообщении в блоге OpenAI, эта инновационная функция позволяет создавать чат-боты, использующие внешние инструменты для ответов на вопросы, выполнения преобразований естественного языка в запросы к базам данных и извлечения структурированных данных из текста. Модели предназначены для определения необходимости вызова функции и возвращают структуры данных JSON, соответствующие сигнатуре функции, обеспечивая более точную и структурированную информацию.

В дополнение к вызову функций OpenAI выпустил обновленную версию GPT-3.5-turbo со значительно расширенным контекстным окном. Контекстное окно, измеряемое в токенах, представляет собой объем текста, который модель принимает во внимание перед генерацией последующего текста. Модели с меньшим контекстным окном могут с трудом вспомнить даже недавнее содержание разговора, что приводит к ответам не по теме. Последняя итерация GPT-3.5-turbo предлагает контекстную длину в четыре раза большую (16 000 лексем), чем ее предшественница, по вдвое меньшей цене - $0,003 за 1 000 входных лексем и $0,004 за 1 000 выходных лексем. OpenAI подчеркивает, что данная модель способна обрабатывать около 20 страниц текста за один раз. Однако она не дотягивает до флагманской модели ИИ-стартапа Anthropic, которая, как сообщается, может обрабатывать сотни страниц одновременно. OpenAI тестирует версию GPT-4 с контекстным окном на 32 000 токенов, хотя и в ограниченном релизе.

Еще одна хорошая новость для разработчиков: OpenAI также снижает цену на оригинальную модель GPT-3.5-turbo на 25%. Теперь стоимость составляет $0,0015 за 1 000 входных токенов и $0,002 за 1 000 выходных токенов, что соответствует примерно 700 страницам за доллар. Кроме того, компания снижает цену на text-embedding-ada-002, популярную модель встраивания текста, на 75%. Новая цена составляет $0,0001 за 1 000 лексем. Встраивание текста используется для измерения связанности между текстовыми строками, что находит применение в системах поиска и рекомендаций. OpenAI объясняет снижение цены повышением эффективности своих систем.

Стратегия OpenAI в будущем, похоже, будет направлена на постепенное обновление существующих моделей, а не на разработку новых крупномасштабных моделей с нуля. Генеральный директор OpenAI Сэм Альтман недавно заявил на конференции Economic Times, что компания еще не приступила к подготовке преемника GPT-4, подразумевая, что предстоит еще значительный объем работы и доработки существующих моделей.

С такими мощными инструментами no-code, как AppMaster.io, позволяющими пользователям с легкостью создавать бэкенд, веб- и мобильные приложения, интеграция усовершенствованных решений ИИ, таких как GPT-3.5-turbo и GPT-4 от OpenAI, может предложить еще более расширенный пользовательский опыт в быстро развивающемся технологическом ландшафте.