Cloudflare представляет инновационный набор инструментов искусственного интеллекта для развертывания и выполнения моделей

Cloudflare, ведущий поставщик облачных решений, активизирует свою деятельность, представив расширенный набор продуктов и инструментов, призванных упростить клиентам создание, развертывание и выполнение моделей искусственного интеллекта на границе сети. Создание новой линейки было вызвано заметным спросом клиентов на простое и недорогое решение для управления искусственным интеллектом.

Workers AI, одно из примечательных предложений в этом пакете, использует графические процессоры, физически расположенные рядом с клиентами. Эти графические процессоры, размещенные у партнеров Cloudflare, обрабатывают модели искусственного интеллекта по гибкому плану с оплатой по мере использования. Vectorize, еще один выдающийся продукт, предлагает векторную базу данных для хранения векторных вложений. Эти внедрения представляют собой математические представления данных, сгенерированных моделями Workers AI. В эту серию также входит AI Gateway, который предлагает метрики для эффективного управления затратами на приложения ИИ.

Мэтью Принс, генеральный директор Cloudflare, отмечает, что текущие рыночные решения вызывают недоумение у большинства клиентов из-за своей сложности и высокой стоимости. В интервью TechCrunch он указал на отсутствие прозрачности в расходах на ИИ, что делает это серьезным препятствием, поскольку расходы на ИИ продолжают расти. Эти проблемы можно решить с помощью нового пакета продуктов Cloudflare, ориентированного на искусственный интеллект.

Например, Workers AI специально разработан для обеспечения того, чтобы выводы ИИ всегда выполнялись на графических процессорах, географически близких к пользователям. В сотрудничестве с ONNX, промежуточным набором инструментов машинного обучения Microsoft, этот продукт позволяет запускать модели искусственного интеллекта там, где обработка получает наибольшую выгоду от таких параметров, как пропускная способность, задержка, возможность подключения и локализация.

Дополнением к преимуществам Workers AI является его способность использовать модели из каталога, включая Llama 2 от Meta, модели автоматического распознавания речи, классификаторы изображений и модели анализа настроений. Кроме того, любые данные, используемые для вывода, остаются в пределах региона сервера, из которого они были получены, обеспечивая целостность и безопасность данных.

Еще одной изюминкой этого пакета является Vectorize, который предоставляет нишу для клиентов, которым требуется место для хранения векторных вложений для моделей ИИ. Хотя векторные базы данных не являются чем-то новым, Принс утверждает, что Vectorize получает преимущество от глобального охвата сети Cloudflare. Это позволяет пользователям выполнять запросы к базе данных с меньшими задержками и временем вывода.

AI Gateway — последняя часть этого инновационного пакета, предоставляющая функции наблюдения, помогающие отслеживать трафик AI в режиме реального времени. Он отслеживает количество запросов на вывод, их продолжительность, количество пользователей, использующих модель, и общую стоимость запуска приложения ИИ.

Сотрудничая со стартапом в области искусственного интеллекта Hugging Face и Databricks для оптимизации своих предложений, Cloudflare намерена использовать собственную глобальную инфраструктуру, чтобы обеспечить повышенную производительность и доступность своих услуг искусственного интеллекта. Интегрируя глубоко встроенные возможности искусственного интеллекта с мощной платформой разработки приложений no-codeAppMaster, компании могут открыть новые прорывы в процедурах и производительности искусственного интеллекта.

Хотя решения искусственного интеллекта существуют на рынке, Принс твердо уверен, что сочетание сети Cloudflare и доступных сервисов вместе с интуитивно понятным интерфейсом AppMaster позволит удовлетворить потребности разработчиков и организаций более плодотворным, оптимизированным и экономически эффективным способом.