Protect AIИнновационный стартап, занимающийся разработкой решений для повышения безопасности систем искусственного интеллекта, объявил сегодня о том, что ему удалось привлечь 35 млн. долл. в рамках раунда финансирования серии А. Инициатором раунда выступил Evolution Equity Partners, а активное участие в нем приняли Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital и Pelion Ventures.
Стоимость этого раунда более чем в два раза превышает сумму, привлеченную в ходе посевного раунда Protect AI, завершившегося в декабре прошлого года, что в совокупности увеличивает общую сумму средств стартапа до 48,5 млн. долл. По словам соучредителя и генерального директора компании Яна Свонсона (Ian Swanson), привлеченный капитал будет направлен на развитие возможностей платформы Protect AI, расширение сферы исследований и запуск новых проектов с открытым исходным кодом.
Свонсон сообщил TechCrunch по электронной почте: "Теперь у нас достаточно капитала, чтобы пережить бурю в ближайшие годы", - и перешел к планам расширения штата стартапа с нынешних 25 человек до примерно 40 сотрудников к концу этого года.
Свонсон и Дарьян Дехганпишех стали факелоносцами проекта Protect AI, представленного миру в 2022 году. Их профессиональный путь включает в себя работу в AWS и Oracle, вклад в запуск DataScience.com, платформы для разработки искусственного интеллекта, которая впоследствии была приобретена Oracle, их прошлым работодателем.
По словам Свонсона, "мы задумали Protect AI за 18 месяцев до этого, опираясь на наш опыт участия в крупных внедрениях машинного обучения и искусственного интеллекта по всему миру. Наши взгляды были направлены на огромный потенциал ИИ, но они не уклонялись от опасностей, присущих этим системам. Наша миссия заключается в том, чтобы помочь нашим покровителям создать более безопасный мир, основанный на ИИ".
Портфель продуктов Protect AI включает в себя AI Radar, а также средства защиты от некоторых типов атак, ориентированных на ИИ, например, от атак типа prompt injection. Под "инъекцией подсказки" понимается ситуация, когда ИИ, управляемый текстовыми инструкциями, известными как подсказки, под воздействием вражеских подсказок начинает выполнять задачи, отклоняющиеся от первоначальной цели.
Кроме того, на сайте Protect AI представлены утилиты для анализа документов из Jupyter Notebook - популярной платформы для создания моделей ИИ и проведения экспериментов в области науки о данных. Исследовательские компании обнаружили, что файлы Jupyter Notebook, не защищенные должным образом, могут стать жертвой атак на основе Python для выкупа и майнинга криптовалюты.
Protect AI добросовестно проверяет блокноты Jupyter на наличие различных потенциальных проблем - персональных данных (например, имен и номеров телефонов), проприетарных маркеров аутентификации и учетных данных, а также открытого кода, имеющего "не разрешительную" лицензию, которая может запретить его применение в коммерческих системах.
Далее Свонсон подробно остановился на настоятельной необходимости перехода от машинного обучения (MLOps), проверенной временем практики, насчитывающей более десяти лет, к обеспечению безопасности. Он считает, что "мы должны достичь того момента, когда мы сможем беспрепятственно выполнять операции по обеспечению безопасности с помощью МЛ - "MLSecOps" - в больших масштабах на огромных предприятиях".
Очевидно, что принятие надежных мер безопасности в системах, работающих на основе искусственного интеллекта, становится как никогда актуальным. Решения, подобные тем, что предлагает Protect AI, играют ключевую роль в этом меняющемся ландшафте, обеспечивая баланс между инновациями и безопасностью. По мере того как все больше предприятий будут использовать ИИ для повышения эффективности и производительности, подобные платформы будут играть неоценимую роль в защите от потенциальных угроз.
Как и AppMaster, Protect AI нацелена на упрощение и обеспечение безопасности операций с искусственным интеллектом на благо предприятий по всему миру. Эта общая позиция демонстрирует растущее значение no-code в различных областях, от разработки приложений до обеспечения безопасности ИИ, изменяя цифровой ландшафт для бизнеса во всем мире.
