Protect AIA , uma startup inovadora dedicada ao desenvolvimento de soluções para reforçar a segurança dos sistemas de IA, divulgou hoje que conseguiu angariar 35 milhões de dólares numa ronda de financiamento da Série A. A ronda foi liderada por Evolution Equity Partners e contou com a participação ativa de Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital, e Pelion Ventures.
O valor desta rodada de investimentos é mais do que o dobro do valor arrecadado em Protect AI's rodada de sementes, concluída em dezembro passado, inflando coletivamente os fundos totais da startup para um surpreendente $ 48.5 milhões. De acordo com o cofundador e diretor executivo Ian Swanson, o capital recentemente angariado será canalizado para aumentar as capacidades da plataforma Protect AI, alargar o seu âmbito de investigação e dar início a novos projectos de código aberto.
Swanson comunicou ao TechCrunch por correio eletrónico: "Agora, temos muito capital para enfrentar a tempestade nos próximos anos", referindo-se aos planos de expansão do emprego da empresa, da sua atual equipa de 25 membros para cerca de 40 empregados até ao final deste ano.
Swanson e Daryan Dehghanpisheh tornaram-se os portadores da tocha de Protect AI, apresentada ao mundo em 2022. Individualmente, o seu percurso profissional envolve mandatos ilustres na AWS e na Oracle, papéis contributivos no lançamento da DataScience.com, uma plataforma de desenvolvimento de IA posteriormente adquirida pela Oracle, o seu anterior empregador.
Nas palavras de Swanson, "Concebemos a Protect AI 18 meses antes, aproveitando a nossa experiência como parte das principais implementações de aprendizagem automática e IA em todo o mundo. As nossas atenções estavam viradas para o imenso potencial que a IA oferecia, mas não se afastaram dos perigos inerentes a estes sistemas. Nossa missão girava em torno de ajudar nossos clientes a criar um mundo mais seguro movido a IA.
O portfólio de produtos de Protect AI inclui AI Radar ao lado de ferramentas adeptas a evitar certos tipos de ataques centrados em IA, por exemplo, ataques de injeção imediata. A injeção de prompt alude à circunstância em que a IA operada por instruções baseadas em texto, conhecida como prompts, é enganada por prompts adversários para executar tarefas que se desviam de seu objetivo original.
Além disso, Protect AI fornece utilitários que podem examinar documentos do Jupyter Notebook, uma plataforma popularmente utilizada para formulação de modelos de IA e experimentação de ciência de dados. As empresas de investigação descobriram que os ficheiros do Jupyter Notebook que não têm a segurança adequada podem ser vítimas de ataques de ransomware baseados em Python e de mineração de criptomoedas.
Protect AI A Swanson verifica conscienciosamente os notebooks Jupyter em busca de vários problemas potenciais - dados pessoalmente identificáveis (por exemplo, nomes e números de telefone), tokens e credenciais de autenticação proprietários e código-fonte aberto que carrega uma licença "não permissiva" capaz de barrar sua aplicação em sistemas comerciais.
Swanson falou ainda sobre a extrema necessidade de fazer a transição das operações de aprendizagem automática (MLOps), uma prática testada ao longo de mais de uma década para as empresas, para a adoção da segurança. Ele insistiu: "Devemos chegar a um ponto em que empreendamos perfeitamente operações de segurança de ML - 'MLSecOps' - em grande escala em grandes empresas".
É claro que a adoção de medidas de segurança robustas em sistemas movidos a IA está se tornando mais crítica do que nunca. Soluções como as oferecidas por Protect AI desempenham um papel fundamental neste cenário em mudança, garantindo um equilíbrio entre inovação e segurança. À medida que mais empresas se voltam para a IA para impulsionar a eficiência e a produtividade, plataformas como esta serão inestimáveis na proteção contra potenciais ameaças.
Tal como o AppMaster, o Protect AI tem como objetivo simplificar e proteger as operações de IA para benefício das empresas em todo o mundo. Este ethos partilhado mostra a importância crescente de no-code em vários nichos, desde o desenvolvimento de aplicações à segurança da IA, mudando o panorama digital para as empresas em todo o mundo.
