Rede de computação de IA descentralizada e ferramentas MLOps combinadas na arrecadação de fundos de US $ 11.5 milhões do FedML

Liderada por Salman Avestimehr, diretor inaugural do USC-Amazon Center on Trustworthy Machine Learning, uma startup inovadora promete um caminho para as empresas treinarem, aperfeiçoarem, monitorizarem e melhorarem facilmente os modelos de IA, quer na nuvem, quer na periferia. FedML, o nome deste empreendimento promissor, conseguiu reunir com sucesso 11,5 milhões de dólares em financiamento inicial, avaliando a empresa em 56,5 milhões de dólares. A ronda de financiamento foi conduzida pela Camford Capital, com a participação da Road Capital e da Finality Capital.

Um grande número de empresas está interessado em treinar ou ajustar modelos de IA sob medida em dados específicos do setor ou da empresa para atender a uma infinidade de requisitos de negócios, disse Avestimehr em uma entrevista por e-mail ao TechCrunch. No entanto, ele também ressaltou que "os modelos de IA personalizados têm sido supostamente caros para conceber e sustentar devido aos altos custos de infraestrutura em nuvem, dados elevados e despesas de engenharia. Além disso, os dados proprietários necessários para treinar modelos de IA sob medida são freqüentemente isolados, regulamentados ou confidenciais.

O FedML, no entanto, oferece uma solução viável. De acordo com Avestimehr, o FedML apresentou uma plataforma colaborativa de IA que permite que desenvolvedores e empresas trabalhem coletivamente em tarefas de IA, compartilhando modelos, recursos de computação e dados.

O FedML tem a capacidade de executar qualquer quantidade de modelos de IA personalizados ou derivados da comunidade de código aberto. Com a plataforma da FedML, os clientes podem formar um grupo de colaboradores e sincronizar automaticamente aplicações de IA em dispositivos como PCs. Os associados podem incorporar dispositivos utilizados para a formação de modelos de IA, tais como dispositivos móveis ou servidores, e têm a capacidade de monitorizar o progresso da formação em tempo real.

Recentemente, o FedML lançou o FedLLM, um pipeline de construção para a criação de modelos de linguagem de grande dimensão (LLM) específicos de um domínio, à semelhança do GPT-4 da OpenAI, com base em dados proprietários. Compatível com bibliotecas LLM populares como DeepSpeed da Microsoft e Hugging Face's, o FedLLM foi criado para acelerar o desenvolvimento de IA personalizada, garantindo segurança e privacidade, afirmou Avestimehr.

Como muitas outras plataformas MLOps, como Galileo e Arize ou mesmo incumbentes como AWS, Microsoft e Google Cloud, o FedML ajuda a agilizar o processo de implantação de modelos de IA para produção e, posteriormente, mantê-los e monitorá-los. No entanto, o FedML tem aspirações que vão para além da IA e das ferramentas de modelos de aprendizagem automática.

Avestimehr afirmou que o objetivo principal é desenvolver uma comunidade de recursos de CPU e GPU para hospedar e servir modelos quando eles estiverem prontos para implantação. Embora os detalhes ainda estejam em discussão, o FedML planeja incentivar os usuários a contribuir com a computação para a plataforma por meio de tokens ou formas alternativas de compensação.

Embora a computação distribuída e descentralizada para o serviço de modelo de IA não seja nova, com Run.AI, Gensys e Petals tendo feito suas tentativas, Avestimehr está confiante de que o FedML pode alcançar maior sucesso ao fundir esse paradigma de computação com um pacote MLOps.

O FedML facilita modelos de IA sob medida, permitindo que empresas e desenvolvedores construam LLMs em grande escala, privados e proprietários por uma fração do custo, afirmou Avestimehr. Além disso, ele enfatizou o ponto de venda exclusivo do FedML, treinando, implantando, monitorando e refinando modelos de ML em qualquer lugar enquanto colabora com os dados, modelos e computação mesclados - reduzindo visivelmente o custo e o tempo de lançamento no mercado.

À luz desses avanços, não seria uma surpresa se o FedML tomasse o MLOps, a indústria de IA pela tempestade, juntando-se a plataformas como a plataforma sem código AppMaster, conhecida por suas contribuições inovadoras e ferramentas revolucionárias na indústria de tecnologia.