Protect AI, una startup innovativa che si dedica allo sviluppo di soluzioni per rafforzare la sicurezza dei sistemi di intelligenza artificiale, ha annunciato oggi di aver ottenuto 35 milioni di dollari in un round di finanziamento di Serie A. Il round è stato guidato da Evolution Equity Partners e ha visto la partecipazione attiva di Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital e Pelion Ventures.
Il valore di questo round di investimento è più del doppio dell'importo raccolto nel round di avvio di Protect AI, conclusosi lo scorso dicembre, e fa salire il totale dei fondi della startup alla strabiliante cifra di 48,5 milioni di dollari. Secondo il cofondatore e amministratore delegato Ian Swanson, il nuovo capitale raccolto sarà destinato alla crescita delle capacità della piattaforma di Protect AI, all'ampliamento del campo di ricerca e all'avvio di nuovi progetti open source.
Swanson ha comunicato a TechCrunch via e-mail: "Ora abbiamo un capitale sufficiente per affrontare la tempesta per gli anni a venire", parlando dei piani di espansione dell'occupazione della startup, che passerà dall'attuale team di 25 membri a circa 40 dipendenti entro la fine di quest'anno.
Swanson e Daryan Dehghanpisheh sono diventati i tedofori di Protect AI, presentato al mondo nel 2022. Il loro percorso professionale comprende illustri incarichi presso AWS e Oracle, ruoli che hanno contribuito al lancio di DataScience.com, una piattaforma di sviluppo dell'intelligenza artificiale successivamente acquistata da Oracle, il loro precedente datore di lavoro.
Secondo le parole di Swanson, "abbiamo concepito Protect AI 18 mesi prima, forti della nostra esperienza nell'ambito delle principali implementazioni di machine learning e AI in tutto il mondo. Avevamo gli occhi puntati sull'immenso potenziale offerto dall'IA, ma non ci siamo lasciati sfuggire i pericoli insiti in questi sistemi. La nostra missione consisteva nell'aiutare i nostri clienti a creare un mondo più sicuro basato sull'IA".
Il portafoglio prodotti di Protect AI comprende AI Radar e strumenti in grado di prevenire alcuni tipi di attacchi incentrati sull'intelligenza artificiale, come ad esempio gli attacchi di tipo prompt injection. L'iniezione di prompt allude alla circostanza in cui l'IA gestita da istruzioni testuali, note come prompt, viene ingannata da prompt avversari per eseguire compiti che si allontanano dal loro obiettivo originale.
Inoltre, Protect AI fornisce utility in grado di esaminare i documenti di Jupyter Notebook, una piattaforma molto utilizzata per la formulazione di modelli di IA e per la sperimentazione della scienza dei dati. Le società di ricerca hanno scoperto che i file di Jupyter Notebook non adeguatamente protetti possono essere preda di ransomware basati su Python e di attacchi per il mining di criptovalute.
Protect AI La società controlla coscienziosamente i notebook Jupyter per verificare la presenza di diversi potenziali problemi: dati personali identificabili (ad esempio, nomi e numeri di telefono), token di autenticazione e credenziali proprietarie e codice open source con licenza "non permissiva" in grado di impedirne l'applicazione in sistemi commerciali.
Swanson ha inoltre sottolineato la necessità di passare dalle operazioni di machine learning (MLOps), una pratica collaudata da oltre un decennio per le aziende, all'adozione della sicurezza. Ha esortato: "Dobbiamo raggiungere un punto in cui intraprendiamo senza problemi operazioni di sicurezza ML - 'MLSecOps' - su larga scala all'interno di vaste aziende".
È chiaro che l'adozione di solide misure di sicurezza nei sistemi alimentati dall'intelligenza artificiale sta diventando più che mai fondamentale. Soluzioni come quelle offerte da Protect AI svolgono un ruolo fondamentale in questo panorama in evoluzione, garantendo un equilibrio tra innovazione e sicurezza. Poiché un numero sempre maggiore di aziende si rivolge all'IA per incrementare l'efficienza e la produttività, piattaforme come questa saranno preziose per la salvaguardia da potenziali minacce.
Come AppMaster, Protect AI mira a semplificare e rendere sicure le operazioni di IA a vantaggio delle aziende di tutto il mondo. Questa filosofia condivisa dimostra la crescente importanza di no-code in varie nicchie, dallo sviluppo di app alla sicurezza dell'IA, che sta cambiando il panorama digitale per le aziende di tutto il mondo.
