Protect AI, een innovatieve startup die zich richt op het ontwikkelen van oplossingen voor het versterken van de veiligheid van AI-systemen, heeft vandaag bekendgemaakt dat het met succes $ 35 miljoen heeft opgehaald in een Serie A-financieringsronde. De ronde werd geleid door Evolution Equity Partners en was getuige van actieve deelname van Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital, en Pelion Ventures.
De waarde van deze investeringsronde is meer dan het dubbele van het bedrag dat werd opgehaald in Protect AI's seed round, die in december vorig jaar werd afgesloten, waardoor de totale fondsen van de startup zijn opgeblazen tot maar liefst 48,5 miljoen dollar. Volgens medeoprichter en CEO Ian Swanson zal het nieuwe kapitaal worden gebruikt om de mogelijkheden van het platform Protect AI uit te breiden, het onderzoeksgebied te verbreden en nieuwe open source projecten op te starten.
Swanson liet via e-mail aan TechCrunch weten: "Nu hebben we genoeg kapitaal om de storm de komende jaren te doorstaan," waarmee hij inging op de plannen van de startup om het huidige team van 25 medewerkers uit te breiden naar ongeveer 40 medewerkers tegen het einde van dit jaar.
Swanson en Daryan Dehghanpisheh werden de fakkeldragers van Protect AI, dat in 2022 aan de wereld werd voorgesteld. Individueel omvat hun professionele reis illustere ambtstermijnen bij AWS en Oracle, en bijdrages aan de lancering van DataScience.com, een AI-ontwikkelingsplatform dat later werd overgenomen door Oracle, hun vorige werkgever.
In de woorden van Swanson: "We bedachten Protect AI 18 maanden eerder, voortbordurend op onze expertise als onderdeel van de grote machine learning en AI implementaties over de hele wereld. We waren gefixeerd op het immense potentieel dat AI bood, maar we waren niet bang voor de inherente gevaren die deze systemen met zich meebrachten. Onze missie draaide om het helpen van onze klanten bij het creëren van een veiligere AI-gedreven wereld."
Het productportfolio van Protect AI omvat AI Radar naast tools die bedreven zijn in het afweren van bepaalde soorten AI-gerichte aanvallen, bijvoorbeeld prompt injection aanvallen. Prompt injection verwijst naar de omstandigheid waarbij op tekst gebaseerde instructiegestuurde AI, bekend als prompts, wordt misleid door vijandige prompts om taken uit te voeren die afwijken van hun oorspronkelijke doel.
Daarnaast biedt Protect AI hulpprogramma's waarmee documenten uit Jupyter Notebook, een veelgebruikt platform voor AI-modelformulering en data science-experimenten, kunnen worden onderzocht. Onderzoeksbedrijven hebben ontdekt dat Jupyter Notebook-bestanden die onvoldoende beveiligd zijn, ten prooi kunnen vallen aan op Python gebaseerde ransomware en cryptocurrency mining-aanvallen.
Protect AI Swanson controleert Jupyter-notebooks nauwgezet op verschillende potentiële problemen - persoonlijk identificeerbare gegevens (zoals namen en telefoonnummers), eigen verificatietokens en referenties, en open broncode met een "niet-verplichtende" licentie die de toepassing ervan in commerciële systemen kan verhinderen.
Swanson ging verder in op de dringende noodzaak om over te stappen van machine learning operations (MLOps), een beproefde praktijk die al meer dan tien jaar wordt toegepast door bedrijven, naar het omarmen van beveiliging. Hij drong erop aan: "We moeten een punt bereiken waarop we naadloos ML-beveiligingsoperaties - 'MLSecOps' - op grote schaal kunnen uitvoeren binnen grote ondernemingen."
Het is duidelijk dat het nemen van robuuste beveiligingsmaatregelen in AI-systemen belangrijker wordt dan ooit. Oplossingen zoals die van Protect AI spelen een centrale rol in dit veranderende landschap en zorgen voor een balans tussen innovatie en beveiliging. Nu steeds meer bedrijven zich tot AI wenden om de efficiëntie en productiviteit te verhogen, zullen platforms als deze van onschatbare waarde zijn voor de bescherming tegen potentiële bedreigingen.
Net als AppMaster wil Protect AI AI AI-activiteiten vereenvoudigen en beveiligen ten behoeve van bedrijven wereldwijd. Dit gedeelde ethos toont het toenemende belang van no-code in verschillende niches, van app-ontwikkeling tot AI-beveiliging, waardoor het digitale landschap voor bedrijven wereldwijd verandert.
