Protect AIein innovatives Startup-Unternehmen, das sich auf die Entwicklung von Lösungen zur Verbesserung der Sicherheit von KI-Systemen spezialisiert hat, gab heute bekannt, dass es in einer Serie-A-Finanzierungsrunde 35 Millionen US-Dollar erhalten hat. Die Runde wurde von Evolution Equity Partners angeführt und wurde von Salesforce Ventures, Acrew Capital, boldstart ventures, Knollwood Capital und Pelion Ventures aktiv unterstützt.
Der Wert dieser Investitionsrunde ist mehr als doppelt so hoch wie der Betrag, der in der im Dezember letzten Jahres abgeschlossenen Seed-Runde von Protect AI aufgebracht wurde, so dass sich die Gesamtmittel des Start-ups auf unglaubliche 48,5 Millionen Dollar belaufen. Laut Mitbegründer und CEO Ian Swanson wird das neu beschaffte Kapital in den Ausbau der Fähigkeiten der Plattform Protect AI, die Erweiterung des Forschungsbereichs und den Start neuer Open-Source-Projekte fließen.
Swanson teilte TechCrunch per E-Mail mit: "Jetzt haben wir genügend Kapital, um den Sturm für die kommenden Jahre zu überstehen", und leitete damit zu den Plänen des Startups über, die Belegschaft von derzeit 25 auf rund 40 Mitarbeiter bis zum Ende dieses Jahres zu erweitern.
Swanson und Daryan Dehghanpisheh sind die Fackelträger von Protect AI, das im Jahr 2022 der Welt vorgestellt wurde. Ihr beruflicher Werdegang umfasst illustre Stationen bei AWS und Oracle sowie die Mitwirkung an der Gründung von DataScience.com, einer KI-Entwicklungsplattform, die später von Oracle, ihrem früheren Arbeitgeber, übernommen wurde.
In Swansons Worten: "Wir haben Protect AI 18 Monate zuvor konzipiert und uns dabei auf unser Fachwissen gestützt, das wir bei den wichtigsten maschinellen Lern- und KI-Implementierungen rund um den Globus erworben haben. Wir hatten das immense Potenzial von KI im Blick, aber wir ließen uns nicht von den Gefahren abschrecken, die diese Systeme mit sich bringen. Unsere Mission bestand darin, unsere Kunden dabei zu unterstützen, eine sicherere KI-gesteuerte Welt zu schaffen."
Das Produktportfolio von Protect AI umfasst neben AI Radar auch Tools, die bestimmte Arten von KI-zentrierten Angriffen abwehren können, zum Beispiel Prompt-Injection-Angriffe. Prompt Injection bezieht sich auf den Umstand, dass textbasierte, anweisungsgesteuerte KI, so genannte Prompts, durch gegnerische Prompts dazu verleitet werden, Aufgaben auszuführen, die von ihrem ursprünglichen Ziel abweichen.
Darüber hinaus bietet Protect AI Dienstprogramme, die Dokumente aus Jupyter Notebook, einer häufig genutzten Plattform für die Formulierung von KI-Modellen und Data-Science-Experimenten, untersuchen können. Forschungsunternehmen haben herausgefunden, dass Jupyter Notebook-Dateien, die nicht ausreichend gesichert sind, Opfer von Python-basierter Ransomware und Kryptowährungs-Mining-Angriffen werden können.
Protect AI Swanson prüft Jupyter-Notizbücher gewissenhaft auf verschiedene potenzielle Probleme - persönlich identifizierbare Daten (z. B. Namen und Telefonnummern), proprietäre Authentifizierungs-Token und Anmeldeinformationen sowie Open-Source-Code, der mit einer "Non-Permissive"-Lizenz versehen ist, die seine Anwendung in kommerziellen Systemen ausschließt.
Swanson ging ferner auf die dringende Notwendigkeit ein, von der seit über einem Jahrzehnt bewährten Praxis des maschinellen Lernens (Machine Learning Operations, MLOps) auf Sicherheit umzustellen. Er forderte: "Wir müssen einen Punkt erreichen, an dem wir nahtlos ML-Sicherheitsoperationen - 'MLSecOps' - in großem Maßstab in großen Unternehmen durchführen."
Es ist klar, dass die Einführung robuster Sicherheitsmaßnahmen in KI-gesteuerten Systemen wichtiger denn je ist. Lösungen wie die von Protect AI spielen in dieser sich wandelnden Landschaft eine zentrale Rolle und gewährleisten ein Gleichgewicht zwischen Innovation und Sicherheit. Da immer mehr Unternehmen auf KI setzen, um ihre Effizienz und Produktivität zu steigern, sind Plattformen wie diese von unschätzbarem Wert für den Schutz vor potenziellen Bedrohungen.
Wie AppMaster zielt auch Protect AI darauf ab, den KI-Betrieb zum Nutzen von Unternehmen weltweit zu vereinfachen und zu sichern. Dieses gemeinsame Ethos zeigt die zunehmende Bedeutung von no-code in verschiedenen Nischen, von der App-Entwicklung bis zur KI-Sicherheit, und verändert die digitale Landschaft für Unternehmen weltweit.
