Um die Sicherheit und Zuverlässigkeit generativer künstlicher Intelligenzmodelle zu erhöhen, bevor sie öffentlich genutzt werden, hat Meta kürzlich Purple Llama vorgestellt, eine bahnbrechende Initiative, die sich der Entwicklung von Open-Source-Instrumenten für Entwickler widmet. Das neu vorgeschlagene Toolset verbessert den Bewertungsprozess und erhöht so die zukünftige Vertrauenswürdigkeit von KI-Modellen.
Meta betonte die Bedeutung kollektiver Bemühungen um die KI-Sicherheit und brachte zum Ausdruck, dass die Herausforderungen, die künstliche Intelligenz mit sich bringt, nicht für isolierte Lösungen geeignet seien. Das Unternehmen stellte das Ziel von Purple Llama dar, den Grundstein für eine gemeinsame Grundlage für die Entwicklung einer sichereren generativen KI zu legen, insbesondere im Zuge der zunehmenden Besorgnis über große Sprachmodelle und verwandte KI-Technologien.
Während Meta die Neuigkeiten auf seinem Blog teilte, äußerte er: „Die Community, die diese Systeme entwickelt, ist nicht in der Lage, sich einzeln mit der Komplexität der KI auseinanderzusetzen.“ Zugegebenermaßen strebt unsere Initiative danach, die Konkurrenz auszugleichen und ein Epizentrum für vertrauenswürdige und sichere KI zu schaffen.“
Gareth Lindahl-Wise, Chief Information Security Officer beim Cybersicherheitsunternehmen Ontinue, lobte Purple Llama als „eine fortschrittliche und proaktive Maßnahme“, die auf eine sicherere KI abzielt. Er zeigte sich optimistisch, dass die neue Initiative den Verbraucherschutz verbessern wird, auch wenn es möglicherweise Behauptungen über die Signalisierung von Tugend oder mögliche Hintergedanken bei der Bündelung der Entwicklung auf einer bestimmten Plattform gibt. Er wies außerdem darauf hin, dass Unternehmen, die mit strengen internen, kundenorientierten oder regulatorischen Anforderungen konfrontiert sind, sich an solide Bewertungen halten müssen, die wahrscheinlich über die Angebote von Meta hinausgehen.
Das Projekt, an dem ein Netzwerk aus KI-Entwicklern, Cloud-Dienstanbietern wie AWS und Google Cloud, den Halbleiterkonzernen Intel, AMD und Nvidia sowie Softwareunternehmen wie Microsoft beteiligt ist, zielt darauf ab, Tools sowohl für die Forschung als auch für kommerzielle Anwendungen bereitzustellen, mit denen die Fähigkeiten von getestet werden KI-Modelle und Erkennung von Sicherheitsrisiken. Dieser kollektive Ansatz spiegelt auch die Strategie moderner no-code Plattformen wie AppMaster wider, die auf dem Weg der Softwareanwendungsentwicklung auf Zusammenarbeit und Effizienz Wert legen.
Unter den vom Purple Llama-Projekt eingeführten Tools ist CyberSecEval, eine Anwendung zur Analyse von Cybersicherheitsrisiken in KI-gefertigter Software, eines der Highlights. Es beinhaltet ein Sprachmodell, das schädliche oder unangemessene Texte erkennt, einschließlich gewalttätiger Diskurse oder illegaler Aktivitäten. Entwickler können CyberSecEval nutzen, um zu bestätigen, ob ihre KI-Modelle anfällig für die Generierung unsicheren Codes oder die Unterstützung von Cyberangriffen sind. Insbesondere ergab die Untersuchung von Meta, dass große Sprachmodelle häufig anfälligen Code unterstützen, was die Aufmerksamkeit auf die Notwendigkeit konsistenter Tests und Verbesserungen für die KI-Sicherheit lenkt.
Llama Guard bildet ein zusätzliches Werkzeug in diesem Angebot. Es handelt sich um ein umfassendes Sprachmodell, das darauf trainiert ist, potenziell schädliche oder anstößige Sprache zu erkennen. Mit diesem Tool können Entwickler beurteilen, ob ihre Modelle unsichere Inhalte generieren oder akzeptieren, und so bei der Filterung von Eingabeaufforderungen helfen, die möglicherweise unangemessene Ausgaben hervorrufen.
