OpenAI stellt Superalignment-Zuschüsse in Höhe von 10 Millionen US-Dollar vor

Der Technologieriese OpenAI hat ein neuartiges Förderprogramm eingeführt, bei dem es um die Förderung von Einrichtungen geht, die sich für den sicheren Betrieb superintelligenter Systeme einsetzen. Diese Entwicklung erfolgt, da das Unternehmen das Aufkommen der Superintelligenz noch zu unseren Lebzeiten erwartet, was einen dringenden Bedarf an verstärkten Sicherheitsprotokollen auslöst, die solchen zukünftigen Fortschritten förderlich sind.

Angesichts der bevorstehenden transformativen KI-Ära stellt sich OpenAI diese bahnbrechenden zukünftigen Systeme vor, die mit der Fähigkeit ausgestattet sind, komplizierte, kreative Operationen durchzuführen, die sich dem menschlichen Verständnis entziehen könnten.

Derzeit konzentrieren sich die für KI-Systeme eingesetzten Sicherheitsmaßnahmen hauptsächlich auf die Ausrichtung – ein Prozess, bei dem das menschliche Feedback prädizierte Verstärkungslernen (RLHF) im Vordergrund steht. Diese Methode hängt von einer wichtigen menschlichen Aufsichtsrolle ab und könnte in einem Szenario, in dem superintelligente KI die Entwicklung und Ausführung hochentwickelter Aufgaben vorantreibt, möglicherweise ins Stocken geraten. Stellen Sie sich einen KI-Prototyp vor, der Millionen von Codezeilen generiert. Es wäre eine Herkulesaufgabe, wenn der Mensch die Gesamtheit systematisch beurteilen würde.

Das Unternehmen hat ein klares Dilemma hervorgehoben, das sofortige Aufmerksamkeit erfordert: Wie können Menschen KI-Systeme steuern und Vertrauen in sie aufbauen, die wesentlich intellektueller sind als sie selbst? OpenAI identifiziert dies als eines der drängendsten ungelösten technischen Probleme der Welt und behält eine positive Einstellung bei. Es betont, dass der Weg zur Lösungsfindung mit zahlreichen vielversprechenden Ansätzen gespickt ist, die nur zur Auswahl bereitstehen.

Die Kritik des Technologieunternehmens verstärkt nicht nur die bedeutenden Chancen, die sich der Forschungsgemeinschaft für maschinelles Lernen und einzelnen Forschern bieten, sondern lenkt auch die Aufmerksamkeit auf die unmittelbare Erforschung und mögliche Durchbrüche in diesem Bereich.

Um diese Forschungsvorhaben weiter zu stärken, hat OpenAI aktive Schritte bei der Einrichtung eines visionären Superalignment-Förderprogramms unternommen und 10 Millionen US-Dollar in seine Kassen gespült. Für akademische Labore, gemeinnützige Organisationen und einzelne Forscher werden Zuwendungen zwischen 100.000 und 2 Millionen US-Dollar erwartet. Darüber hinaus hat das Unternehmen auch einjährige Stipendien in Höhe von 150.000 US-Dollar für Doktoranden bereitgestellt und die Mittel in zwei Segmente aufgeteilt, um Forschungsgelder und Stipendien bereitzustellen.

In einer ermutigenden Offenbarung zeigt OpenAI eine aufgeschlossene Politik und begrüßt Bewerbungen von Forschern ohne vorherige Erfahrung in der Ausrichtung – ein Beweis für das Unternehmensethos der Inklusivität und der Förderung neuer Perspektiven.

Um eifrigen Bewerbern den Weg nach vorn zu ebnen, hält OpenAI die Bewerbungen bis zum 18. Februar offen, mit dem Ziel, die Bewerber innerhalb eines Monats nach Ablauf der Bewerbungsfrist wieder zu erreichen.

Die neue Förderinitiative basiert auf dem umfassenderen Superalignment-Projekt von OpenAI, das im Juli vorgestellt wurde. Im Rahmen dieses ehrgeizigen Projekts stellte das Unternehmen ein neues internes Team zusammen und verpflichtete sich, 20 % seiner Verarbeitungskapazität für die nächsten vier Jahre für die Bewältigung dieser Herausforderung bereitzustellen. Das übergeordnete Ziel: die Entwicklung eines superintelligenten Systems, das die Ausrichtungsforschungsfähigkeiten eines Menschen realistisch nachbildet.