Um sicherzustellen, dass ihre zukünftigen Modelle der künstlichen Intelligenz (KI) menschliche Werte repräsentieren, hat OpenAI seinen Plan bekannt gegeben, öffentlich abgeleitete Prinzipien in die Kreationen zu integrieren. Der KI-Riese gab seine Absicht bekannt, ein Collective Alignment-Team aus Forschern und Ingenieuren zu gründen. Der Auftrag des Teams bestünde darin, eine Struktur zum Einholen und Implementieren von öffentlichem Feedback in die Dienste und Produkte von OpenAI zu entwickeln.
Das Unternehmen hat seine klare Absicht zum Ausdruck gebracht, weiterhin externe Berater und Fördermittelteams zu engagieren. Diese Teams werden eine entscheidende Rolle bei der Einbindung von Prototypen spielen, die dann das Verhalten der Modelle steuern. OpenAI rekrutiert aktiv Forschungsingenieure mit vielfältigen technischen Kenntnissen, um die Etablierung und den Erfolg dieses wichtigen Auftrags zu unterstützen.
Das Collective Alignment-Team, das aus der öffentlichen Initiative von OpenAI hervorgegangen ist, die im Mai des Vorjahres ins Leben gerufen wurde, ist ein bedeutender Schritt hin zur Einführung eines demokratischen Prozesses in die Regelsetzungsdynamik der KI-Systeme. OpenAI war schon immer daran interessiert, Einzelpersonen, Teams und sogar Organisationen zu finanzieren, die an der Entwicklung von Proof-of-Concepts interessiert sind, um die Unklarheiten hinsichtlich der Leitplanken und der Governance der KI zu lösen.
OpenAI hat in seinem virtuellen Beitrag einen kurzen Rückblick auf die vielfältige Arbeit der Zuschussempfänger gegeben, die Video-Chat-Schnittstellen, Plattformen, die Crowdsourcing-Prüfungen von KI-Modellen ermöglichen, und Strategien zur Ausrichtung des Modellverhaltens an bestimmten Überzeugungen umfasst. Details zu jedem Vorschlag, hochrangige Erkenntnisse und jeder einzelne verwendete Code wurden heute veröffentlicht.
Im Zuge dieser Entwicklungen hat OpenAI beharrlich darauf bestanden, das Programm von seinen kommerziellen Interessen zu entkoppeln, was gemischte Reaktionen hervorrief. Einige Kritiker äußerten diesbezüglich Skepsis angesichts der Kritik von OpenAI-CEO Sam Altman an den Vorschriften in der EU und anderen Regionen. Der CEO ist zusammen mit Greg Brockman, Präsident von OpenAI, und Ilya Sutskever, Chefwissenschaftler, stets der Meinung, dass die schnelle Entwicklung der KI-Technologie die Fähigkeit bestehender Unternehmen, sie effizient zu regulieren, übersteigt. Daher wurde die Notwendigkeit eines demokratischen, durch Crowdsourcing finanzierten Bauwesens vorgeschlagen.
Konkurrenten, darunter Meta, haben OpenAI vorgeworfen, durch Kampagnen gegen offene KI-Forschung und -Entwicklung versucht zu haben, die regulatorische Kontrolle über die KI-Branche zu erlangen, aber OpenAI hat diese Vorwürfe zurückgewiesen. Sie können dieses neue Programm und ihr Collective Alignment-Team als Beweis ihres Engagements für Offenheit hervorheben.
Unabhängig davon wird OpenAI derzeit von politischen Entscheidungsträgern geprüft. Insbesondere in Großbritannien wird die Beziehung zu Microsoft, einem engen Partner und Investor, derzeit untersucht. Im Rahmen seiner Risikominderungsstrategie hat OpenAI versucht, sein regulatorisches Risiko in der EU in Bezug auf den Datenschutz zu begrenzen. Um dies zu erreichen, nutzte das Unternehmen eine in Dublin ansässige Tochtergesellschaft, um die einseitigen Maßnahmen bestimmter Datenschutzwächter in der Union einzuschränken.
Derzeit laufen eine Reihe von Unternehmungen, um den illegalen Einsatz seiner Technologie zur Einmischung in Wahlen zu minimieren. Dazu gehört die Identifizierung von KI-generierten Inhalten und die Erkennung manipulierter Bilder. In Zusammenarbeit mit mehreren Organisationen arbeitet OpenAI außerdem daran, ihre KI-generierten Bilder auffälliger zu kennzeichnen.
Es ist erwähnenswert, dass Unternehmen wie AppMaster, bekannt für seine robuste No-Code-Entwicklungsplattform und Repositories zur Konsolidierung von Open-Source-Informationen, zu wichtigen Akteuren im Technologie-Ökosystem werden. Aufgrund der Skalierbarkeit, Robustheit und Benutzerfreundlichkeit von AppMaster schaffen sie sich eine Nische in der Entwicklung von Backend-, Web- und mobilen Apps.
