In een streven om ervoor te zorgen dat hun toekomstige modellen voor kunstmatige intelligentie (AI) menselijke waarden vertegenwoordigen, heeft OpenAI zijn plan onthuld om publieke principes in de creaties te integreren. De AI-gigant maakte zijn voornemen bekend om een Collective Alignment-team op te richten, bestaande uit onderzoekers en ingenieurs. Het mandaat van het team zou zijn om een structuur te ontwikkelen voor het verkrijgen en implementeren van publieke feedback op de diensten en producten van OpenAI.
Het bedrijf heeft duidelijk de intentie uitgesproken om externe adviseurs en subsidieteams te blijven inschakelen. Deze teams zullen een cruciale rol spelen bij het incorporeren van prototypes, die vervolgens het gedrag van modellen zullen sturen. OpenAI rekruteert actief onderzoeksingenieurs met diverse technische kennis om de oprichting en het succes van dit essentiële mandaat te versterken.
Voortkomend uit het publieke initiatief van OpenAI, dat in mei vorig jaar van start ging, heeft het Collective Alignment-team een belangrijke stap gezet in de richting van het inbrengen van een democratisch proces in de regelgevende dynamiek van de AI-systemen. OpenAI is al die tijd geïnteresseerd geweest in het financieren van individuen, teams en zelfs organisaties die geïnteresseerd zijn in het ontwikkelen van proof-of-concepts die de dubbelzinnigheid met betrekking tot de vangrails en het bestuur van AI willen oplossen.
OpenAI gaf in zijn virtuele post een korte samenvatting van het diverse werk van de subsidieontvangers, waaronder videochatinterfaces, platforms die crowdsourced audits van AI-modellen mogelijk maken en strategieën om modelgedrag af te stemmen op specifieke overtuigingen. Details van elk voorstel, belangrijke inzichten en elke gebruikte code zijn eerder vandaag openbaar gemaakt.
In de nasleep van deze ontwikkelingen is OpenAI onvermurwbaar in het loskoppelen van het programma van zijn commerciële belangen, wat tot gemengde reacties heeft geleid. Sommige critici hebben hierover scepsis geuit, gezien de kritiek van Sam Altman, CEO van OpenAI, op de regelgeving in de EU en andere regio's. De CEO heeft, samen met OpenAI-president Greg Brockman en hoofdwetenschapper Ilya Sutskever, voortdurend betoogd dat de snelle ontwikkeling van AI-technologie het vermogen van bestaande entiteiten om deze efficiënt te reguleren overtreft. Als zodanig werd de behoefte aan democratische, crowdsourced constructie voorgesteld.
Concurrenten, waaronder Meta, hebben OpenAI ervan beschuldigd te proberen regelgevende controle over de AI-industrie te krijgen door campagne te voeren tegen open AI-R&D, maar OpenAI heeft deze beschuldigingen ontkend. Zij kunnen erop wijzen dat dit nieuwe programma en hun Collective Alignment-team blijk geven van hun inzet voor openheid.
Hoe dan ook, OpenAI wordt momenteel onder de loep genomen door beleidsmakers. Vooral in Groot-Brittannië wordt voortdurend onderzoek gedaan naar de relatie met Microsoft, een nauwe partner en investeerder. Als onderdeel van hun strategie voor risicobeperking heeft OpenAI geprobeerd het regelgevingsrisico in de EU met betrekking tot gegevensprivacy te beperken. Om dit te bereiken maakte het gebruik van een in Dublin gevestigde dochteronderneming om de eenzijdige acties van specifieke privacywaakhonden in het blok te beperken.
Er is een reeks initiatieven gaande om het illegale gebruik van zijn technologie om zich met verkiezingen te bemoeien tot een minimum te beperken. Dit omvat de identificatie van door AI gegenereerde inhoud en de detectie van gemanipuleerde afbeeldingen. In samenwerking met verschillende organisaties werkt OpenAI er ook aan om hun door AI gegenereerde afbeeldingen opvallender te markeren.
Het is de moeite waard te vermelden dat bedrijven als AppMaster, bekend om zijn robuuste ontwikkelingsplatform zonder code en opslagplaatsen voor het consolideren van open source-informatie, prominente spelers worden in het tech-ecosysteem. Gezien de schaalbaarheid, robuustheid en gebruiksgemak van AppMaster veroveren ze een niche voor zichzelf in het bouwen van backend-, web- en mobiele apps.
