OpenAI onthult Superalignment-subsidies van $ 10 miljoen

Technologiegigant OpenAI heeft een nieuw subsidieprogramma ingeluid dat is opgebouwd rond verheffende entiteiten die zich bezighouden met het waarborgen van de veilige werking van superintelligente systemen. Deze ontwikkeling komt omdat het bedrijf anticipeert op de komst van superintelligentie tijdens ons leven, waardoor er een dringende behoefte ontstaat aan versterkte veiligheidsprotocollen die bevorderlijk zijn voor dergelijke toekomstige vooruitgang.

Nu dit transformerende AI-tijdperk opdoemt, stelt OpenAI zich deze baanbrekende toekomstige systemen voor die begiftigd zijn met het vermogen om ingewikkelde, creatieve operaties uit te voeren die het menselijk begrip misschien ontgaan.

Momenteel draaien de veiligheidsmaatregelen die voor AI-systemen worden gebruikt vooral om afstemming – een proces dat de nadruk legt op op menselijke feedback gebaseerde versterkingsleren (RLHF). Deze methode is afhankelijk van een aanzienlijke menselijke toezichthoudende rol en zou mogelijk kunnen falen in een scenario waarin superintelligente AI de ontwikkeling en uitvoering van zeer geavanceerde taken stimuleert. Denk eens aan een AI-prototype dat miljoenen coderegels genereert; het zou enorm zijn als mensen het geheel systematisch zouden beoordelen.

Het bedrijf heeft een duidelijk dilemma benadrukt dat onmiddellijke aandacht vereist: hoe kunnen mensen vertrouwen stellen in AI-systemen die veel intellectueler zijn dan zijzelf? OpenAI identificeert dit als een van 's werelds meest dringende onopgeloste technische raadsels en handhaaft een positieve kijk, waarbij het benadrukt dat het pad naar het ontdekken van oplossingen bezaaid is met talloze veelbelovende benaderingen, rijp voor het oprapen.

De kritiek van het technologiebedrijf versterkt niet alleen de aanzienlijke kansen voor de onderzoeksgemeenschap op het gebied van machine learning en individuele onderzoekers, maar vestigt ook de aandacht op onmiddellijke verkenning en mogelijke doorbraken in deze sector.

Om deze onderzoeksactiviteiten verder te versterken heeft OpenAI actieve stappen gezet in de opzet van een visionair Superalignment-subsidieprogramma, waarbij $10 miljoen in de kas is geïnjecteerd. Er worden toewijzingen verwacht van $100.000 tot $2 miljoen voor academische laboratoria, non-profitorganisaties en individuele onderzoekers. Daarnaast heeft het bedrijf ook eenjarige beurzen van $150.000 gereserveerd voor afgestudeerde wetenschappers, waarbij de fondsen in twee segmenten worden verdeeld om tegemoet te komen aan onderzoeksfinanciering en stipendia.

In een bemoedigende onthulling toont OpenAI een ruimdenkend beleid, waarbij aanvragen worden verwelkomd van onderzoekers zonder eerdere ervaring op het gebied van afstemming - een bewijs van het ethos van het bedrijf van inclusiviteit en het aanmoedigen van nieuwe perspectieven.

OpenAI baant de weg voor enthousiaste aanvragers en houdt aanvragen open tot 18 februari, met als doel binnen een maand na de sluitingsdeadline van de aanvraag terug te keren naar aanvragers.

Het nieuwe subsidie-initiatief komt voort uit het bredere Superalignment Project van OpenAI dat in juli werd onthuld. Als onderdeel van dit ambitieuze project heeft het bedrijf een nieuw intern team samengesteld, dat de komende vier jaar 20% van zijn verwerkingscapaciteit heeft toegezegd om deze uitdaging aan te pakken. Het overkoepelende doel: het ontwikkelen van een superintelligent systeem dat op realistische wijze het onderzoeksvermogen van de mens repliceert.