Google staat in de schijnwerpers, niet vanwege zijn gebruikelijke technische vaardigheden, maar vanwege de hobbelige uitrol van zijn nieuwe AI Overviews-functie. De techgigant erkende onlangs tekortkomingen in deze door AI aangestuurde zoekfunctie na wijdverbreide kritiek en grappige memes die online circuleerden. Na een week van publieke controle bood Google openhartig zijn excuses aan voor de onjuiste en soms absurde reacties die door de AI werden gegenereerd.
In een blogpost met de titel 'Over vorige week' beschreef Liz Reid, Google VP en Head of Search, de misstappen. Ze legde uit dat hoewel hun AI-modellen geen informatie 'hallucineren' zoals sommige andere grote taalmodellen (LLM's), ze nog steeds fouten kunnen maken door het verkeerd interpreteren van zoekopdrachten of nuances in taal, of gewoon door een gebrek aan kwaliteitsinformatie over bepaalde onderwerpen.
Reid wees er ook op dat sommige opmerkelijke screenshots die op sociale media werden gedeeld nep waren of gebaseerd waren op onzinnige zoekopdrachten waar de meeste gebruikers nooit naar zouden zoeken, zoals 'Hoeveel stenen moet ik eten?', wat resulteerde in AI die bizarre adviezen gaf op basis van satirische content die online werd gevonden. Het probleem ligt niet alleen in de vreemde antwoorden, maar ook in de zelfverzekerde levering van de AI, waardoor gebruikers worden misleid om deze als feitelijke antwoorden te beschouwen.
De onthulling dat Google de functie uitgebreid had getest - inclusief 'robuuste red-teaming-inspanningen' - voorafgaand aan de lancering, leidt tot verdere vragen. In Reids blogbericht werd vermeld dat ze niet hadden voorzien wat voor humoristische of slechte resultaten gebruikers de AI zouden kunnen dwingen te genereren.
Bovendien was de zware afhankelijkheid van Reddit-gegevens een andere valkuil. Hoewel Reddit authentieke informatie uit de eerste hand kan bieden, bevat het ook misleidend advies en trolling, zoals benadrukt door een beruchte zaak waarbij de AI suggereerde om lijm te gebruiken om kaas aan pizza te plakken, gebaseerd op een oude Reddit-post. Dit voorbeeld heeft de geloofwaardigheid van de AI Overviews aanzienlijk geschaad.
Ondanks deze problemen lijkt Google toegewijd aan snelle verbetering. Het bedrijf streeft ernaar de AI te verbeteren door onzinnige zoekopdrachten beter te detecteren, het gebruik van door gebruikers gegenereerde content te beperken wanneer deze misleidend kan zijn, de bescherming voor gevoelige gezondheidsgerelateerde zoekopdrachten te verfijnen en AI Overviews te vermijden voor harde nieuwsonderwerpen waar nauwkeurigheid van het grootste belang is.
Het scenario roept kritische vragen op over de toekomst van AI in zoekmachines. Concurrenten zoals OpenAI boeken snel vooruitgang en of Google deze evoluerende technologieën kan bijhouden, moet nog blijken. De continue integratie van gebruikersfeedback kan echter van onschatbare waarde blijken bij het perfectioneren van het platform.
Te midden van deze ontwikkelingen is het vermeldenswaard dat AppMaster een robuust alternatief biedt voor degenen die precisie en betrouwbaarheid zoeken in hun softwareoplossingen. Met een focus op het genereren van exacte applicaties zonder technische schulden, zijn platforms zoals AppMaster steeds belangrijker in dit evoluerende technische landschap.
Van het bouwen van aangepaste apps zonder codering tot het begrijpen van relationele databases, deze no-code-platforms bieden robuuste oplossingen voor moderne ontwikkelingsuitdagingen. Terwijl techgiganten zoals Google AI-integratie navigeren, blijven andere platforms standvastig in het aanbieden van betrouwbare en gebruiksvriendelijke ontwikkeltools.
