Waarom kan automatisch aanvullen van een Google-zoekopdracht schadelijk zijn?

Wanneer je in Google begint met een zoekterm intypen, verschijnen er een aantal automatische aanvullingen onder de zoekbalk. Zo kun je met één muisklik een hele zin in je zoekbalk laten verschijnen. Maar wat nu als de gesuggereerde zoekterm niet juist is? Volgens Djoerd Hiemstra kan dit zelfs schadelijk zijn.

Automatisch aanvullen op Google

Hiemstra is een van de ontwerpers van Searsia, een nieuwe zoekmachine ontwikkeld door de Universiteit van Twente. Een van de redenen waarom Searsia werd ontworpen, is vanwege de manier waarop Google automatische aanvullingen doet. Dit doet Google namelijk op basis van eerdere zoekopdrachten van mensen. Volgens Djoerd Hiemstra kan deze manier van automatisch aanvullen op twee manieren schadelijk zijn: 1) de resultaten kunnen aanstootgevend of schadelijk zijn, en 2) er kan sprake zijn van een destructieve feedbackloop.

Aanstootgevende resultaten

Ten eerste zijn de automatische aanvullingen volgens Hiemstra soms aanstootgevend. Zo zouden de suggesties gebruikers op nepnieuws kunnen wijzen, zelfs als ze daar niet naar op zoek zijn. Hiemstra noemt als voorbeeld dat de zoekopdracht ‘Michelle Obama is a man’ verschijnt wanneer iemand simpelweg zoekt op de naam ‘Michelle Obama’. Zeker nu er soms mogelijkheden zijn voor bots om dit soort zoekopdrachten heel vaak in te voeren, is er een groter risico op verspreiding van dit soort onware geruchten.

Destructieve feedbackloop

Ten tweede kan er sprake zijn van een destructieve feedbackloop. Dit werkt als volgt. Aanbevelingen die niet moreel acceptabel zijn, worden niet alleen geactiveerd door eerdere zoekacties, maar worden ook versterkt door de zoekmachine en zijn gebruikers. Als het algoritme van een zoekmachine zo’n suggestie geeft, zijn mensen namelijk geneigd om daarop te klikken, ook al is dat alleen omdat ze verbaasd zijn. De zoekmachine leert dan niet dat dit eigenlijk een foute suggestie is. Zodra een systeem heeft bepaald dat sommige zoekopdrachten aanbevolen zijn, worden ze vaker geselecteerd door gebruikers, waardoor ze ook in de toekomst vaker als suggestie worden gegeven.

Op inhoud gebaseerde auto-aanvullen

De aanbevelingen van Google zijn onder te verdelen in collaboratieve aanbevelingen en op inhoud gebaseerde aanbevelingen. Collaboratieve aanbevelingen zijn gebaseerd op wat gebruikers gemeen hebben: “Mensen die een prefix intypten, zochten vaak naar deze term.” Bij op inhoud gebaseerde auto-aanvullingen spelen daarentegen gelijkenissen in de inhoud een grote rol. Het uitgangspunt is dan “Webpagina’s die dit prefix bevatten, gaan vaak over dit onderwerp.” Er is nu onderzoek gaande of deze manier van automatisch aanvullen de bestaande methode met suggesties op basis van het gedrag van gebruikers kan vervangen.