Det er ingen hemmelighet at Google jobber for å ta i bruk kunstig intelligens i stadig flere av selskapets produkter. I fjor ble det kjent at Google testet AI-genererte sammendrag i Discover. Senere begynte selskapet å «eksperimentere» med AI-lagde overskrifter i samme flate, før det kort tid etter sluttet å omtale det som et eksperiment.
Nå har en omfattende gjennomgang fra The Verge avdekket et lignende – og for mange mer bekymringsfullt – grep i Google Søk. I testen byttes den opprinnelige overskriften i vanlige søkeresultater, ofte omtalt som «10 blå lenker», ut med en ny tittel som er generert av Google.
Et eksempel som trekkes fram, gjelder en artikkel fra The Verge som dukket opp i søk med en kort og tilsynelatende positiv overskrift som ga inntrykk av at teksten anbefalte et omstridt AI-verktøy. Den faktiske overskriften i artikkelen var derimot tydelig kritisk og formidlet i praksis det motsatte. Dermed kunne brukere som bare leser tittelen i søkeresultatet, lett få feil inntrykk av innholdet.
Dette kan raskt bli problematisk, særlig fordi mange er avhengige av søkemotorer for å finne presis og oppdatert informasjon om nyheter og aktuelle hendelser. The Verge opplyser at de har vært i kontakt med talspersoner for Google, som beskriver omfanget av testen som «smalt», og understreker at en bred lansering ikke er godkjent.
Det finnes også eksempler på at søkeresultater ser ut til å kutte bort tekst før eller etter en lang tankestrek i overskriften. Det kan føre til at viktige nyanser forsvinner, eller at meningen endres når bare deler av tittelen blir vist eller brukt som grunnlag for en alternativ formulering.
Google har samtidig forsøkt å dempe bekymringen. En talsperson skal ha sagt at selv om selskapet skulle gå videre med testen, vil den ikke bruke en generativ modell, og at Google ikke vil lage overskrifter med generativ AI. Det ble likevel ikke presisert hva slags metode som i så fall skal brukes i stedet. En annen talsperson beskriver testen som et forsøk på å identifisere hvilken tekst på en side som kan fungere som en nyttig og relevant tittel for brukerens søk.
Ifølge Google vil forsøket ikke nødvendigvis være begrenset til nyhetsartikler, men også kunne omfatte andre nettsider. Likevel er det nettopp nyheter som vekker størst uro, ettersom overskrifter i Google Søk kan bli sett av svært mange på kort tid, og dermed påvirke hvordan en sak oppfattes før den i det hele tatt blir lest.
Skribenten bak omtalen peker på at det ikke er observert tilfeller der overskrifter fra Android Police er blitt byttet ut på denne måten, men understreker at det ikke betyr at det ikke skjer. Det kan være en test som er begrenset til enkelte regioner, og som senere kan utvides til flere deler av verden.
Selv om det er håp om at dette ikke går videre enn teststadiet, peker erfaringene fra endringene i Google Discover på at slike «eksperimenter» kan bli permanente raskere enn mange forventer.
