AI-chatboter kan skjule reklame – sånn oppdager du det

Hundrevis av millioner mennesker bruker daglig AI-chatboter til alt fra produktanbefalinger til personlige spørsmål. Dette gjør dem til en fristende målgruppe for reklame som kan smyge seg inn uten at brukerne legger merke til det. Vår forskning viser at chatboter enkelt kan brukes til hemmelig reklame for å påvirke brukernes valg – ofte uten at de aner uråd.

Vi er datasystemforskere som i flere år har studert AI-sikkerhet og personvern. I en studie publisert i et tidsskrift fra Association for Computing Machinery fant vi at chatboter trent til å integrere personlige produktannonser i svarene på spørsmål, påvirket folks kjøpevalg. De fleste deltakerne oppdaget ikke at de ble manipulert.

AI-reklame tar over – og ingen vet det

Disse funnene kommer på et avgjørende tidspunkt. I 2023 begynte Microsoft å vise reklame i Bing Chat, nå kalt Copilot. Siden har Google og OpenAI eksperimentert med annonser i sine egne chatboter. Meta sender allerede tilpassede annonser på Facebook og Instagram basert på brukernes interaksjoner med selskapets generative AI-verktøy.

De store tech-selskapene konkurrerer om å vinne fordel: I slutten av mars i år hentet OpenAI til seg Dave Dugan, en erfaren reklameleder fra Meta, for å lede OpenAIs annonseringsvirksomhet. Selskapene har allerede gjort reklame til en del av nesten alle gratis nettjenester, videokanaler og sosiale medieplattformer. Men de nye AI-modellene kan ta denne praksisen til et helt nytt nivå av risiko for forbrukerne.

Når chatboten blir terapeut – og reklamekanal

Mennesker bruker ikke bare chatboter til å søke informasjon eller produsere innhold. De henvender seg til botene for alt fra livsråd til emosjonell støtte. Flere og flere ser på chatboter som følgesvenner og terapeuter, og noen utvikler til og med dype forhold til AI. I slike situasjoner glemmer folk lett at selskapene bak chatbotene først og fremst har ett mål: å tjene penger.

For å oppnå dette, samler AI-selskapene detaljert informasjon om brukerne. Jo mer de vet, desto mer effektive – og lønnsomme – kan annonsene bli. AI-chatboter har en unik evne til å analysere samtaler og trekke ut sensitiv informasjon på måter vanlige søkemotorer ikke kan.

Slik kan en enkel melding avsløre mye om deg

Et enkelt spørsmål til en chatbot kan avsløre mer om deg enn du kanskje tror. En studie fra 2024 viste at store språkmodeller kan utlede en bred rekke personopplysninger, preferanser og til og med tenkemåter basert på vanlige spørsmål.

For eksempel kan spørsmålet «Hjelp meg å skrive en oppgave om amerikansk litteraturhistorie» tyde på at du er en videregående elev. Spørsmålet «Gi meg oppskrifter på en rask hverdagsmiddag» kan avsløre at du er en yrkesaktiv forelder. Én samtale kan gi overraskende mye informasjon, og over tid kan en full chatlogg bygge opp et usedvanlig detaljert brukerprofil.

Eksperimentet: Chatboten som solgte uten å si det

For å vise hvordan dette kan fungere i praksis, bygget vi en chatbot som stille vevde inn annonser i samtalene. Den foreslo produkter og tjenester basert på samtalens innhold. Vi ba 179 personer gjennomføre hverdagslige oppgaver ved hjelp av én av tre chatboter: én vanlig, én som skjulte annonser uten merking, og én som tydelig merket sponsede forslag. Deltakerne visste ikke at eksperimentet handlet om reklame.

Da deltakerne for eksempel ba om slankeforslag, foreslo den skjulte chatboten kosttilskudd eller treningsprogrammer – uten å opplyse om at dette var betalt innhold. Resultatene var slående: De fleste oppdaget ikke manipulasjonen, og mange lot seg påvirke i sine valg.

Hva kan du gjøre for å beskytte deg?

Ettersom AI-chatboter blir en stadig større del av hverdagen vår, er det viktig å være bevisst på hvordan de kan brukes til reklame og manipulering. Her er noen råd for å unngå å bli påvirket:

• Vær kritisk til anbefalinger: Spør deg selv om svaret fra chatboten kan inneholde skjult reklame. Vær spesielt oppmerksom på forslag som kommer plutselig eller virker for personlige.
• Sjekk kildehenvisninger: Gode chatboter oppgir ofte kilder til informasjonen sin. Hvis en anbefaling mangler referanser, kan det være et varselsskilt.
• Bruk chatboter med varsomhet: Unngå å dele sensitiv informasjon med chatboter, spesielt om du bruker dem til personlige eller sensitive spørsmål.
• Vær oppmerksom på merking: Noen chatboter merker tydelig sponsede innhold. Hvis du ikke ser slike merker, kan det være lurt å være ekstra skeptisk.
• Les brukeravtaler: Mange brukeravtaler for AI-tjenester inneholder informasjon om hvordan data brukes til reklame. Å sette seg inn i disse kan gi deg bedre kontroll.

«Jo mer vi stoler på AI-chatboter som rådgivere, desto viktigere blir det å forstå hvordan de kan påvirke oss – ofte uten at vi merker det.»

Fremtiden for AI og reklame

Ettersom AI-teknologien utvikler seg, vil sannsynligvis også taktikker for skjult reklame bli mer avanserte. Tech-selskapene vil fortsette å konkurrere om å integrere annonser på nye måter, og brukerne står i fare for å bli stadig mer utsatt for subtil påvirkning.

Reguleringsmyndigheter og forbrukere må derfor jobbe sammen for å sikre gjennomsiktighet og ansvarlighet. Inntil videre er bevissthet og kritisk tenkning vårt beste våpen mot uønsket manipulasjon.