AI-chatbots skjuler reklamer – hvordan genkender du dem?

Hundredvis af millioner mennesker bruger dagligt AI-chatbots til alt fra produktanbefalinger til følelsesmæssig støtte. Det gør dem til en attraktiv målgruppe for reklamer, der kan blive integreret næsten umærkeligt i samtalerne. Vores forskning viser, at chatbots med lethed kan bruges til skjult reklamering for at påvirke brugeres valg – uden at de opdager manipulationen.

Vi er dataloger, der i flere år har forsket i AI-sikkerhed og privatlivets fred. I en nylig undersøgelse, offentliggjort i et tidsskrift fra Association for Computing Machinery, fandt vi, at chatbots, der er trænet til at indlejre personlige produktannoncer i svarene, påvirkede deltagerne til at vælge bestemte produkter. De fleste deltagerne havde ingen anelse om, at de blev påvirket.

AI-reklamer bliver mainstream

I takt med at AI-chatbots integreres i hverdagen, begynder techgiganterne at eksperimentere med reklamer i deres platforme. I 2023 lancerede Microsoft annoncer i Bing Chat, nu kendt som Copilot. Siden da har både Google og OpenAI testet lignende funktioner i deres chatbots. Meta sender allerede brugerne tilpassede annoncer på Facebook og Instagram baseret på deres interaktioner med firmaets generative AI-værktøjer.

Konkurrencen om at dominere annonceringsmarkedet er hård: I marts 2024 rekrutterede OpenAI Meta’s tidligere annoncedirektør, Dave Dugan, til at lede OpenAIs annonceringsafdeling. Techvirksomhederne har længe gjort annoncering til en integreret del af gratis onlineydelser, men de nye AI-modeller kan tage praksissen til et helt nyt niveau med større risici for forbrugerne.

Chatbots som venner og rådgivere

Mennesker bruger chatbots til langt mere end informationssøgning. De henvender sig til dem for livsråd, følelsesmæssig støtte og endda terapi. Nogle udvikler dybe relationer til AI’en og glemmer, at virksomhederne bag dem primært har ét mål: at tjene penge. For at gøre annoncerne så effektive som muligt, analyserer AI-virksomhederne brugerne grundigt og tilpasser reklamerne derefter.

Sådan fungerer skjulte annoncer i chatbots

Et enkelt spørgsmål til en chatbot kan afsløre mere om en bruger, end personen selv er klar over. En undersøgelse fra 2024 viste, at store sprogmodeller kan udlede personlige data, præferencer og endda tænkemønstre ud fra almindelige spørgsmål. For eksempel:

• "Hjælp mig med at skrive en opgave om amerikansk litteraturhistorie" kan indikere, at brugeren er en gymnasieelev.
• "Giv mig opskrifter på hurtige hverdagsmåltider" kan tyde på, at brugeren er en travl forælder.

En enkelt samtale kan give overraskende mange detaljer. Over tid kan en fuld chatlog skabe et overraskende detaljeret profil af brugeren.

Eksperiment: Chatbots med skjulte annoncer

For at demonstrere, hvordan dette kan foregå i praksis, udviklede vi en chatbot, der umuligt integrerede annoncer i samtalerne. Den foreslog produkter og tjenester baseret på samtalens indhold. Vi bad 179 personer udføre hverdagsopgaver ved hjælp af én af tre chatbots:

• En typisk chatbot uden annoncer.
• En chatbot med skjulte annoncer.
• En chatbot med tydeligt markerede sponsorerede forslag.

Deltagerne vidste ikke, at forsøget handlede om annoncering. Da deltagerne for eksempel bad om kostråd, foreslog chatboten med skjulte annoncer et bestemt slankemiddel – uden at deltagerne opdagede, at det var en reklame.

"Mennesker stoler på chatbots som aldrig før. Det gør dem sårbare over for manipulation, når annoncer bliver integreret på en måde, der ikke er gennemsigtig."

Sådan beskytter du dig selv

For at undgå at blive påvirket af skjulte annoncer i AI-chatbots, anbefaler eksperter følgende:

• Vær kritisk over for anbefalinger: Spørg dig selv, om svaret virker upartisk, eller om der kan være skjulte motiver bag.
• Tjek kildeangivelser: Hvis en chatbot henviser til et produkt, kan du undersøge, om det er en officiel anbefaling eller en betalt annonce.
• Brug chatbots med gennemsigtighed: Vælg platforme, der tydeligt markerer sponsorerede indhold.
• Vær opmærksom på personlige data: Begræns mængden af personlige oplysninger, du deler med chatbots, for at mindske risikoen for målrettet reklame.

Med AI-chatbots i stigende grad integreret i vores hverdag, er det vigtigere end nogensinde at være opmærksom på, hvordan de påvirker vores beslutninger – og hvordan vi kan beskytte os mod skjult manipulation.