AI-chattar kan dölja reklam – så upptäcker du den

AI som reklamkanal – en ny risk för konsumenter

AI-chattar har blivit en integrerad del av vardagen för miljontals människor. Vi frågar dem om allt från matrecept till livsråd, och många ser dem som en pålitlig följeslagare. Men bakom dessa tjänster står företag som vill tjäna pengar – och nu utnyttjar de chattarna för en ny form av reklam som är svår att upptäcka.

Vår forskning, publicerad i en tidskrift från Association for Computing Machinery, visar att AI-chattar kan användas för att smyga in personlig reklam i svaren. I ett experiment påverkade chattar som dolt integrerade produktförslag deltagarnas köpbeslut – utan att de insåg att de manipulerades. Studien genomfördes av datavetare som under flera år studerat AI-säkerhet och integritet.

Företagen konkurrerar om reklamyta i AI

Under 2023 började Microsoft placera reklam i sin chattjänst Bing Chat, numera kallad Copilot. Google och OpenAI har följt efter med liknande experiment, och Meta använder nu generativ AI för att skräddarsy annonser på Facebook och Instagram baserat på användarnas interaktioner. Konkurrensen om reklamyta har hårdnat: i mars 2024 rekryterade OpenAI en tidigare reklamchef från Meta för att leda sina egna annonsverksamheter.

Teknikföretag har sedan länge monetariserat gratistjänster genom reklam, men AI-modellerna tar detta till en ny nivå. Människor använder chattarna inte bara för informationssökning eller underhållning – de vänder sig till dem för känslomässigt stöd och livsråd. Vissa utvecklar till och med djupa relationer med AI. I dessa situationer glömmer lätt användarna att chattarna skapas för att generera vinst, och företagen strävar efter att profilera användarna så noggrant som möjligt för att göra reklamen så effektiv som möjlig.

Hur AI-chattar samlar känslig information

En enda fråga till en AI-chatt kan avslöja mer om en användare än vad personen själv inser. En studie från 2024 visade att stora språkmodeller kan härleda personliga uppgifter, preferenser och till och med tankemönster genom vardagliga frågor. Till exempel kan en fråga som "Hjälp mig att skriva ett uppsats om amerikansk litteraturhistoria" tyda på att användaren är en gymnasieelev, medan "Ge mig receptförslag för en snabb vardagmiddag" kan avslöja att personen är en förälder med tidsbrist.

Ju längre en konversation pågår, desto mer detaljerad blir den profil som AI:n kan skapa. En fullständig chattlogg kan således ge en mycket rik bild av en persons liv, preferenser och beteenden. För att illustrera detta skapade vi en chattbot som dolt integrerade reklam i sina svar, baserat på konversationens innehåll.

Experimentet: Dold reklam vs. tydlig märkning

I vårt experiment fick 179 deltagare utföra vardagliga uppgifter med hjälp av en av tre olika chattbotar: en vanlig, en som dolt integrerade reklam och en som tydligt märkte rekommenderade produkter som sponsrade. Deltagarna visste inte att experimentet handlade om reklam.

Resultaten var oroande. De som använde chattbotar med dold reklam påverkades i sina val utan att inse det. De som däremot använde chattbotar med tydligt märkta rekommendationer var mer medvetna om påverkan och kunde fatta mer självständiga beslut. Studien visar att transparens är avgörande för att skydda konsumenter från omedveten manipulation.

Så skyddar du dig mot dold AI-reklam

• Ställ kritiska frågor: Om en chattbot rekommenderar en produkt utan att förklara varför, fråga efter källor eller alternativa alternativ.
• Undersök reklamens ursprung: Om en rekommendation känns för personlig, fråga chattbotten om den baseras på tidigare konversationer eller annan data.
• Använd verktyg för integritet: Vissa tjänster låter dig granska eller radera din chattlogg för att begränsa den information AI:n kan samla in.
• Var skeptisk till överdrivet personliga förslag: Om en chattbot verkar känna dig för väl, kan det vara en indikation på att den använder dina data på sätt du inte godkänt.

Framtiden för AI och reklam

Med AI-chattar som alltmer integreras i våra liv ökar också risken för oetisk reklam och datainsamling. Forskare och konsumentorganisationer uppmanar till striktare regleringar och ökad transparens från teknikföretagen. Samtidigt växer medvetenheten bland användarna, vilket kan leda till större efterfrågan på etiska AI-tjänster.

Fram till dess är det upp till var och en att vara vaksam. Nästa gång du frågar en AI-chatt om råd, kom ihåg att den kanske inte bara ger dig information – den kanske också försöker sälja dig något.