Matleveringstjenesten DoorDash krever vanligvis bevis før de utsteder refusjon for feil i bestillinger, for eksempel manglende varer, forsinket levering eller feilaktig tilberedt mat. Men i en tid der kunstig intelligens (AI) blir stadig mer avansert, viser en nylig viral video hvordan en kunde klarte å lure systemet – og selskapet – til å gi henne refusjon.
Kunden brukte AI til å manipulere bilder av maten
En bruker på TikTok, kjent som Starr (@mi5under5t00d), delte en video der hun viste hvordan hun fikk refusjon på en ordre ved hjelp av AI-redigerte bilder. I videoen legger hun frem tre bilder:
- Et ekte bilde av hennes ordre med kyllingvinger, der en av vingene har et bitt av.
- Det samme bildet, men redigert med AI for å få kyllingen til å se rå ut.
- Et skjermbilde fra DoorDash-appen som viser at hun fikk $39,24 i kreditt til fremtidige bestillinger.
Teksten over videoen lyder: «Shout out to ChatGPT». Videoen har fått over 4,4 millioner visninger og tusenvis av kommentarer, inkludert en fra DoorDash selv.
Reaksjoner på sosiale medier
Mens Starrs video kan virke som en morsom måte å få oppreisning på, var ikke mange enige i hennes fremgangsmåte. Flere kommentatorer uttrykte sterk misnøye:
«Dette kan få folk til å miste jobben»
En kommentator
Andre var tydelige på at slike handlinger kan ramme små bedrifter hardt:
«Dette er egentlig ekkelt. Hvorfor ville du utnytte små bedrifter?!»
En annen kommentator
DoorDash selv svarte med en kommentar som også ble svært populær:
«Oops, burde ha blokkert oss!»
DoorDash
Starr repliserte: «Hvorfor skulle jeg gjøre det når kyllingen min var rå?»
I videobeskrivelsen forklarte Starr at hun opprinnelig hadde problemer med bestillingen sin, inkludert to manglende varer og at kyllingen var kald da den ankom. Det var imidlertid påstanden om at kyllingen var rå – noe som er en mye mer alvorlig sak – som viste seg å være oppdiktet.
DoorDashs utfordringer med AI og svindel
DoorDash har rutiner for å beskytte restauranter mot svindel, blant annet ved å flagge brukere som hyppig ber om refusjon og manuelt gjennomgå slike krav. Likevel viser denne hendelsen at selv manuell gjennomgang kan bli lurt av svært overbevisende AI-genererte bilder.
Selskapet bruker imidlertid selv AI på flere områder, blant annet i et nylig lansert sett med AI-verktøy for restauranter. Et av de mer omdiskuterte bruksområdene er redigering av matbilder. DoorDash forklarer på sin FAQ-side for bilder at de tillater redigering av bilder, men at de forbeholder seg retten til å fjerne bilder som er villedende eller brudd på retningslinjene.
Kan AI føre til mer svindel?
Eksperter advarer om at utviklingen av AI kan føre til økt forekomst av svindel innen matlevering og andre tjenester. Selskaper som DoorDash må derfor stadig oppdatere sine sikkerhetstiltak for å håndtere nye trusler.
Relaterte artikler
Sony Xperia sin nye AI-kamerafunksjon blir til meme: Var dette bevisst?
Artificial intelligence has notoriously struggled with creating images, writing out gibberish on signs, or adding extra fingers to people. But it seem...
Pave advarer mot AI i krigføring: «Fører til undergang»
Pope Leo XIV on Thursday denounced how investments in artificial intelligence and high-tech weaponry were leading the world into a “spiral of annihila...
AI-generert leksikon blir til kaos: Halupedia fylles av oppdiktede historier og hatytringer
As the preeminent internet encyclopedia, Wikipedia is known for having articles on every topic under the sun. From the commonplace to the esoteric, if...
Figma opplever kraftig vekst etter innføring av AI-kreditter
With its AI credit limits officially up and running, design software maker Figma has just notched another successful quarter under its belt. The compa...
Bill Gross lanserer ProRata: Kan tvinge AI-selskaper til å betale for innhold
Bill Gross has a long history of betting on technological shifts and watching those bets pay off. But the latest proposition from one of Silicon Valle...
Espa: Nytt AI-verktøy som erstatter personlig assistent for millioner
Hello again, and welcome back to Fast Company’s Plugged In. When the software engineer and entrepreneur Deon Nicholas was CEO of Forethought, a custom...
Aksjer og obligasjoner spriker: Hva betyr dette for økonomien?
The stock market and the bond market are telling different stories about the economy: Bonds fear doom, while stocks see boom.Why it matters: That's a...
Hvordan de mest innovative bedriftene tenker – og hva du kan lære av dem
In this era of AI-powered rapid change, what defines innovation at the world’s most cutting-edge companies? Fast Company’s executive editor, Amy Farle...