AI-poop-app selger brukeres avføring til datasett – hva skjer med sensitiv helsedata?

En usedvanlig annonse på Reddit har fått oppmerksomhet i det siste. Brukeren Ill_Car_7351 annonserte i underforumet r/DHExchange, som er dedikert til bytte og salg av store datasett, at han hadde samlet inn en database med over 150 000 bilder av menneskers avføring. Bildene stammer fra en AI-basert helseapp kalt PoopCheck, utviklet av selskapet Soft All Things.

Appen analyserer brukerens avføring ved hjelp av Bristol Stool Scale og avansert mønstergjenkjenning. Den gir brukerne en «daglig tarmhelse-score» basert på konsistens, farge, form og andre faktorer. I tillegg har appen en aktiv brukerbase på over 150 000 delte avføring-bilder, der brukere kan kommentere og diskutere hverandres resultater.

Annonsen vekket sterke reaksjoner blant Reddit-brukere. Kommentarene spente fra humoristiske til opprørte utsagn, som «Når jeg var fem lærte læreren meg å lese. Nå angrer jeg på det» og «Hva i helvete». Flere uttrykte bekymring for personvernet og den etiske siden ved å selge sensitive helsedata.

Brukeren bak annonsen forklarte at bildene er sjeldne og verdifulle for maskinlæringsprosjekter, inkludert forskning på kreft og andre medisinske studier. Han uttrykte imidlertid usikkerhet om hvordan han skulle gå frem for å selge datasettet:

«Jeg har 150 000+ merkelagte og klassifiserte bilder av 💩 fra omtrent 25 000 forskjellige personer. Jokes aside, jeg vet at det er mye verdi i det (vanskelig å skaffe, nyttig for maskinlæring, kreftstudier osv.), men er usikker på hvordan jeg skal gå frem. Føles som om jeg sitter på en haug med skinnende gullmynter, men ikke vet hvem som vil ha dem.»

Etter kontakt med annonsøren fikk journalisten tilgang til å undersøke datasettet nærmere. Dette førte inn i en verden av ukontrollert salg av sensitive brukerdata, der personvern og etikk ofte blir satt til side for kommersielle interesser.

PoopCheck tilbyr i tillegg en «community»-funksjon der brukere kan dele bilder av avføringen sin og få kommentarer fra andre. Noen av de mest populære innleggene inkluderer spekulasjoner om parasitter eller kreft, og enkelte brukere anbefaler medisiner som ivermectin i kommentarfeltene. Brukerne har imidlertid mulighet til å velge om de vil dele bildene offentlig eller holde dem private.

Eksperter peker på flere problemstillinger knyttet til dette tilbudet:

• Personvern: Selv om bildene er anonymiserte, kan kombinasjonen av metadata og mønstre i avføringen potensielt spores tilbake til enkeltpersoner.
• Etikk: Salg av sensitive helsedata uten tydelig samtykke fra alle involverte strider mot gjeldende personvernregler, som GDPR.
• Sikkerhet: Datasett med helseinformasjon er attraktive mål for cyberangrep og misbruk.

Saken reiser viktige spørsmål om ansvarligheten til utviklere av helseapper og hvordan sensitive data håndteres i den voksende AI-industrien. Mens noen ser potensialet i slike datasett for medisinsk forskning, advarer andre mot de alvorlige konsekvensene av ukontrollert datadeling.