AI inom sjukvården: FDA:s hemliga svagheter avslöjade

En granskning av amerikanska Food and Drug Administration (FDA) visar att godkännandet av AI-baserade medicintekniska produkter ofta sker utan tillräcklig granskning. Enligt en ny rapport från STAT baseras många av dessa godkännanden på bristfälliga underlag, vilket kan äventyra patientsäkerheten.

Under de senaste åren har antalet AI-drivna medicinska enheter ökat explosionsartat. Trots detta saknas ofta tillräckliga bevis för att säkerställa att dessa produkter är säkra och effektiva. Experter varnar för att FDA:s nuvarande granskningsprocesser inte hänger med i utvecklingen.

Brister i granskningsprocessen

Enligt rapporten har FDA godkänt flera AI-produkter baserat på preliminära studier eller till och med företagens egna uppgifter utan oberoende verifiering. Detta trots att AI-systemens beslutsprocesser ofta är svåra att förstå och granska.

En talesperson för FDA har medgett att myndigheten arbetar med att stärka sina granskningsrutiner, men kritiker menar att åtgärderna kommer för sent. ”FDA:s nuvarande system är inte anpassat för AI-teknikens snabba utveckling,” säger en expert till STAT.

Risker för patientsäkerheten

De brister som identifierats i granskningsprocessen kan leda till allvarliga konsekvenser. AI-system som används för att diagnostisera sjukdomar eller rekommendera behandlingar kan ge felaktiga resultat om de inte är ordentligt testade. Patienter riskerar att utsättas för felaktig vård eller missade diagnoser på grund av undermåliga AI-produkter.

Enligt rapporten har flera fall redan uppmärksammats där AI-system har misslyckats med att identifiera allvarliga tillstånd, vilket har lett till försenad eller felaktig behandling. Experter uppmanar till striktare regleringar och ökad transparens från FDA:s sida.

Krav på förändring

För att möta de utmaningar som AI-tekniken medför krävs det enligt experterna en rad åtgärder:

• Oberoende granskning: AI-system bör genomgå oberoende tester innan de godkänns för användning.
• Transparens: Företag bör vara skyldiga att redovisa hur deras AI-system fattar beslut.
• Uppföljning: FDA bör kontinuerligt övervaka AI-produkter även efter godkännandet för att säkerställa deras säkerhet och effektivitet.

En talesperson för FDA har meddelat att myndigheten arbetar med att implementera nya riktlinjer för AI-granskning, men det återstår att se om dessa åtgärder kommer att vara tillräckliga för att hantera de risker som identifierats.