האיגוד הרפואי האמריקאי (AMA) פרסם לאחרונה הנחיות חדשות הקוראות לרשויות הרגולטוריות להחמיר את הפיקוח על שימוש בבינה מלאכותית בצ'אטבוטים ובכלים דיגיטליים בתחום הבריאות והרווחה. ההמלצות נועדו להבטיח את בטיחות המטופלים ולמנוע נזקים כתוצאה מטעויות או שימוש לא אחראי בטכנולוגיות אלו.
במסמך המפורט שפורסם, הדגיש האיגוד כי יש להטיל מגבלות ברורות על פיתוח ושימוש במערכות AI בתחום הרפואי, תוך הקפדה על שקיפות, אחריותיות ואתיקה. בין ההמלצות העיקריות:
- פיקוח הדוק על פיתוח AI: דרישה לבחינה קפדנית של אלגוריתמים לפני אישורם לשימוש רפואי.
- שקיפות מלאה: חיוב מפתחי הטכנולוגיות לחשוף את מקורות הנתונים ואופן קבלת ההחלטות של המערכות.
- אחריותיות: הטלת אחריות ברורה על גורמים המפתחים ומשתמשים במערכות AI במקרה של נזקים.
- הגנת פרטיות: הקפדה על שמירת נתוני מטופלים והגנה מפני דליפות מידע.
ההנחיות מגיעות בעקבות התרחבות השימוש בצ'אטבוטים ובכלים מבוססי AI בתחום הבריאות, בהם כלים המאפשרים אבחון מרחוק, ניטור מצב מטופלים ומתן המלצות טיפוליות. למרות היתרונות הטכנולוגיים, קיימים חששות משמעותיים לגבי דיוקן של המערכות, יכולתן להחליף שיקול דעת רפואי אנושי והסיכונים הנלווים לשימוש בהן ללא פיקוח מתאים.
דובר מטעם AMA ציין כי ההנחיות נועדו לשמש כבסיס לחקיקה עתידית ולתקנות שיגובשו על ידי רשויות הבריאות והרגולציה בארצות הברית. הוא הדגיש כי המטרה היא לא לעכב את ההתקדמות הטכנולוגית, אלא להבטיח שהיא תתבצע בצורה אחראית ובטוחה עבור הציבור.
במקביל, OpenAI, מפתחת הצ'אטבוט ChatGPT, ממשיכה להרחיב את השימוש בטכנולוגיית הבינה המלאכותית שלה בתחום הרפואה. לאחר שהזמינה בתחילת השנה צרכנים להעלות רשומות רפואיות לבחינה על ידי המערכת, החברה עתה פונה גם אל רופאים ומטפלים, במטרה לשלב את הטכנולוגיה בתהליכי האבחון והטיפול השגרתיים.
כתבות קשורות
ראשת מרכז התרופות של ה-FDA, טרייסי בת' הוג, עוזבת – מנהיגות הסוכנות מתרוקנת
WASHINGTON — The acting director of the Food and Drug Administration’s drug center, Tracy Beth Høeg, is leaving the agency, according to three sources...
ארה"ב לוחצת על גרמניה: העלאת מחירי התרופות, וההשפעה על חברות הביוטק
And so, another working week will soon draw to a close. Not a moment too soon, yes? This is, you may recall, our treasured signal to daydream about we...
גלולות להפלה בדואר: מה המצב המשפטי כיום?
In a discussion about the best fruits, my STAT colleague Alexa Lee and I agreed that peaches have been mid in recent years. Is this just a New York Ci...
מנהל המזון והתרופות האמריקאי חסם תרופה חדשנית למלנומה בעקבות שינויים בהנהגה
The FDA’s recent decision to withhold approval of a new skin cancer treatment fell like a hammer on doctors who treat melanoma and patients who saw th...
בגיל 73: התרופות שלי משנות צבעים וצורות – ואני לא יודע למה
At the ripe old age of 73, I take six drugs — four prescription and two over-the-counter pills — every day. I keep careful track of them. But recently...
בית המשפט העליון שומר על זכותן של נשים לתרופת ההפלה הנפוצה
WASHINGTON — The Supreme Court on Thursday preserved women’s access to a drug used in the most common method of abortion, rejecting lower-court restri...
פרישת מקארי והאתגר של קאסי: מה צפוי למערכת הבריאות בוושינגטון?
This week’s episode of “The Readout LOUD” is all about health politics. We bring on FDA reporter Lizzy Lawrence to discuss Makary’s departure — why he...
בלימת הסכנות: מדוע טרנד 'בלמקסינג' מסוכן יותר ממה שחשבתם
Experts say that “Ballmaxxing” may lead to permanent damage. Image Credit: Heathline/Paloma Rincon Studio/GettyImages Ballmaxxing is the latest social...