בשנים האחרונות, בעקבות העומס הרב המוטל על רופאים, רבים מהם נעזרים במערכות בינה מלאכותית המכונות 'פקידי רפואה דיגיטליים'. מערכות אלו מסכמות באופן אוטומטי שיחות בין רופאים למטופלים, אבחנות והחלטות טיפוליות, ומייצרות תיעוד רשמי לרשומות הרפואיות. אולם, ביקורת שנערכה לאחרונה על ידי מבקר המדינה של אונטריו העלתה ממצאים מטרידים: מערכות אלו מייצרות לעיתים קרובות מידע שגוי, חלקי ואף בדוי, שעלול להוביל לטיפולים בלתי מספקים או מסוכנים ולהשפיע על בריאות המטופלים.
במסגרת דו"ח שפורסם לאחרונה בנושא השימוש בבינה מלאכותית בממשלת אונטריו, נבדקו שתי שיחות מדומות בין רופאים למטופלים באמצעות 20 מערכות 'פקידי רפואה דיגיטליים' שאושרו על ידי הממשלה הפרובינציאלית. כל המערכות הללו הציגו ליקויים בדיוק או בשלמות המידע, כאשר תשע מהן ייצרו מידע בדוי על מטופלים, שתים עשרה רשמו מידע באופן שגוי, ו-17 החמיצו פרטים חשובים בנושא בריאות הנפש שנדון בשיחות.
בדו"ח צוינו דוגמאות קונקרטיות לחוסר הדיוק במערכות אלו, שעלולות להשפיע ישירות על הטיפול הרפואי העתידי. בין הטעויות שנחשפו: יצירת הפניות בדויות לבדיקות דם או טיפולים, תיעוד שגוי של שמות תרופות שנרשמו, והחמצה של פרטים מהותיים בנושא בריאות הנפש שנדונו במהלך השיחות.
הממצאים מעלים חשש כבד לגבי אמינותן של מערכות אלו והשפעתן על איכות הטיפול הרפואי. על אף שאושרו על ידי הממשלה, המערכות אינן עומדות בסטנדרטים הנדרשים לבטיחות המטופלים.
מבקר המדינה קרא לממשלת אונטריו לנקוט בצעדים מיידיים על מנת להבטיח כי מערכות אלו יעמדו בדרישות הבטיחות והדיוק הנדרשות, ולמנוע מצבים בהם מידע שגוי עלול לסכן חיים.
כתבות קשורות
רשות המסים הבריטית מאמצת בינה מלאכותית לאיתור הונאות מס
Human staff members will still check the AI's findings.
מחקר בינה מלאכותית: מאמרים מדעיים הופכים לטובים יותר – וזה בעייתי לחוקרים
Last summer, Peter Degen's postdoctoral supervisor came to him with an unusual problem: One of his papers was being cited too much. Citations are the...
מנהל המוצר של Claude Code מדבר על מגבלות שימוש, שקיפות והתאמה ל'חליפהLean'
SAN FRANCISCO—Amid an ever-expanding array of surfaces, growing demand for tokens and compute, and a rapidly evolving user base, Anthropic doesn't hav...
xAI מציגה את Grok Build: כלי חדש ליצירת קוד עבור מנויי SuperGrok Heavy
It's in early beta and only available to SuperGrok Heavy subscribers right now.
תאומי ההאקרים שפוטרו שכחו לסיים הקלטה בווטסאפ והפלילו את עצמם
Perhaps you remember Muneeb and Sohaib Akhter, the 34-year-old twin brothers we profiled earlier this week. Although they had the tech chops to commit...
הפרס המוזר של אילון מאסק: 'לעולם אל תפסיק להיות חצוף'
Yesterday, in Musk v. Altman, before the jurors came in, Sam Altman's team passed up what looked - from a distance - like a little league trophy. It w...
OpenAI משיקה את אפליקציית Codex לקידוד בנייד – כך תנצלו אותה בצורה הטובה ביותר
The integration allows you to keep tabs on your coding projects on the go.
OpenAI מציגה את Codex בתוך אפליקציית ChatGPT לטלפון – מה זה אומר למשתמשים?
OpenAI is going to let users access Codex, its desktop AI tool that can write code and use apps on your computer, from the ChatGPT app on your phone....