תקרית חמורה התגלתה לאחרונה בתחום המשפטים בארצות הברית, כאשר עורך דין הואשם בשימוש לרעה בבינה מלאכותית (AI) לצורך הכנת מסמכים משפטיים. על פי דיווחים, עורך הדין הגיש לבית המשפט מסמך מלא בטעויות מומצאות, שנוצרו על ידי מערכת AI, אך נחתם על ידו כאילו נכתב על ידו עצמו.
התקרית התגלתה כאשר עורך הדין הוטל בקנס כספי על ידי בית המשפט בשל 'הלוצינציות של AI' – מצב שבו מערכת הבינה המלאכותית מייצרת מידע שגוי או בדוי לחלוטין. למרות זאת, נראה כי הבעיה חמורה יותר ממה שנחשף בתחילה, שכן אתר המשרד של עורך הדין ממשיך להציג תביעות ענק מפוקפקות, כולל פסק דין של 11 מיליון דולר, ללא כל אישור רשמי או תיעוד מתאים.
באתר המשרד נכתב כי עורך הדין היה מעורב בתיק שהסתיים בפשרה של 11 מיליון דולר, וכן מוזכרות תביעות נוספות בעלות ערך דומה. עם זאת, אין כל הוכחה לכך שתביעות אלו אכן התקבלו בבית המשפט או שאושרו באופן רשמי. נראה כי מדובר בטעות טכנית או אף בהטעיה מכוונת, אשר מעלה חשדות חמורים לגבי אמינות המשרד ודרכי הפעולה שלו.
התקרית מעלה שאלות קשות לגבי השימוש בבינה מלאכותית בתחום המשפטי, ובייחוד לגבי האחריות של עורכי דין על המסמכים שהם מגישים לבית המשפט. האם מדובר בטעות חד-פעמית, או שמא מדובר בתופעה רחבה יותר שדורשת פיקוח הדוק יותר מצד רשויות המשפט והאתיקה המקצועית?
כתבות קשורות
תובעים נבחרים ופוליטיקה: מתי הצהרות קמפיין פוגעות בהגינות המשפטית?
I am happy to pass along a guest post from Professors Bruce A. Green and Rebecca Roiphe, who are experts in the ethical standards for prosecutors. The...
סאם אלטמן ניצב במבחן האמינות: מה נחשף במשפט מול אילון מאסק?
Can you trust Sam Altman? That was one of the central themes at the high-profile trial between the OpenAI CEO and Elon Musk in California this week, a...
ממשל טראמפ מאיים על שופטת פדרלית: האשמות חמורות על הסתרת מידע
The Trump administration is targeting another federal judge who has ruled against the government, even telling its lawyers to withhold information.The...
הפוליטיקה של שגשוג ללא תעסוקה בעידן הבינה המלאכותית
A very interesting article by my Hoover Institution Andy Hall (who is also at the Stanford Graduate School of Business); here's the Introduction, thou...
בית המשפט העליון נגד ההגנה המשפטית לחברות: המהפך בפרשנות החוק
The Roberts Court is often derided as a pro-corporation Court. I've lost count of how many stories measure the Chamber of Commerce's success rate befo...
אמריקאים נגד מרכזי נתונים: 7 מתוך 10 מתנגדים להקמתם בשכונתם
A new Gallup poll has found that most Americans would really prefer not to live next door to a data center. For the first time, the polling organizati...
תביעה נגד גוגל: בינה מלאכותית יצרה האשמות שווא בפשע מין נגד אזרח יוטה
From a Complaint in Murray v. Alphabet, Inc., just removed yesterday to federal court, one of the sets of screenshots that the plaintiff says were hal...
ענקיות הבינה המלאכותית מזהירות מפני אסון – וזה גם מכירה עצמית?
Axios, whose reporting is increasingly defined by minuscule “scoops” about the artificial intelligence industry, reported last week on the latest red...