חשיפת הניו יורקר: מנהיגי OpenAI תכננו לגרור מעצמות עולם למלחמה על טכנולוגיית הבינה המלאכותית

תוכנית 'המדינות': האסטרטגיה שהדהימה עובדים

מנהיגי OpenAI גרמו לזעזוע בקרב עובדיהם כאשר הציעו תוכנית אסטרטגית שנועדה להעשיר את החברה באמצעות הסלמת מתחים בין מעצמות עולם. חשיפת הניו יורקר חושפת פרטים מטרידים על התנהלותו של מנכ"ל החברה, סאם אלטמן, שכלל דפוסי מניפולציה ואי-אתיקה בבניית אימפריית הבינה המלאכותית שלו.

על פי הדיווח, בשנת 2017, גרג ברוקמן, סגנו של אלטמן, הציע תוכנית פנימית שכונתה בשם הקוד 'תוכנית המדינות'. במקום לקדם שיתוף פעולה בינלאומי בתחום הבטיחות בבינה מלאכותית, ברוקמן הציע לנצל את המתחים הגאו-פוליטיים בין מדינות כמו סין ורוסיה באמצעות יצירת תחרות טכנולוגית שתגרום למדינות להשקיע בחברה. היועצת האתית באותה עת, פייג' הדלי, סיפרה כי ברוקמן טען: 'זה עבד עבור נשק גרעיני, למה שלא יעבוד עבור בינה מלאכותית?'

הנחת היסוד, שלא הוכחשה, הייתה: 'אנחנו מדברים על הטכנולוגיה ההרסנית ביותר שנוצרה אי פעם — מה אם נמכור אותה לפוטין?'

עובד בכיר באותה עת, ג'ק קלארק, מנהל המדיניות של OpenAI, תיאר את התוכנית כ'דילמת האסיר', שבה כל המדינות יצטרכו לתמוך בחברה במימון, וכך 'ההימנעות ממימון הופכת למסוכנת'. עובד זוטר שהתייחס לתוכנית אמר כי היא נשמעה 'לגמרי מטורפת'.

התוכנית ננטשה לבסוף לאחר מספר חודשים, כאשר עובדים איימו בהתפטרות. הדלי ציינה כי 'התנגדות העובדים הייתה בעלת משקל רב יותר בעיני אלטמן מאשר השאלה האם התוכנית עלולה לגרום למלחמה בין מעצמות'.

מניפולציות מול ממשלת ארצות הברית

אלטמן ניסה גם להשפיע על ממשלת ארצות הברית באמצעות טענות מוגזמות. החל משנת 2017, הוא טען בפני גורמים מודיעיניים כי סין השיקה 'פרויקט מנהטן של בינה מלאכותית' — טענה שלא הייתה לה כל בסיס עובדתי. לטענתו, על מנת שארצות הברית תישאר תחרותית בתחום, OpenAI זקוקה למיליארדי דולרים בתמיכה ממשלתית. כאשר נדרש למקור לטענותיו, אלטמן השיב באופן מעורפל: 'שמעתי דברים'. גורם רשמי שבדק את הטענות הסיק כי אלטמן המציא אותן במטרה לקדם את האינטרסים העסקיים שלו: 'זה היה רק חלק ממכירת החלום'.

הדיווחים מתארים את אלטמן כמי שמנצל את הפחדים הגאו-פוליטיים סביב הטכנולוגיה שלו, בדומה לאופן שבו ג' רוברט אופנהיימר השתמש בפחד מפני הנאצים כדי לשכנע פיזיקאים להצטרף לפרויקט מנהטן. בעוד אופנהיימר פעל מתוך מחויבות אמיתית למטרה, אלטמן, על פי הדיווחים, פעל בעיקר מתוך אינטרסים אישיים וצבאיים.

ביקורת פנימית וחששות

החשיפה מעלה שאלות קשות על התנהלותה של OpenAI ועל מנהיגותו של אלטמן. עובדים לשעבר תיארו התנהגות שמזכירה 'התנהגות של סוציופת', תוך שימוש במניפולציות ובטקטיקות שמטרתן קידום האג'נדה העסקית על פני שיקולים אתיים ובטיחותיים. התוכנית לגרור מעצמות עולם למלחמה על טכנולוגיית הבינה המלאכותית נתפסה כמהלך מסוכן ביותר, שעלול היה להוביל לתוצאות בלתי צפויות ולסיכונים גלובליים.

הדיווחים הללו מצטרפים לחקירות קודמות על יכולותיו הטכניות של אלטמן, כאשר עמיתיו טענו כי הוא 'בקושי יודע לתכנת' ומתקשה בהבנת מושגי יסוד בבינה מלאכותית.