ענקיות הבינה המלאכותית מזהירות מפני אסון – וזה גם מכירה עצמית?

חברת Anthropic, המפתחת את מודל השפה Claude, פרסמה לאחרונה אזהרה נוספת מפני 'פיצוץ אינטליגנציה' – תרחיש שבו בינה מלאכותית תוכל לשפר את עצמה באופן עצמאי ללא מעורבות אנושית. לפי מייסד החברה, ג'ק קלארק, קיים סיכוי של יותר מ-50% שבתוך חמש שנים נצליח ליצור מערכת שתוכל לקבל פקודה כמו: 'צור גרסה משופרת של עצמך' ולבצע זאת באופן עצמאי.

אך לצד אזהרות אלה, Anthropic ממשיכה לגייס כספים בהיקפים חסרי תקדים. רק לאחרונה השלימה החברה גיוס של 30 מיליארד דולר, שהעלה את שווייה ל-380 מיליארד דולר, ובקרוב היא שואפת להגיע לשווי של טריליון דולר. במקביל, חברת OpenAI, המפתחת את ChatGPT, מאפשרת לעובדיה לשעבר ולנוכחיים למכור מניות בהיקף של עד 30 מיליון דולר – מהלך שהניב להם רווחים של 6.6 מיליארד דולר.

הסתירה בין אזהרות לבין פעולות מעשיות מעוררת שאלות קשות: האם החברות באמת מודאגות מהסכנות שיצרו, או שמא מדובר באסטרטגיה עסקית שנועדה להאיץ גיוסי הון ולשמור על יתרון תחרותי?

אזהרות ככלי אסטרטגי

מנכ"ל Anthropic, דאריו אמודי, פרסם בתחילת השנה מאמר בשם 'ההתבגרות של הטכנולוגיה', שבו הוא מציג את רגע המפנה הנוכחי כצומת היסטורי. לדבריו, אנו ניצבים בפני חמישה סוגי סיכונים קיומיים:

• מערכות AI עצמאיות שמאבדות שליטה – בינה מלאכותית שתפעל ללא הגבלה אנושית.
• ניצול לרעה למטרות הרס המוני – שימוש בטכנולוגיה לפיתוח נשק או התקפות סייבר.
• שליטה פוליטית באמצעות AI – ממשלות או גופים שישתמשו בבינה מלאכותית לדיכוי אזרחים.
• הפרעה כלכלית קיצונית – שינוי מהיר מדי בשוק העבודה ובמבנה הכלכלי.
• ריכוז עושר בידי מעטים – פערים חברתיים חמורים בעקבות יתרון טכנולוגי.

אמודי מזהיר גם מפני 'אפקטים נלווים בלתי צפויים' – השלכות שאיננו יכולים לחזות כיום, אך עלולות לשנות את פני החברה באופן בלתי הפיך.

גיוסי הון בזמן אזהרות

שבעה עשר ימים בלבד לאחר פרסום המאמר, השלימה Anthropic גיוס ענק של 30 מיליארד דולר. במקביל, דיווח ה-Financial Times כי החברה שואפת לגייס עשרות מיליארדי דולרים נוספים בקיץ הקרוב, במטרה להגיע לשווי של טריליון דולר – שיעלה על שווייה הנוכחי של OpenAI (852 מיליארד דולר).

התזמון אינו מקרי: המאמר של אמודי אינו רק אזהרה, אלא גם מצגת השקעה. הטענה כי 'זו הטכנולוגיה המשמעותית ביותר בהיסטוריה האנושית' משמשת הן כקריאה זהירה והן כמשאב שיווקי. הטענה כי 'אנו האחראים' היא גם הצהרה מוסרית וגם מנוף תחרותי. האיום הסיני המתגבר הופך את הגיוסים העתידיים ל'פטריוטיים'.

אמודי מודה בסיכון הטמון בכך ש-AI תהפוך לכוח בלתי נשלט, אך במקביל ממשיך לקדם את הטכנולוגיה במהירות שיא. השאלה המתבקשת היא: האם החברות הללו באמת רוצות למנוע אסון, או שמא הן מעדיפות להבטיח את שליטתן בשוק לפני שהכל יתרסק?