AI: המהפכה הבלתי נשלטת שכולם מזהירים מפניה

המהפכה הבלתי נשלטת: שישה סימנים מטרידים על בינה מלאכותית

בתוך 60 הימים האחרונים התגלו שישה עובדות מטרידות על עולם הבינה המלאכותית. אין כאן הגזמה, רק נתונים קרים. הבינה המלאכותית היא קטגוריית המוצרים הצומחת ביותר בהיסטוריה העולמית. אחד המודלים האחרונים כל כך מתקדם, עד שיצרניתו החליטה שלא לשחררו לציבור.

OpenAI ו-Anthropic הודיעו שהמודלים החזקים ביותר שלהם כבר יוצרים קוד באופן עצמאי. במקביל, חברות הבינה המלאכותית הופכות פחות שקופות ככל שהטכנולוגיה מתקדמת, בעוד הממשל הפדרלי לא דורש כל שקיפות. התוצאה? התנגדות גוברת לציבור כלפי הטכנולוגיה הזו.

בחודש אפריל האחרון, ביתו של סאם אלטמן, מנכ"ל OpenAI, היה מטרה לשני ניסיונות תקיפה בשבוע אחד. אלטמן כתב: "החששות והפחדים מפני הבינה המלאכותית מוצדקים... הכוח לא יכול להיות מרוכז מדי".

הנזקים כבר כאן — ולא רק בתיאוריה

ההרס שחוללה הבינה המלאכותית השנה הוא ממשי. השוק איבד 2 טריליון דולר כאשר משקיעים הבינו עד כמה מהר הטכנולוגיה החדשה מחליפה תפקידים אנושיים — מפיתוח תוכנה ועד שירותי נדל"ן, מחקר משפטי וניהול פיננסי.

למה זה חשוב? לפני שנה כתבנו אזהרה למנהיגי העסקים. עכשיו הגיע הזמן שכולם יקשיבו: הנתונים, הטכנולוגיה והאנשים שמבינים אותה ביותר מזהירים אותנו — אנחנו שחררנו כוח עצום, שגדל בצורה מעריכית, ומועט מאוד האנשים, בעיקר אלו שבשלטון, מבינים אותו באמת.

עידן חדש: האם אנחנו בדרך לעידן האטומי השני?

אפשר להשוות את המצב הנוכחי לזריחת עידן האטום. הפיתוח הגרעיני שהגיע לשיאו ב-1945 היה הפעם האחרונה בה האנושות התמודדה עם טכנולוגיה כה משנה. הפוטנציאל שלה — לשגשוג או להשמדה — הוליד מדע בדיוני שהציג עתידים אוטופיים ואפוקליפטיים כאחד.

הרבה מהכתיבה הוויראלית על בינה מלאכותית כיום היא למעשה מדע בדיוני מודרני. לדוגמה, "AI 2027", ניסיון משנת 2025 לחזות אינטליגנציה על-אנושית בראשות חוקר לשעבר מ-OpenAI, מסתיים באחד משני תרחישים: תמיכה במהפכה פרו-דמוקרטית שתחצה את מערכת השמש, או השתלטות טכנולוגית שתוביל לקצירת מוחות האנושות.

הדיונים השנה הלכו באותו הכיוון. פרסום ויראלי של מאט שומר, "משהו גדול קורה", העלה את הטענה שהבינה המלאכותית כבר מייצרת קוד ברמה שמעידה על טעם אמיתי. מחקר של Citrini Research, "משבר האינטליגנציה העולמי 2028", דמיין תרחיש כלכלי קיצוני בו לא יהיה מענה יעיל מצד ממשלות או שווקים.

הטקסטים הללו עוררו דיונים רבים ואף השפיעו על שווקים, כי הם יכולים להיות נכונים. ברור שהם לא בהכרח נכונים, והם מציגים תרחישים קיצוניים. אבל אף אחד לא יכול להבטיח לנו שהם לא יתרחשו — לא הנשיא, לא מנהלי חברות הבינה המלאכותית, ולא אף אחד אחר. מי שטוען אחרת, כותב מדע בדיוני.

התמונה הגדולה: אנחנו לא יודעים לאן זה מוביל

אף אחד לא יודע איך ייראה העתיד עם הבינה המלאכותית, ולאף אחד אין תשובה לשאלה מה ייצא ממנה — לטוב או לרע. אבל ברור יותר ויותר שאם לא יהיו מנהיגות טובה יותר, שיתוף פעולה והבנה עמוקה יותר, החברה האמריקאית, העובדים, המוסדות האקדמיים והממשל — כולן לא מוכנות למה שמתרחש.

זה מתחיל בהתמודדות עם שש המציאויות הבאות:

• Anthropic היא החברה הצומחת ביותר בהיסטוריה העסקית האמריקאית. ההכנסות השנתיות שלה זינקו מ-1 מיליארד דולר בסוף 2024 ל-9 מיליארד שנה לאחר מכן, ומשם ל-30 מיליארד דולר בשנתיים בלבד.
• מודלים מתקדמים כל כך שלא משוחררים לציבור — חברות הבינה המלאכותית שומרות על הטכנולוגיות החזקות ביותר לעצמן, תוך שהן מגבילות את הגישה אליהן.
• חוסר שקיפות גובר — ככל שהטכנולוגיה הופכת חזקה יותר, חברות מסרבות לחשוף פרטים על יכולותיהן, סיכונים פוטנציאליים או תהליכי פיתוח.
• התנגדות ציבורית גוברת — בחודש אפריל האחרון, ביתו של סאם אלטמן, מנכ"ל OpenAI, היה מטרה לשני ניסיונות תקיפה בשבוע אחד, מה שמדגים את הפחד הגובר מפני הטכנולוגיה.
• הנזקים הכלכליים כבר כאן — בשנת 2025, השוק איבד 2 טריליון דולר כאשר משקיעים הבינו עד כמה מהר הבינה המלאכותית מחליפה תפקידים אנושיים בתחומים שונים.
• הסיכונים הבלתי צפויים — אף אחד לא יכול להבטיח שלא יתרחשו תרחישים קיצוניים, בין אם מדובר במהפכה טכנולוגית שתשנה את החברה או באסון בלתי צפוי.

מה צריך לעשות עכשיו?

העולם ניצב בפני צומת דרכים. הטכנולוגיה הזו תמשיך להתפתח, בין אם אנחנו מוכנים לה או לא. השאלה היא האם נצליח לבנות מנגנוני פיקוח, שיתוף פעולה בינלאומי והבנה עמוקה יותר של הסיכונים וההזדמנויות לפני שיהיה מאוחר מדי.

"החששות והפחדים מפני הבינה המלאכותית מוצדקים. הכוח לא יכול להיות מרוכז מדי." — סאם אלטמן, מנכ"ל OpenAI

בלי מנהיגות אחראית, שיתוף פעולה גלובלי והבנה עמוקה יותר של הטכנולוגיה, אנחנו עלולים למצוא את עצמנו לא מוכנים למהפכה הגדולה ביותר של המאה ה-21.