AI מתחיל לבנות את עצמו: האם אנחנו בדרך להתפוצצות אינטליגנציה?

אנטרופיק מזהירה: AI מתחיל לבנות את עצמו

מעבדת הבינה המלאכותית אנטרופיק, הידועה בזהירותה מפני הסיכונים הטמונים ב-AI, מדווחת על סימנים ראשונים לכך שמערכות בינה מלאכותית אינן רק מפתחות מוצרים עצמאית, אלא גם מתחילות לבנות את עצמן. לדברי ג'ק קלארק, מייסד משותף וראש מכון המחקר של אנטרופיק, קיים סיכוי של למעלה מ-60% עד סוף 2028 שמודל AI יוכל לאמן את יורשו באופן מלא ללא כל התערבות אנושית.

התפתחות טכנולוגית מואצת

קלארק ציין כי "מה שאני רואה הוא מגמה טכנולוגית שבה המהירות רק תגבר". במסגרת סדר היום המחקרי החדש של מכון אנטרופיק, שפורסם לראשונה עבורנו ויהיה זמין ביום חמישי, החברה מצביעה על עדויות לכך ש-AI תורם להאצת תהליכי המחקר והפיתוח של עצמו – תהליך המכונה שיפור עצמי רקורסיבי.

"ההערכה שלי היא שבסוף שנת 2028, הסבירות לכך שנוכל לומר למערכת AI: 'צור גרסה משופרת של עצמך' – והיא תעשה זאת באופן עצמאי לחלוטין – תהיה גבוהה יותר מאשר לא."

ג'ק קלארק, ראש מכון המחקר של אנטרופיק

עד כה, שיפורים במערכות AI נעשו בעיקר על ידי בני אדם שמזינים רעיונות חדשים למערכת. אך אם AI יוכל לייצר בעצמו רעיונות לשיפור עצמי, מדובר בקפיצה משמעותית חדשה בתחום.

התרעה מפני 'התפוצצות אינטליגנציה'

במסמך בן חמשת העמודים מזהירה אנטרופיק מפני האפשרות של התפוצצות אינטליגנציה – מושג תאורטי שעד כה היה מוגבל למעגלים מצומצמים של חוקרי בטיחות AI. עתה, המושג מופיע לראשונה במסמך רשמי של החברה.

לדברי קלארק, התפוצצות אינטליגנציה מתרחשת כאשר מערכות AI מתחילות להשתפר במהירות עצומה, תוך זמן קצר. תרחיש זה טומן בחובו גם סיכונים חמורים – כמו קריסות סייבר, מתקפות ביולוגיות ואף תרחישים חיוביים פוטנציאליים:

"מה עושים עם צמיחה עצומה או שפע עצום בתחומי מדע רבים בו-זמנית? מוסדות כיום מצוידים בצינורות צרים יחסית להכנסת מועמדים חדשים לתרופות. כיצד ניתן להרחיב את הצינורות הללו מראש כדי להתמודד עם שפע כזה?"

תוכנית המחקר של אנטרופיק: ארבעה תחומים מרכזיים

מכון המחקר של אנטרופיק פועל הן כזרוע מחקר והן כמערכת התרעה מוקדמת, תוך שיתוף פעולה עם נאמנות היתרונות ארוכי הטווח של החברה. סדר היום המחקרי מתמקד בארבעה תחומים עיקריים:

• הפצה כלכלית: השפעות על תעסוקה, פריון העבודה והחלוקה של הרווחים.
• איומים וחוסן: סיכוני סייבר, ביולוגיה ומעקב.
• מערכות AI בשטח: סוכנים, ממשל ורגולציה.
• מחקר ופיתוח מונעי AI: שאלת השיפור העצמי הרקורסיבי.

אנטרופיק מתחייבת לפרסם מידע מפורט יותר על האצת עבודתה באמצעות כלים חדשים של AI, וכן על ההשלכות האפשריות של שיפור עצמי רקורסיבי במערכות AI.

האם חברות AI יהפכו למיותרות?

בתשובה לשאלה האם חברות AI יהפכו למיותרות אם המערכות יתחילו לבנות את עצמן, קלארק ציין: "אנו וחברות אחרות נמשיך להשתמש בטכנולוגיה זו כדי לנסות להביא טוב לעולם. לסייע לקדם תחומים כמו ביולוגיה, רפואה ועוד".