פילוסוף מוביל: פיתוח בינה מלאכותית עשוי להוביל להכחדת האנושות — אך זהו סיכון שכדאי לקחת

ניק בוסטרום, פילוסוף וחוקר שוודי בעל שם עולמי, ידוע בעיקר בזכות תאוריית הסימולציה שהציג בשנת 2003. במאמרו המפורסם "האם אתה חי בסימולציה מחשב?", הוא טען כי ציוויליזציות מתקדמות מספיק ייצרו בעתיד סימולציות מתוחכמות של אבותיהן, וכי הסיכוי שאנו חיים במציאות הבסיסית המקורית נמוך ביותר. למרות הביקורות הרבות נגד התאוריה, בוסטרום ממשיך לעורר דיון ציבורי סביב נושאים פילוסופיים וטכנולוגיים מהפכניים.

בשנים האחרונות, בוסטרום מתמקד בסוגיית הבינה המלאכותית (AI) והסיכונים הנלווים לה. בעבר הוא הזהיר מפני הסכנות של AI, אף הגדיר אותה כאיום גדול יותר משינויי האקלים. אולם לאחרונה, הוא שינה מעט את גישתו והציג טענות מעוררות מחלוקת: פיתוח AI מתקדמת עלול להוביל להכחדת האנושות, אך לטענתו, הסיכון כדאי לאור הפוטנציאל העצום לשיפור חיי האדם ולהתקדמות הציוויליזציה.

בוסטרום הגדיר עצמו כ"אופטימיסט מודאג" במהלך ראיון ל-Wired, תוך שהוא מדגיש את ההזדמנויות העצומות שטמונות בבינה מלאכותית מתקדמת. "אני נרגש מאוד מהפוטנציאל לשיפור משמעותי באיכות החיים ולפתיחת אפשרויות חדשות לציוויליזציה", אמר. "אך יחד עם זאת, אני מודע לסיכונים האמיתיים שהטכנולוגיה הזו טומנת בחובה."

הוא תקף את טענותיהם של "חוזי האסון" (doomers), בהם נמנה גם אלייזר יודקובסקי, שטוענים כי פיתוח AI יוביל להכחדת האנושות. "אני מוטרד מהטענות האלה, אך במאמר החדש אני בוחן שאלה אחרת: מה יהיה הטוב ביותר לאוכלוסיית בני האדם כיום, כולל משפחותינו ואנשים בבנגלדש? נראה כי פיתוח AI יוכל להאריך את תוחלת החיים שלנו, גם אם מדובר בסיכון משמעותי", הסביר.

בוסטרום הוסיף כי למרות החששות מפני הכחדה, הוא מאמין כי הסיכוי לפתח AI מתקדמת עולה על הסיכונים הכרוכים בכך. "אם אף אחד לא יפתח את הטכנולוגיה הזו, כולנו עלולים להיכחד. זו הייתה המציאות לאורך מאות אלפי השנים האחרונות", אמר. "אני מבין שבסצנריו של חוזי האסון כולם ימותו ולא יהיו עוד לידות, אך השאלה היא מה יהיה טוב יותר לאוכלוסייה הקיימת כיום."

למרות הטענות המעוררות מחלוקת, בוסטרום ממשיך לקדם דיון ציבורי סביב הנושאים הללו, תוך שהוא מדגיש את הצורך בשקילה זהירה של הסיכונים והיתרונות של פיתוח טכנולוגיות מתקדמות.