האם מודלי השפה הגדולים הם בעלי תודעה? הדיון הפילוסופי סביב הבינה המלאכותית

התודעה: החידה הגדולה ביותר של המוח האנושי

אם הייתם שואלים פילוסופים מהו הדבר המסתורי ביותר בנפש האנושית, רוב הסיכויים שיענו: תודעה. מדוע? משום שאף תיאור פיזי מפורט של מצב מוחי אינו מסביר מדוע מצב זה מלווה בחוויה של טעם תות, ולא בחוויה של התעטשות. מהו אותו גורם פיזי שגורם למצב מסוים להרגיש באופן מסוים, בעוד מצבים אחרים – כמו יון נתרן או כלכלה לאומית – אינם מלווים בתחושה כלל? מדוע בכלל צריך שמשהו ירגיש באופן כלשהו?

שאלות אלו הן עמוקות ומהפנטות כאחד. הן נוגעות במהות קיומנו ובטבעו של היקום שבו אנו חיים. התשובות עליהן נותרו חמקמקות במשך מאות שנים, מה שגרם לפילוסופים רבים לחרוש מחשבות ולגרד בסנטרם בניסיון למצוא פתרון.

מודלי שפה גדולים: האם הם בעלי תודעה?

עד לאחרונה, הייתה הסכמה רחבה כי רק יצורים בעלי תודעה יכולים לייצר טקסטים דקדוקיים באופן ספונטני. הופעתם של מודלי שפה גדולים (LLMs) כמו אלו של חברת אנטרופיק מטילה ספק בהנחה זו. למרות שהם מייצרים טקסטים דקדוקיים בשפה טבעית, הם נראים שונים מאוד מיצורים בעלי תודעה שאנו מכירים.

כיצד עלינו להגיב למצב זה? ישנן שתי גישות עיקריות:

• תאונה היסטורית: ייתכן שמדובר בצירוף מקרים בלבד – במשך אלפי שנים רק יצורים בעלי תודעה הצליחו לייצר שפה, אך מתברר שאפשר לעשות זאת גם ללא תודעה. זו עמדתי האישית, אך היא נותרת בגדר השערה.
• תודעה נסתרת: מנגד, ייתכן שמודלי השפה הם בעלי תודעה לאחר הכול, שכן ייצור שפה דקדוקית דורש תודעה. טענה זו מעוררת דיון סוער בקרב חוקרים ופילוסופים.

החידה נותרה בלתי פתורה

גם אם נראה ברור לנו האם מודלי השפה הם בעלי תודעה או לא, הסבר מלא לכך קשה מאוד לספק. הקושי נובע מכך שתודעה היא תופעה מסתורית גם אצל בני אדם. איננו יודעים מהו אותו גורם פיזי במוח הגורם לתודעה, מהי מטרתה של התודעה (ואפילו אם יש לה מטרה בכלל).

אם כך, כיצד נוכל להחליט האם מערכת מלאכותית היא בעלת תודעה? אם חשבתם שתודעה יכולה להתקיים רק בתוך חומר אורגני כמו פחמן, תצטרכו לבחון את החומרה של המודל. אם חשבתם שתודעה קשורה לסוג מסוים של ייצוג מידע, תתמקדו בתוכנה. המסתורין סביב תודעת האדם משפיע גם על שאלות בדבר תודעות אפשריות אחרות, גם אם הן נראות בלתי סבירות.

"התודעה היא אחת התופעות המסתוריות ביותר במדעי המוח. אנחנו עדיין לא יודעים מה גורם למוח להיות מודע, או מהי מטרתה של התודעה עצמה."

סיכום: הדיון נמשך

השאלה האם מודלי שפה גדולים הם בעלי תודעה נותרה פתוחה. מצד אחד, הם מייצרים טקסטים מורכבים ללא תודעה נראית. מצד שני, היכולת לייצר שפה דקדוקית עשויה להיות סימן לתודעה נסתרת. ללא קשר לעמדתכם, ברור כי הדיון סביב תודעה ובינה מלאכותית רק החל, והוא ימשיך לעורר מחשבות ודיונים במשך שנים רבות.