כשהבינה המלאכותית הארגונית תצליח – היא לא תיראה כמו צ'אטבוט

בשבועות האחרונים התברר כי הכישלון של בינה מלאכותית ארגונית אינו נובע מחוסר יכולת של המודלים, מחוסר התלהבות בקרב המשתמשים או אפילו ממגבלות טכניות. הבעיה היא ארכיטקטונית במהותה: מודלי שפה גדולים לא נועדו לנהל חברה. חברות פועלות על בסיס זיכרון, הקשר, משוב ומגבלות, בעוד שמודלי שפה נותרו, בסופו של דבר, מערכות לחיזוי טקסט.

מהכלים למערכות: השינוי המהותי

במאמר קודם הסברתי כי הפתרון אינו טמון ב'פרומפטים טובים יותר', אלא במעבר עמוק יותר: משימוש בכלים למערכות, מתשובות לתוצאות, מטייסים אוטומטיים למערכות פעולה, ומפרומפטים למגבלות. בינה מלאכותית ארגונית לא יכולה להיות מבוססת על מפגשים חד-פעמיים. היא חייבת לזכור. כעת, נדרש צעד שלישי: המערכות שמתחילות להצליח בעולם הארגוני אינן נראות כמו צ'אטבוטים משופרים, טייסים אוטומטיים או שרשראות פרומפטים מתקדמות. הן נראות אחרת לחלוטין.

השינוי כבר כאן: המערכות המצליחות לא מתחילות מפרומפט

בשנים האחרונות התמקדה תעשיית הבינה המלאכותית בשכבה הנראית לעין: מודלים גדולים יותר, ממשקים משופרים, טייסים אוטומטיים מתקדמים ואף סוכנים שאפתניים. אולם, הסימנים הברורים ביותר לערך מוחשי מגיעים לא ממערכות אלו בלבד, אלא מארגונים שמשנים את תהליכי העבודה שלהם, משלבים בינה מלאכותית בתוך תהליכים קיימים ומתייחסים אליה פחות כאל כלי ויותר כתשתית.

סקר גלובלי של מקינזי מלמד כי השימוש בבינה מלאכותית נפוץ, אך מרבית הארגונים טרם הטמיעו אותה מספיק עמוק בתהליכי העבודה שלהם כדי להפיק ממנה תועלת משמעותית ברמה הארגונית. הסקר אף מצביע על כך ששינוי תהליכי העבודה הוא אחד הגורמים החזקים ביותר להשפעה עסקית משמעותית. ממצאים אלו מאשרים את הטענה המרכזית במאמרים הקודמים: הבעיה לא הייתה רק האם המודלים יכולים לתת תשובות טובות, אלא היכן הצבנו אותם. הארגונים שמתקדמים אינם 'משתמשים יותר בבינה מלאכותית'. הם משנים את החברה סביבה.

הקשר כבסיס: מעבר מניהול פרומפטים לניהול הקשר

המערכות המצליחות ביותר כיום מתחילות לא מפרומפט במובן הצר, אלא מהקשר: הקשר המבני, המתמשך והמנוהל. צוות ההנדסה של Anthropic מתאר כעת את 'הקשר הנדסי' (context engineering) כהתקדמות הטבעית מעבר ל'פרומפט הנדסי' (prompt engineering). האתגר האמיתי כבר אינו כיצד לנסח הוראות, אלא כיצד לנהל את מצב ההקשר כולו סביב המודל: הוראות המערכת, הכלים, הנתונים החיצוניים, היסטוריית ההודעות והסביבה.

זוהי תמורה עמוקה. המשמעות היא שהמרכז כבר אינו על השאלה 'מה עליי לשאול את המודל?', אלא על השאלה 'איזו סביבה, מצב ומגבלות המערכת צריכה לדעת מראש, לפני שישאלו אותה שאלות כלשהן?'. Anthropic מדגישה נקודה זו בהנחיותיה לסוכנים ארוכי טווח, שם היא מדגישה את ניהול הסביבה ואת הצורך להקים סוכנים עתידיים עם ההקשר הנדרש כדי לפעול ביעילות לאורך זמן ולטווחים ארוכים יותר.

מהפכה שקטה: הארגונים שמשנים את הכללים

השינוי הזה אינו תיאורטי עוד. ארגונים רבים כבר מיישמים אותו בפועל. הם משלבים בינה מלאכותית בתהליכים קיימים, משנים את זרימת העבודה ומוציאים ממנה תועלת עסקית אמיתית. המערכות הללו אינן מתבססות על שאילתות נקודתיות, אלא על זיכרון מתמשך, הקשר מובנה ומגבלות ברורות. הן פועלות מתחת לפני השטח, כחלק בלתי נפרד מהתשתית הארגונית.

העתיד של הבינה המלאכותית הארגונית אינו טמון בכלים שטחיים או בצ'אטבוטים משופרים, אלא במערכות עמוקות שמשנות את האופן שבו חברות פועלות. המעבר הזה כבר מתרחש, והארגונים שמבינים זאת הם אלו שיצליחו.