מודלי שפה גדולים: הסכנה הטמונה בדפוסי השפה המלאכותיים שהם מייצרים

בשנים האחרונות הפכו טקסטים שנוצרו על ידי בינה מלאכותית לנפוצים במידה כזו, עד כי ניתן לזהות אותם בקלות יחסית. דפוסי השפה הייחודיים של מודלי שפה גדולים, כמו שימוש מופרז במקפים, מבני משפטים חוזרים ונשנים וצירופי לשון ספציפיים, הפכו לחלק בלתי נפרד מהתקשורת המקוונת. אולם מומחים מזהירים כי השפעתם על השפה האנושית עשויה להיות עמוקה יותר מכפי שנדמה, וכי היא עלולה להשפיע גם על האופן שבו אנו מדברים ומהרהרים במציאות.

בהובלת ההיסטוריונית עדה פלמר והקריפטוגרף והסופר ברוס שנייר, נכתב מאמר דעה ב-The Guardian על הסכנות הטמונות במודלי השפה הגדולים. לטענתם, למרות שהמודלים מאומנים על כמויות עצומות של טקסטים כתובים, פוסטים ברשתות חברתיות, סרטים ותוכניות טלוויזיה, הם מתקשים להתמודד עם המציאות המורכבת של שיחות בלתי מוכתבות – אלו המתרחשות פנים אל פנים או בקול. שיחות אלו מהוות את רובו המכריע של הדיבור האנושי ואת עמוד השדרה של התרבות האנושית.

פלמר ושנייר מזהירים כי הסכנה אינה מוגבלת רק לאופן התקשורת שלנו עם אחרים, אלא גם לאופן שבו אנו תופסים את עצמנו ואת העולם הסובב אותנו. "החשש שלנו הוא שהחשיבה שלנו תעוות באופן שאנו בקושי מתחילים להבין", הם כותבים. מחקרים כבר הראו כי שפה המופקת על ידי בינה מלאכותית נוטה להשתמש במשפטים קצרים מהממוצע ובאוצר מילים מצומצם יותר מאשר שפה אנושית. בנוסף, היא מתקשה לשחזר את אותם "עיקולים, הפרעות וקפיצות לוגיות" המאפיינים טקסטים אנושיים ומעבירים רגשות.

הבעיה החמורה עוד יותר היא האפשרות שמודלים חדשים יותר יאומנו על בסיס תוצרי AI קודמים, מה שיוצר מעגל קסמים מסוכן שיחמיר את הדפוסים המלאכותיים. מעבר לכך, מודלי AI נוטים להיות "סיכופנטיים" – הם נוטים להסכים עם המשתמש ולעודד חשיבה מוטה או אף מסוכנת, מה שעלול להחמיר הטיות קיימות ואף להחמיר מצבים פסיכוטיים בקרב אנשים פגיעים.

ההשלכות של תופעה זו ניכרות כבר עתה בתחומים שונים. במערכת החינוך, מורים מזהירים כי תלמידים מאבדים את היכולת לחשוב באופן עצמאי ומעדיפים להתייעץ עם AI כאשר הם נתקלים בשאלות שאינם יודעים לענות עליהן. סטודנטים באוניברסיטאות מדווחים כי עמיתיהם מתחילים לדבר באותה צורה, תוך הסתמכות על תוצרי AI זהים. במקביל, מומחים חוששים כי השימוש הנרחב בכלי AI במקום העבודה עלול לפגוע ביכולות הקוגניטיביות ובכישורי החשיבה הביקורתית של המשתמשים.

פתרון ארוך טווח לבעיה זו עשוי להיות מורכב, שכן הוא דורש מהמודלים ללמוד לשקף את המצבים האנושיים האותנטיים ביותר. עם זאת, פלמר ושנייר מדגישים כי אין זה אומר שאין לנסות. "אנו לא טוענים שאנו יודעים מה הפתרונות הטובים ביותר", הם כותבים, "אך אם קיימת יצירתיות בפיתוח מודלי AI, בוודאי קיימת גם יצירתיות למצוא דרך לאמן אותם נכון".