ברוב המוחלט של המקרים, התשובה שתקבלו היא 7.
זה לא מקרי, זה לא "באג", וזה בטח לא אומר של-AI יש מזל. האמת מאחורי זה היא השיעור הכי חשוב שאתם צריכים ללמוד על מודלי שפה (LLMs) לפני שאתם מטמיעים אותם בארגון שלכם.
המראה הסטטיסטית של האנושות
מודל שפה הוא לא "ישות" חושבת. הוא לא מחליט, הוא לא מתלבט, והוא בטח לא מקור אמת אבסולוטי. הוא מנגנון סטטיסטי מתוחכם שמנחש מהו הטוקן (המילה או הסימן) הבא שהכי סביר שיופיע ברצף.
אז למה דווקא 7?
כי המודלים האלו אומנו על הררי מידע שאנחנו, בני האדם, כתבנו. ומחקרים פסיכולוגיים (כמו תופעת ה"Blue-Seven") מוכיחים שכשאנשים מתבקשים לבחור מספר אקראי, הם נוטים לבחור ב-7 באופן לא פרופורציונלי. 5 ו-10 מרגישים לנו "עגולים" מדי, הזוגיים מרגישים תבניתיים, ו-7 נתפס בתודעה האנושית כשיא ה"אקראיות".
ה-AI פשוט משקף לנו את ההטיות של עצמנו. אם זה מה שמופיע הכי הרבה בנתוני האימון - זה מה שהוא יפלוט.
הלקח המקצועי: אל תתנו למכונה להוביל אתכם
ההבנה הזו קריטית לכל מי שעוסק ב-AI:
אל תייחסו לו אישיות: הוא לא "חושב" ש-7 זה מספר יפה.
אל תסמכו על דעה: כשאתם שואלים לדעתו המקצועית, אתם מקבלים את הממוצע הסטטיסטי של האינטרנט, לא בהכרח את התשובה הנכונה ביותר עבורכם.
הנדסת פרומפטים היא המפתח: בלי הנחיה מדויקת שתשבור את הסטטיסטיקה היבשה, תקבלו תוצרים בינוניים וצפויים.
כשאנחנו בונים סוכני AI או אוטומציות חכמות, המטרה שלנו היא לקחת את כוח המחשוב הזה ולכוון אותו מעבר ל"ממוצע האנושי".
נו, ניסיתם? איזה מספר קיבלתם?
(אם זה 7, אל תופתעו. אם זה מספר אחר - כנראה שהמודל שלכם הריץ סקריפט קטן מאחורי הקלעים כדי להיות באמת אקראי).
כמה זה עזר לכם?
טרם דורג — היו הראשונים
התחברו עם Google כדי לדרג