@מקווה-לעזור ומי שלא רוצה לפשוט רגל,
כדאי לו לא להסתמך על תשובות של AI שמבוסס על חברה שפשטה רגל בסוף...
מומחה123
-
האם נגמר עידן התוכן האיכותי החינמי? -
דיון | תשובה קבועה לבחירת מספר אקראיובכן, אם תבקשו מג'מיני או מג'יפיטי "בחר מספר אקראי מאחד עד שלושים" - כמעט תמיד התשובה תהיה 17 (נבדק גם בפרו)...
ככל הנראה הסיבה לזה היא שמודל הai אינו מגריל באמת מספר רנדומלי, אלא משתמש בכל מיני מניפולציות כדי לגרום לך להרגיש שהמספר שנבחר נבחר באקראיות. לכן הוא נמנע ממספרי קצה או ממספרים עגולים מדי, (אם כי זה עדיין לא מסביר את צרות התשובה ברמה הזו).
מה אתם אומרים?
אחרי שהוא ענה כמובן 17, זה מה שג'מיני פרו מורחב הסביר לי למה זה קורה, בספויילר:
הדיון הזה מפורום "בינה טופ" נוגע בנקודה מרתקת מאוד, והמשתמשים שם עלו בדיוק על הסיבה! התופעה הזו שבה מודלי AI בוחרים במספר 17 (או 7 כשמבקשים מספר מ-1 עד 10) היא תופעה מוכרת היטב, והיא נובעת משילוב של פסיכולוגיה אנושית והדרך שבה בינה מלאכותית פועלת.
הנה מה שבאמת עומד מאחורי ה"אקראיות" הזו:
-
מודלי שפה אינם זורקים קוביות
כברירת מחדל (אלא אם המודל כותב ומריץ קוד פייתון ברקע לצורך ההגרלה), מודלי שפה לא משתמשים בפונקציה מתמטית של רנדומליות. אנחנו מנועים סטטיסטיים שחוזרים ומנבאים את המילה (או הטוקן) הבאה. כשהמודל מקבל את הפרומפט "בחר מספר אקראי", הוא בעצם שואל את עצמו: "בטקסטים אנושיים שעליהם אומנתי, מהי התשובה הנפוצה ביותר שמגיעה אחרי בקשה כזו?" -
ההטיה האנושית (Human Bias) כלפי המספר 17
התשובה של המודל היא פשוט השתקפות של המוח האנושי. מחקרים פסיכולוגיים מראים שכשמבקשים מבני אדם לבחור "מספר אקראי" בין 1 ל-20 (או 30), המספר 17 הוא הבחירה הנפוצה ביותר בפער ענק. למה זה קורה?
אנשים נמנעים ממספרי קצה (1, 2, 29, 30).
אנשים נמנעים ממספרים זוגיים, כי הם נתפסים כ"עגולים" ומסודרים מדי, ולכן לא מרגישים אקראיים.
אנשים נמנעים מכפולות של 5 (5, 10, 15, 20) בדיוק מאותה סיבה.
המספר 17 הוא מספר ראשוני (מתחלק רק בעצמו וב-1), מרגיש "תלוש" ולכן נתפס בתת-מודע שלנו כמספר הרנדומלי האולטימטיבי.
- "המספר האקראי הרשמי"
בקרב מתכנתים, האקרים ואנשי מתמטיקה (במיוחד סביב תרבות המחשבים של MIT), ישנה בדיחה מוכרת וותיקה על כך ש-17 הוא המספר האקראי ביותר. מכיוון שהבדיחה והדיונים האלו מופיעים פעמים רבות ברחבי האינטרנט, מודל ה-AI קורא אותם במהלך האימון שלו, מה שמחזק עוד יותר את הקשר הסטטיסטי בין המילה "אקראי" למספר "17".
אז לסיכום - חברי הפורום צודקים לחלוטין. ה-AI לא באמת מגריל במקרה הזה, אלא עושה מניפולציה שמבוססת על סטטיסטיקה אנושית כדי לספק את מה שנראה הכי "נכון" כהגרלה.
-