דיון | תשובה קבועה לבחירת מספר אקראי

[הערשלה]

ובכן, אם תבקשו מג'מיני (?) או מג'יפיטי "בחר מספר אקראי מאחד עד שלושים" - כמעט תמיד התשובה תהיה 17 (נבדק גם בפרו)...

ככל הנראה הסיבה לזה היא שמודל הai אינו מגריל באמת מספר רנדומלי, אלא משתמש בכל מיני מניפולציות כדי לגרום לך להרגיש שהמספר שנבחר נבחר באקראיות. לכן הוא נמנע ממספרי קצה או ממספרים עגולים מדי, (אם כי זה עדיין לא מסביר את צרות התשובה ברמה הזו).

מה אתם אומרים?

[צדיק וטוב לו]

@הערשלה מ 1 עד 10 הוא יגיד 7
ויש לזה הסבר לוגי, ראיתי בעבר.

[מוקד המערכות]

@הערשלה אני תמיד אומר 7, לא יודע למה, אבל יצא בפוקס עם ג'ימני

[אברהם גלסר]

[מוקד המערכות]

Spoiler

@הערשלה

פייק ניוז, יצא לי 14

עריכה :
גם בAPI של ג'ימיני.

[מוקד המערכות]

@הערשלה
כל פעם משהו אחר.

[הערשלה]

@מוקד-המערכות @אברהם-גלסר אכן, בג'מיני זו טעות. בג'יפיטי בינתיים נכון בבדיקות שלי

[לעכשיו]

ניסיתי עכשיו בג'ימיני ב4 חשבונות שונים ובכולם קיבלתי את המספר-17!

[מומחה123]

@הערשלה כתב:

ובכן, אם תבקשו מג'מיני או מג'יפיטי "בחר מספר אקראי מאחד עד שלושים" - כמעט תמיד התשובה תהיה 17 (נבדק גם בפרו)...

ככל הנראה הסיבה לזה היא שמודל הai אינו מגריל באמת מספר רנדומלי, אלא משתמש בכל מיני מניפולציות כדי לגרום לך להרגיש שהמספר שנבחר נבחר באקראיות. לכן הוא נמנע ממספרי קצה או ממספרים עגולים מדי, (אם כי זה עדיין לא מסביר את צרות התשובה ברמה הזו).

מה אתם אומרים?

אחרי שהוא ענה כמובן 17, זה מה שג'מיני פרו מורחב הסביר לי למה זה קורה, בספויילר:

Spoiler

הדיון הזה מפורום "בינה טופ" נוגע בנקודה מרתקת מאוד, והמשתמשים שם עלו בדיוק על הסיבה! התופעה הזו שבה מודלי AI בוחרים במספר 17 (או 7 כשמבקשים מספר מ-1 עד 10) היא תופעה מוכרת היטב, והיא נובעת משילוב של פסיכולוגיה אנושית והדרך שבה בינה מלאכותית פועלת.

הנה מה שבאמת עומד מאחורי ה"אקראיות" הזו:

1. מודלי שפה אינם זורקים קוביות
   כברירת מחדל (אלא אם המודל כותב ומריץ קוד פייתון ברקע לצורך ההגרלה), מודלי שפה לא משתמשים בפונקציה מתמטית של רנדומליות. אנחנו מנועים סטטיסטיים שחוזרים ומנבאים את המילה (או הטוקן) הבאה. כשהמודל מקבל את הפרומפט "בחר מספר אקראי", הוא בעצם שואל את עצמו: "בטקסטים אנושיים שעליהם אומנתי, מהי התשובה הנפוצה ביותר שמגיעה אחרי בקשה כזו?"

2. ההטיה האנושית (Human Bias) כלפי המספר 17
   התשובה של המודל היא פשוט השתקפות של המוח האנושי. מחקרים פסיכולוגיים מראים שכשמבקשים מבני אדם לבחור "מספר אקראי" בין 1 ל-20 (או 30), המספר 17 הוא הבחירה הנפוצה ביותר בפער ענק. למה זה קורה?

אנשים נמנעים ממספרי קצה (1, 2, 29, 30).

אנשים נמנעים ממספרים זוגיים, כי הם נתפסים כ"עגולים" ומסודרים מדי, ולכן לא מרגישים אקראיים.

אנשים נמנעים מכפולות של 5 (5, 10, 15, 20) בדיוק מאותה סיבה.

המספר 17 הוא מספר ראשוני (מתחלק רק בעצמו וב-1), מרגיש "תלוש" ולכן נתפס בתת-מודע שלנו כמספר הרנדומלי האולטימטיבי.

3. "המספר האקראי הרשמי"
   בקרב מתכנתים, האקרים ואנשי מתמטיקה (במיוחד סביב תרבות המחשבים של MIT), ישנה בדיחה מוכרת וותיקה על כך ש-17 הוא המספר האקראי ביותר. מכיוון שהבדיחה והדיונים האלו מופיעים פעמים רבות ברחבי האינטרנט, מודל ה-AI קורא אותם במהלך האימון שלו, מה שמחזק עוד יותר את הקשר הסטטיסטי בין המילה "אקראי" למספר "17".

אז לסיכום - חברי הפורום צודקים לחלוטין. ה-AI לא באמת מגריל במקרה הזה, אלא עושה מניפולציה שמבוססת על סטטיסטיקה אנושית כדי לספק את מה שנראה הכי "נכון" כהגרלה.

[לעכשיו]

לעכשיו כתב:

ניסיתי עכשיו בג'ימיני ב4 חשבונות שונים ובכולם קיבלתי את המספר-17!

אגב, כשביקשתי באותה השיחה שוב מספר אקראי הוא נותן תמיד (או כמעט תמיד) 23

[mmma]

GPT
42

[הערשלה]

@mmma כתב:

GPT
42

מכמה עד כמה?

[mmma]

@הערשלה סתם

[הערשלה]

@mmma סתם בחירת מספר אקראי? בלי טווח?

[לעכשיו]

@הערשלה כתב:

@mmma סתם בחירת מספר אקראי? בלי טווח?

כן. (גם לי בג'מיני, אבל רק חלק מהפעמים)

Spoiler

אגב, זה דווקא כן הגיוני...

[חובבן מקצועי]

Spoiler

@לעכשיו כתב:

אגב, זה דווקא כן הגיוני...

קצת מוזר שהוא כל הזמן מגיע לאותה מסקנה.
הטמפרטורה שלו לא אמורה להביא אותו לתשובה שיותר מדי חוזרת על עצמה..

(אלא אם כן זה ממש הסתברותי (בלי רזינינג), וברוב הפעמים בטקסט שעליו הוא אומן על 'מספר אקראי' זה היה מספר 17..
או שאני לא מבין את העניין כלל..)
@א.מ.ד. נשמח להסבר..

[א.מ.ד.]

@חובבן-מקצועי כתב:

הטמפרטורה שלו לא אמורה להביא אותו לתשובה שיותר מדי חוזרת על עצמה..

זה לא לגמרי ברור, אבל אני חושב שהנוכחות של מספר מסוים בנתוני האימון כ"מספר אקראי" היא כל כך גבוהה עד כדי כך שטמפרטורה לא משפיעה על זה.

אגב, התופעה הזאת מתרחשת במקרים רבים נוספים, לדוגמא בקשו ממנו סיפור מסוים, ובדרך כלל גיבורי הסיפור יהיו עם אותו שם.
לדוגמא, אם תבקשו ממנו "תן לי שם אקראי של שוטר" בדרך כלל GPT ייקרא לו אורי מזרחי או איתי מזרחי... ובאופן כללי הוא מאוד אוהב את השם איתי...

[המלאך]

@חובבן-מקצועי זה בכלל לא קשור לטמפטרטורה.
גם אם הוא ילך על חיבורי ווקטורים רחוקים יותר הוא יגיע לאותה תוצאה, זה לא ׳חישוב׳, זה ׳אין אופציה אחרת׳.

[חובבן מקצועי]

@המלאך נראה לך שכל המספרים ה'אקראיים' באינטרנט הם המספר 17? נגיד והוא אומן על 90 אחוז מהמקרים שהמספר האקראי הוא 17, אז אם תשים טמפרטורה קיצונית, הוא לא יהסס לקחת מה10 אחוז..

[המלאך]

@חובבן-מקצועי טמפרטורה לא באמת יכולה לשבור את הבסיס של הדרך שבה הוא חושב.

והוא חושב סטטיסטיקה.
לקחת סיכון גבוה יותר ממש לא אומר לקחת את ה10 לעומת ה90!