בירור | איך נוצרו עוד מודלי AI?

[החכמולוג]

כמו שכולם יודעים GPT הוא ה-AI הראשון

אבל איך צצו עוד הרבה מודלי AI?

GPT שיתפו את הקוד של ה-AI?

אשמח להבין..

וסליחה אם השאלה שלי טיפשית

כי אני לא מבין הרבה בנושאים כאלו.

[בינה יתרה]

@החכמולוג כתב:

כמו שכולם יודעים GPT הוא ה-AI הראשון

אבל איך צצו עוד הרבה מודלי AI?

GPT שיתפו את הקוד של ה-AI?

אשמח להבין..

וסליחה אם השאלה שלי טיפשית

כי אני לא מבין הרבה בנושאים כאלו.

1. השאלה קצת מוזרה.
   כי בדיוק כמו ש-OpenAI המציאו משהו מאפס כך יכלו שאר החברות להמציא משהו מאפס.
2. לגבי עצם השאלה, זה ממש לא נכון שOpenAI היו הראשונים.
   הנה סקירה קצרה:

הסיפור המלא של עולם ה־AI: מגוגל, דרך טאי של מיקרוסופט ועד ל־GPT[[/H]]

הבינה המלאכותית איתנו כבר עשרות שנים, אבל המהפכה המודרנית שאנחנו מכירים היום התבשלה במשך שנים דרך כמה תחנות דרך דרמטיות.

הבסיס המדעי של גוגל (2017)[[H]]
הטכנולוגיה שעליה בנויים כל מודלי השפה הגדולים כיום נקראת Transformer (האות T ב־GPT). מי שהמציא ופרסם את הארכיטקטורה המהפכנית הזו לעולם היו חוקרים של גוגל בשנת 2017. אם גוגל המציאו את הטכנולוגיה, למה הם לא הוציאו ראשונים צ'אטבוט כמו ChatGPT? משום שהם היו חברה ענקית ושמרנית עם מוניטין עצום להפסיד. מודלי AI נוטים להמציא עובדות לפעמים, ובשביל מנוע החיפוש המוביל בעולם, שחרור של כלי שפולט מידע שגוי בביטחון היה סיכון תדלקי ענק.

האזהרה הראשונה: טאי של מיקרוסופט (2016)[[H]]
עוד לפני טירוף ה־GPT, בשנת 2016, מיקרוסופט ניסתה את מזלה והשיקה בוטית שיחה בשם Tay בטוויטר, שהייתה אמורה ללמוד בזמן אמת מהשיחות עם גולשים. הניסוי הסתיים באסון תדלקי: טרולים באינטרנט הציפו את הבוטית במסרים גזעניים ופוגעניים, ותוך פחות מיממה היא התחילה לדבר בצורה גסה וקיצונית. מיקרוסופט נאלצה לסגור אותה בבהלה, וזה הפך ללקח היסטורי בתעשייה על הסיכונים שבלתת ל־AI ללמוד באופן חופשי לחלוטין.

ההימור של OpenAI ופריצת הדרך של ChatGPT (2022)[[H]]
בזמן שגוגל נזהרו ומיקרוסופט נכוותה בעבר, OpenAI (שקיבלה בהמשך השקיע ענק ממיקרוסופט) החליטה לקחת את הסיכון. הם לקחו את ארכיטקטורת הטרנספורמר, חיברו אליה עוצמות מחשוב אדירות ומאגרי מידע עצומים, ובנו את מודלי ה־GPT. בנובמבר 2022 הם שחררו את ChatGPT לציבור הרחב בחינם. העולם פשוט השתגע והמוצר הפך למהיר בהיסטוריה לצבור מיליון משתמשים.

הפיצוץ הגדול: כולם נכנסים למשחק[[/H]]
ברגע ש־OpenAI פתחו את הדלת והוכיחו שהשוק מוכן, שאר הענקיות זינקו למגרש. גוגל מיהרה להכריז על "קוד אדום" והוציאה את Gemini, חברת Meta שחררה את מודלי LLaMA בקוד פתוח כדי שכל העולם יוכל להשתמש בהם, וחברות נוספות כמו Anthropic פיתחו את Claude.

כך נוצר מצב שבו גוגל הניחה את היסודות המדעיים, ניסיונות עבר כמו של מיקרוסופט לימדו את התעשייה על גבולות הבטיחות, ו־OpenAI בסופו של דבר פרצה את הדרך למהפכה שכולנו חיים בתוכה היום.

[החכמולוג]

אבל איך עוד חברות ידעו את הקוד של ה-AI

איך הם ידעו ליצור?

[בינה יתרה]

@החכמולוג כתב:

אבל איך עוד חברות ידעו את הקוד של ה-AI

איך הם ידעו ליצור?

מה הכוונה?
איך OpenAI ידעו את הקוד?

[החכמולוג]

לא אחרי שOPEN AI השיקו את ה-AI הראשון איך עוד חברות ידעו ליצור גם?

[בינה יתרה]

@החכמולוג כתב:

לא אחרי שOPEN AI השיקו את ה-AI הראשון איך עוד חברות ידעו ליצור גם?

לא מבין את השאלה.
בדיוק כמו שOpenAI יצרו מודל מאפס, כי לא היה אף אחד לפניהם
כך שאר החברות יצרו מודל מאפס, כי OpenAI לא שחררו את הקוד של המודל

[החכמולוג]

בדיוק אחרי ש-GPT השתחרר לעולם?
אז למה לא התחילו ליצור מהרגע שיצא ה-AI הקודמת של מייקרוסופוט?

[בינה יתרה]

@החכמולוג כתב:

בדיוק אחרי ש-GPT השתחרר לעולם?
אז למה לא התחילו ליצור מהרגע שיצא ה-AI הקודמת של מייקרוסופוט?

1. קודם כל הAI של מיקרוסופט לא היה מודל שפה, והוא רק למד משפטים ממשתמשים אחרים - לא יותר.
2. הפיתוח של גוגל לגבי הבנת טקסט יצא רק בסוף 2017 כך שרק אז באמת היה אפשר להתחיל לפתח מודלי שפה אמיתיים.
3. אגב, OpenAI הוציאו את המודל שפה הראשון שלהם ב 2018.

וסתם כך, גוגל באמת לא רצו להיכנס למירוץ עד שהם היו מוכרחים (לאחר שOpenAI צברו מיליון משתמשים תוך חמישה ימים בלבד, וכל מנוע החיפוש שלהם עמד בפני קריסה) למרות שהיו להם את כל הכלים - כאמור, בסוף 2017.

[המלאך]

@החכמולוג תקרא את זה.

https://bina.top/topic/139/מדריך-ai-איך-הכל-התחיל-המדריך-הראשון-בסדרת-המדריכים

זה יסביר לך הרבה.

[א.מ.ד.]

@החכמולוג המודלים הראשונים ורוב אבני הדרך שהובילו אליהן היו בקוד פתוח.