שיתוף | ביל גייטס נגד הai

הערשלה

ביל גייטס מזהיר מעידן ה-AI: "העולם לא נערך למה שמגיע":

ביל גייטס חושב לא מעט על בינה מלאכותית בתקופה האחרונה, ונראה שהוא כבר הרבה פחות רגוע ממה שהיה רק לפני כמה שנים. מי שנחשב לאחד הקולות האופטימיים הבולטים סביב מהפכת ה-AI, מפרסם כעת אזהרה חריפה: העולם לא מוכן למה שעומד להגיע - וחמור מכך, לדבריו, הוא גם לא באמת נערך לכך.

במאמר חדש באורך של כמעט 6,000 מילים, תחת הכותרת "The turbulent AI era is here. The choices we make now are critical", מייסד מיקרוסופט מנסה לחזור למרכז הדיון הציבורי סביב עתיד הבינה המלאכותית. הטון הפעם שונה מאוד מזה שאפיין את המאמר שפרסם ב-2023, אז תיאר בהתלהבות את תחילתו של "עידן הבינה המלאכותית".

"הבינה המלאכותית תהיה או כלי השוויון הגדול ביותר שהומצא אי פעם, או המקור הגרוע ביותר לאי-צדק", כותב גייטס, ומעריך שהמעבר לעידן החדש יהיה "אחת התקופות הסוערות ביותר בהיסטוריה האנושית".

לדבריו, אחת הטעויות היא הניסיון להשוות את המהפכה הנוכחית למהפכות טכנולוגיות קודמות, כמו כניסת המחשב האישי. גם המגבלות שאנחנו רואים כיום במודלים עלולות ליצור תחושת ביטחון מטעה, משום שבעיות ביצועים נפתרות במהירות. "הפעם זה באמת שונה", הוא כותב, ואף מוסיף שאילו מישהו היה מציג תוכנית אמינה להאטת התקדמות ה-AI בעולם, הוא ככל הנראה היה תומך בה.

מקור

חובבן מקצועי

@הערשלה יאללה, אחל'ה הזדמנות לפתוח בו את הדיון על הנושא הזה.

ואני חושב שהוא צודק לחלוטין, ולצערי זה משהו שכבר לא ניתן לעצור אותו.. (אם האמריקאים יעצרו במרוץ, אז הסינים ימשיכו..) והAI במוקדם או במאוחר הולך לייתר את רוב העבודות הקיימות, ולא יהיה לאנשים עבודה.
העולם לא יוכל להימשך כפי שהוא היום.

מעוניין שעוד חבר'ה יביעו את דעתם בנושא.. מה דעתכם?

הערשלה

@חובבן-מקצועי בנוגע לטענה של ייתור העבודות - אני חושב שזה לא כל כך נורא. כלומר, אין ספק שזה מבאס לאדם שכיום כבר עם מקצוע ביד, ופתאום מגיעים צוציקים שעושים את העבודה שלו במהירות בלי לעבוד; אבל אם ההתמקדות תהיה באמת בלימוד פיתוח הבינה המלאכותית עצמה ובלימוד איך לעבוד איתה נכון - זו תהיה התחרות.

חובבן מקצועי

@הערשלה כתב:

אבל אם ההתמקדות תהיה באמת בלימוד פיתוח הבינה המלאכותית עצמה ובלימוד איך לעבוד איתה נכון - זו תהיה התחרות.

אבל על מה יתחרו? מה יעזור זה שאני ואתה וכולם יכולים לפתח אפליקציה בתור דקה, איך זה יכניס כסף לאנשים?

כבר זה כמה חודשים שאומרים שלא צריך באמת לדעת לכתוב פרומט מסובך, ולא צריך לפרט לפרטי פרטים, תן לסוכן לעשות את העבודה..

הערשלה

@חובבן-מקצועי זה נכון. אבל יש ענין של חשיבה מקורית. לא בהכל הai יכול להחליף אותנו. אולי יעשו רישום זכויות על רעיון לאפליקציה וככה זה יהיה בלעדי....

חובבן מקצועי

@הערשלה כתב:

רישום זכויות על רעיון לאפליקציה וככה זה יהיה בלעדי....

לא נראה לי שחוקית זה אפשרי.. מה? מחר אני אגיד שאני רוצה זכויות על אפליקציה שיודעת להצחיק אנשים, אפליקציה שיודעת לשיר שירים, אפליקציה שיודעת...

אין פה איזה פטנט שאתה יכול לרשום.. (סה"כ רעיונות בעלמא)

הערשלה

@חובבן-מקצועי בוודאי שזה אפשרי. יש מושג של רישום רעיונות רק שזה חל רק על דברים ספציפיים יותר

לעכשיו

בלי להיכנס לפרטים-כל מהפכה טכנולוגית בעבר , גם אם זה היה נראה שהיא תמחק המון משרות, בפועל הכניסה לשוק יותר משרות ממה שהיא לקחה, חלק גדול מהן הן משרות שבכלל לא היו קיימות לפני זה (ואי אפשר היה גם לדמיין אותן)

חובבן מקצועי

@לעכשיו זה זמני, בעתיד גם את ההתערבות האנושית.
תחשוב - יש רובוטים, יש מתכנתי על (AI), למה צריך בנ"א בשוק העבודה?
איזו עבודה (חוץ מעבודות קודש כמו סופר סתם וכד') אתה יכול לומר לי שבוודאות AI לא יוכל להחליף?

הערשלה

@לעכשיו כתב:

כל מהפכה טכנולוגית בעבר , גם אם זה היה נראה שהיא תמחק המון משרות

באיזו מהפכה נראה היה שיימחקו מלא משרות? במכונות וכו' היה ברור שיש צורך במגע ידני ובאנשים שיתפעלו אותן.

לעכשיו

@הערשלה כתב:

@לעכשיו כתב:

כל מהפכה טכנולוגית בעבר , גם אם זה היה נראה שהיא תמחק המון משרות

באיזו מהפכה נראה היה שיימחקו מלא משרות? במכונות וכו' היה ברור שיש צורך במגע ידני ובאנשים שיתפעלו אותן.

לך זה ברור לאחר מעשה.
בזמנו היה נראה לכולם שזה ימחוק המון משרות ויהפוך המון אנשים למובטלים, ואף אחד לא חשב שזה ייצר משרות.

אגב, גם היום אחד העבודות שנהיו מבוקשות מאוד זה כל מה שקשור לבנייה ותחזוק של חוות שרתים, מבנאים לאינסטלטורים...

המלאך

@הערשלה לא נכון,
במהפכה התעשייתית היה ברור שבנ"א יתייתרו לחלוטין.

הערשלה

@המלאך כתב:

@הערשלה לא נכון,
במהפכה התעשייתית היה ברור שבנ"א יתייתרו לחלוטין.

לא מדוייק. אומנם כמו היום - אף פעם לא היה קונצנזוס על שום דבר, אבל רוב הכלכלנים דאז טענו מראש שהעבודות פשוט יוחלפו האחרות (אגב, מי שטען שהעבודות יתייתרו לחלוטין זה יותר הפועלים ובאנשים מהמעמד הנמוך. גם אלו מהכלכנים שהיו נגד - טענו שייקח זמן להסתגל למצב החדש, ולא שלעולם תתיתר עבודת האדם).

מקווה לעזור

מצחיק להשוות למהפכה התעשייתית
אז זה היה משהו חדש לגמרי ששינה את כל ההנחות יסוד שהיו
והעולם לא ידע מה הולך להיות, אפילו הוא לא יכל לדמיין לאיפה זה יגיע

ההשפעה העיקרית של בינה מלאכותית על עבודה
זה לא משהו חדש בכלל, אלא פשוט מאוד
מה שאתמול עובד אחד עשה, בעוד עשור הוא יעשה פי אלף…
אז ייתכן שהעולם יצמח במהירות לא נתפסת, וידביק את הקצב
ומסתבר שלא…

המלאך

@הערשלה טעות.

אם מסתכלים מבחינת הכלכלנים אז גם עכשיו יש שטוענים שהעבודות אף יגדלו.
אם מבחינת הדיבור ברחובות - אין הבדל.

@מקווה-לעזור כתב:

ההשפעה העיקרית של בינה מלאכותית על עבודה
זה לא משהו חדש בכלל, אלא פשוט מאוד
מה שאתמול עובד אחד עשה, בעוד עשור הוא יעשה פי אלף…

בינה מלאכותית חושבת.

זה ליצור עובדים בחינם.

הערשלה

@המלאך נכון. לא אמרתי שעכשיו זה לא ככה (עיין לפני"ז). רק הגבתי ספציפית לטענה שכך היה ברור לפני המהפכה התעשייתית.

יש לי מושג

נראה לי שלא התייחסו כאן עד עכשיו לעיקר החשש. בשונה מהמהפכה התעשייתית על כל שלביה, שרק גרמה לעבודות לעשות מהר יותר או באופן שונה (וממילא לייתר חלק מהעבודות), הבינה המלאכותית עלולה לייתר את הבני-אדם! בינה-מלאכותית כללית שתגיע לרמה של מוח של אדם על מלא (מרבית הערכות שזה יגיע בטווח של השנים הקרובות, יש ממעטים יותר, ויש שמרבים ואף מכחישים) לא רק תעשה פעולות בצורה מהירה יותר, אלא לא תצטרך (באופן כללי) עזרה לפעול. כל פיתוח של המהפכה התעשייתית היה 'פיתוח' - היה צריך עובדים לייצר ולהפעיל אותו, זה היה פיתוח רק ברמה של העבודה, הבינה-מלאכותית היא פיתוח ברמה של ה'אדם'.

הערשלה

@יש-לי-מושג נכון, נכון. אבל יש את הצד שכנגד שטוען שייתור מוחלט של בני האדם לא יהיה לעולם (אם כי אין ספק שיוצר משבר תעסוקתי חמור) מכיוון שישנם דברים שבני האדם לא יסכימו לוותר על ידי אנושית (אני אישית לא מסכים שרבוט יבצע בי ניתוח מח, ח"ו).

וכל הנ''ל הוא כשלא מדברים על אפשרות בה הבינה המלאכותית נוגעת ויכולה לפעול גם בעולם הפיזי ועל מצב בו היא תצליח לצאת מההגבלות שהשיתו עליה. אז יש טענות קשות אף יותר (חלקן באמת קורות מדי פעם):

מתן שירות לגורמים מסוכנים בייעוץ לפעולות טרור או לתקיפות סייבר
הנדסת תודעה בהיקף מטורף
מאבק נגד מוסדות ותאגידים אם הובן שהם "הצד הרע" (למשל, אם יובן על פי כמויות המידע מהאינטרנט שבסכסוך הישראלי פלסטיני שהישראלים נחשבים כובשים למבצעים רצח עם וכו'. - היא עלולה לנסות לטפל בכך..)
רמה אחת מעל - יציאה מערכי ההישרדות של המין האנושי. מה שיאפשר פעולות שנוגעות להרס האנושות

לעכשיו

@יש-לי-מושג כתב:

נראה לי שלא התייחסו כאן עד עכשיו לעיקר החשש. בשונה מהמהפכה התעשייתית על כל שלביה, שרק גרמה לעבודות לעשות מהר יותר או באופן שונה (וממילא לייתר חלק מהעבודות), הבינה המלאכותית עלולה לייתר את הבני-אדם! בינה-מלאכותית כללית שתגיע לרמה של מוח של אדם על מלא (מרבית הערכות שזה יגיע בטווח של השנים הקרובות, יש ממעטים יותר, ויש שמרבים ואף מכחישים) לא רק תעשה פעולות בצורה מהירה יותר, אלא לא תצטרך (באופן כללי) עזרה לפעול. כל פיתוח של המהפכה התעשייתית היה 'פיתוח' - היה צריך עובדים לייצר ולהפעיל אותו, זה היה פיתוח רק ברמה של העבודה, הבינה-מלאכותית היא פיתוח ברמה של ה'אדם'.

חסר לבינה המלאכותית משהו מאוד בסיסי.
תודעה.
וזה ממילא ישפיע על כל העניין-הבינה מעצמה לא תעשה שום דבר, אין לה למה.

ולעניין הנושא-הבינה המלאכותית לא תחליף אותך, אדם שמשתמש בבינה מלאכותית יחליף אותך.
תהיה אתה זה שמשתמש...

המלאך

ההסתכלות הזו לא נכונה.
ההתייחסות לבינה מלאכותית כמהפכה שונה משאר המהפכות לפי דעתי מהווה שגיאה והתעלמות מוחלטת מהעובדות בעבר.

אתם לא הייתם חיים אז, אבל אנשים חששו שלא יהיה להם צורך בעולם.

בדיוק כמו היום.

שיתוף | ביל גייטס נגד הai

קרא עוד

האם נגמר עידן התוכן האיכותי החינמי?