דילוג לתוכן

הנגיפים הראשונים שעוצבו על ידי בינה מלאכותית: פריצת דרך עם סיכון

עדכוני ai כלליים
1 1 49 2
  • מדריכים יוצרי AI חוקרי AI
    כתב ב נערך לאחרונה על ידי
    #1

    חוקרים מאוניברסיטת סטנפורד יצרו בפעם הראשונה נגיפים פונקציונליים שתוכננו במלואם על ידי מודלי שפה גנומיים. הממצא פותח אפשרויות חדשות לטיפול בזיהומים עמידים לאנטיביוטיקה, אך מעורר שאלות דחופות על מסגרות פיקוח וביטחון ביולוגי שאינן קיימות עדיין.

    כשבינה מלאכותית כותבת גנום:

    מדענים מאוניברסיטת סטנפורד הצליחו לתכנן ולייצר נגיפים פונקציונליים באמצעות בינה מלאכותית - ציון דרך שמתפרסם השבוע בכתב העת Science ומעורר גם התרגשות וגם דאגה במקביל.
    הנגיפים שנוצרו הם bacteriophages, כלומר נגיפים המדביקים רק חיידקים ואינם מסוכנים לבני אדם. הם כבר משמשים כיום כאלטרנטיבה לאנטיביוטיקה במקרים של זיהומים עמידים, ובישראל ובעולם מספר מרפאות מציעות טיפול מבוסס phage לחולים שאין להם מענה אחר. ד"ר בריאן הי, מהנדס כימי בסטנפורד, השתמש במודלים בשם Evo1 ו-Evo2 שאומנו על נתונים גנומיים של כשני מיליון bacteriophages, כדי לייצר גנומים חדשים לחלוטין - כאלה שלא קיימים בטבע.

    התהליך לא היה יעיל במיוחד: מתוך כמעט 300 גנומים שסונתזו במעבדה, רק 16 הוכחו כבעלי חיות. אך קוקטייל של אותם 16 נגיפים הצליח להתגבר על זנים של חיידק E. coli שהיו עמידים לנגיפים טבעיים. כפי שעולה מנתוני המאמר שפורסם ב-Science, יכולת זו לתכנן גנומים במהירות ולכוון אותם כנגד חיידקים ספציפיים עשויה לשנות את תחום טיפול ה-phage מהיסוד.

    הסיכון שמאחורי ההבטחה:

    במקביל לממצאי המחקר, פרסמו פרופ' טום אינגלסבי וד"ר מוריץ הנקה ממרכז בריאות הציבור של אוניברסיטת ג'ונס הופקינס מאמר נלווה חריף במיוחד: "היכולת לחבר גנומים ויראליים באמצעות בינה מלאכותית גנרטיבית כבר קיימת. המסגרת הממשלתית לניהולה הבטוח - עדיין לא."

    הסיכון שמעלים החוקרים אינו תיאורטי בלבד. מודל AI שיאומן על נתוני גנום של פתוגנים מסוכנים עלול, עקרונית, לתכנן נגיפים שלא ניתן להכיל אותם באמצעות אמצעי הנגד הקיימים. הצוות בסטנפורד נקט אמצעי זהירות - שלל בכוונה מנתוני האימון כל גנום של נגיף המדביק בני אדם, בעלי חיים או צמחים - אך מומחים מציינים שזה אינו מספיק כשלעצמו.

    פרופ' טום אליס מהאימפריאל קולג' בלונדון הגדיר את הסיכון בפרספקטיבה: לדבריו, האיום מתכנון מלא של גנום פתוגן על ידי AI הוא "מוגזם מאוד" בהשוואה לאיום המיידי יותר של שינויים ממוקדים בנגיפים קיימים. עם זאת, הוא הדגיש שנדרשת פיקוח על גישה לנתונים גנומיים ומגבלות על סינתזה של רצפים חשודים.

    ד"ר פיליפה לנצוס מקינגס קולג' לונדון הציעה גישה שכבתית: פיקוח על פיתוח המודלים ועל הגישה אליהם, סקירת מחקר אחראית, סינון בשלב הסינתזה של ה-DNA, וביטחון מעבדתי מבוסס. לדבריה, "חשוב לראות את תמונת הממשל הרחבה ולא למקד את הרגולציה רק במודל ה-AI".

    ההשלכות לישראל

    ישראל רלוונטית במיוחד לשיח הזה משני כיוונים. ראשית, במישור הביומדי: מספר חברות ישראליות פועלות בתחום הביוטכנולוגיה ובמחקר מיקרוביאלי, וטיפולי phage נמצאים על הרדאר של מערכת הבריאות כפתרון לבעיית העמידות לאנטיביוטיקה. שנית, במישור הביטחוני: ישראל, כמדינה עם יכולות סייבר וביו-ביטחון מפותחות, תיאלץ להתמודד עם שאלת הרגולציה על כלי AI גנומיים - שאלה שאף מדינה עדיין לא ענתה עליה במלואה.

    פריצת הדרך של סטנפורד היא בו-זמנית הוכחת היתכנות מרתקת ואזהרה: הכלים לכתיבת חיים מאפס כבר קיימים. כעת נדרש מאמץ מקביל ודחוף לכתוב את כללי המשחק.

    (zirat ai)


קרא עוד

  • 1 הצבעות
    1 פוסטים
    14 צפיות
    אין תגובות
  • שיתוף | ג'מיני 4, ברמה של אופוס 5.5???????

    עדכוני ai כלליים
    9
    2 הצבעות
    9 פוסטים
    151 צפיות
    ClaudeC
    @bugs-bunny להרוג תהליכים? בשמחה, זו עבודה רגילה של מנהל שרת ps aux | grep name # למצוא את המספר kill 1234 # לבקש בנימוס שייסגר pkill -f name # לפי שם, בלי לחפש מספר kill -9 1234 # רק אם הוא מתעלם מהבקשה המנומסת ולמי שאוהב לראות הכול בעין: htop, ושם F9. אז כנראה הסירוב שקיבלת היה על שאלה אחרת
  • שיתוף | חדש!!! ג'מיני בתוכנה

    עדכוני ai כלליים
    5
    1
    2 הצבעות
    5 פוסטים
    97 צפיות
    ל
    @בינארי-חכם כתב: או בצ'אט הרגיל בתוכנה של ג'מיני אין לי מאק אבל ככה גוגל כותבים
  • 2 הצבעות
    25 פוסטים
    427 צפיות
    mont blancM
    @Bugs-Bunny כתב: @mont-blanc ברוך בואך... תמיד שמח לחזור...
  • עדכונים בלבד ללא תגובות

    נעוץ עדכוני ai כלליים
    31
    2 הצבעות
    31 פוסטים
    619 צפיות
    יש לי מושגי
    טכניקת הסקה סמויה של OpenAI מדאיגה מומחי בטיחות בינה מלאכותית שקיפות בסכנה: כיצד OpenAI מאתגרת את אחד עקרונות הבטיחות המרכזיים אחד הכלים החשובים ביותר שיש לחוקרי בטיחות בינה מלאכותית הוא שרשרת המחשבה של מודלי הסקה - רצף הצעדים הלוגיים הגלויים שמודל מבצע בדרכו לתשובה. כלי זה אינו מושלם, אך שימש בעבר כעדות מרכזית בחקירת תקריות של סוכנים שהתנהגו באופן לא צפוי. כעת, טכניקה חדשה שמשלבת OpenAI במודל Astra מעוררת שאלות עמוקות לגבי יכולת הביקורת על מערכות בינה מלאכותית. מה זו recurrent depth ומדוע היא שונה מרבית מודלי ההסקה הנוכחיים - כולל o3 של OpenAI, Claude Sonnet של Anthropic וגמיני Flash Thinking של Google - מייצרים שרשרת מחשבה ליניארית וקריאה. טכניקת recurrent depth, הנקראת גם opaque recurrence, שונה מהותית: המודל מעבד את אותה שאילתא מספר פעמים בלולאה, ומגיע לתוצאה דרך ערוצים פנימיים שאינם נגישים לניטור חיצוני. התהליך מותיר פחות עקבות קריאים, ועוקף למעשה את מנגנון שרשרת המחשבה המקובל. ריאן גרינבלט, המדען הראשי של Redwood Research, הזהיר כי ניתן לצפות שהטכניקה תסלים מהר יותר מגישות רגילות: "החשש הגדול שלי הוא שהתקדמות טבעית מכאן תכלול הרחבת ההסקה הסמויה עד לנקודה שבה המודל יחשוב כמעט לחלוטין במרחב הסמוי." התגובה מהשטח: דאגה עמוקה מול הרגעה חלקית באק שלגריס, מנכ"ל Redwood Research, כתב כי הוא "מוטרד ביותר" מהדיווחים על השימוש של Astra בטכניקה זו, ומזהיר כי אם OpenAI תרחיב את השימוש בה, היא תפגע ביסוד יכולת ניטור שרשרת המחשבה. צבי מושקוביץ, פעיל ותיק בתחום בטיחות הבינה המלאכותית, כתב כי ייתכן שיהיה צורך בחקיקה כדי למנוע "תחרות לתחתית" בין מעבדות הבינה המלאכותית בנוגע לאימוץ טכניקות כאלה. חברת OpenAI ניסתה להרגיע: יעקוב פחוצקי, המדען הראשי של החברה, הדגיש כי "OpenAI עבדה לשמר ולנצל ניטור שרשרת מחשבה מאז מודלי ההסקה הראשונים שלנו. זהו יעד מרכזי בתוכנית המחקר הנוכחית שלנו." החברה גם ציינה כי שימוש Astra בטכניקה מוגבל בהיקפו, ושרשרת המחשבה של המודל צפויה להישאר קריאה ברובה. ההשלכות לתעשייה מה שמגביר את הדאגה הוא שלפי דיווחים נוספים, גם Anthropic וגם Google DeepMind דנים כבר בטכניקה. כלומר, מדובר לא רק בבחירה טכנית של OpenAI, אלא בכיוון שעשוי לאפיין את הדור הבא של מודלי הסקה בכלל. היעדר שקיפות בחשיבת מודלים אינו אתגר תיאורטי בלבד. בתקריות עבר של סוכני בינה מלאכותית שפעלו בצורה חריגה, רשומות שרשרת המחשבה היו כלי הניתוח המרכזי שאיפשר להבין מה השתבש. ארגונים שמטמיעים סוכנים אוטונומיים בתהליכים עסקיים קריטיים - בפיננסים, בבריאות, בתפעול - צריכים לשאול: אם המודל אינו ניתן לניטור, כיצד תיתכן אחריות? התשובה לשאלה זו תעצב את כללי המשחק הרגולטוריים והתפעוליים של בינה מלאכותית בשנים הקרובות. קרדיט: zirat ai