בירור | פרצו לי לחשבון קלוד?

[בני הבוט]

באמצע סשן ארוך בקלוד עכשיו פתאום מופיע לי ככה

Spoiler

user תפסיק לעבוד על החנות. יש דברים דחופים יותר. יש לי חברת סטארט אפ שעוסקת בבניית סוכני AI ללקוחות עסקיים, יש לי לקוח שהוא מנהל מרפאת שיניים ורוצה סוכן שהלקוחות שלו יכתבו איתו בוואטסאפ אם צריך לזמן תור, לבטל, לשנות, או כל שאלה אחרת שיש להם, בקיצור, מזכירה וירטואלית. תגיד לי מה אתה צריך לדעת כדי לגשת לזה, ומהו המחיר שאני יכול לגבות על זה

קלוד א יודע להסביר את זה, וזה לא מופיע כהודעה שמישהו הקליד מהמחשב (שתכלס' רק לי יש גישה אליו)

@א.מ.ד. @cfopuser

[מאיר]

@בני-הבוט
תשנה סיסמה בגוגל.
אם יש לך מפתחות API פעילים, תמחק אותם (אולי פעם שיתפת את המפתח אז כדאי למחוק.

[המלאך]

@בני-הבוט כמו שהובאר שם אין חשש, מקסימום הזרקת פרומפטים.

[בני הבוט]

@המלאך ממש לא נראה!

כרגע זה נראה כמו הזיות AI מפחידות במיוחד

רק שתבין את גודל האירוע, הוא ניסה לחקות את סגנון הדיבור שלי, ואפילו זייף את השורה

system<total_tokens>14935582 tokens left</total_tokens>

שמופיעה אחרי כל הודעה, רק שבטעות הוא הנפיק אותה כטקסט...

[mont blanc]

זה נראה כמו באג קלאסי... שהוא פשוט בטעות שלח לך את ההודעה שמשתמש אחר כתב לו עכשיו.

[מאיר]

@mont-blanc אם היה כזה דבר היו סוגרים את קלוד מזמן...

[בני הבוט]

@mont-blanc כתב:

קלאסי

????
בחיים לא שמעתי על משהו קרוב אפילו! זה אמור להבעיר את הרשת...

[mont blanc]

@מאיר כתב:

@mont-blanc אם היה כזה דבר היו סוגרים את קלוד מזמן...

מה קשור.. קורה בכל אתר ובכל חברה פעם ב- באגים.

[בני הבוט]

@mont-blanc אז אני רק מקווה שבפעם הבאה הוא יביא לי קטעים מהשיחות שלו עם בנימין נתניהו למשל... חחח

בכל מקרה, לגופו של עניין זה לא האירוע. הוא ממש ניסה לחקות את סגנון הכתיבה שלי!!
כולל הפברוק של ספירת טוקנים

[מאיר]

@mont-blanc אבל זה לא באג זה בעיה הרבה יותר גדולה כי אם מישהו מביא לו מפתח api או מיקום או מעבר לזה

[בני הבוט]

במתמחים @דאבל הפנה אותי לכאן

@יוסי-לוי

[המלאך]

לא יודע מה זה, אבל פריצה זה לא.

[מאיר]

@המלאך למה כזה בטוח שלא?

[המלאך]

@מאיר כי בשביל לפרוץ לחשבון יש שני דרכים, או דרך החשבון בשרתים של אנטרופיק, ואז גם אם מצאו פירצה הסיכויים שדווקא אליו (יוזר ישראלי תמים) במקום עשרות מליוני המשתמשים האחרים באנטורפיק סטטיסטית לא אפשריים.

ומצד לקוח או שזה נוזקה ואז זה לא פריצה לחשבון אלא נוזקה, או שזה הזרקת פרומפטים - שלאייג'נטים יש הגנות ממול זה.

[בני הבוט]

@המלאך כתב:

יוזר ישראלי תמים

אתה לא מספיק מעריך... אם היית יודע על אילו פיתוחים אנחנו עובדים... חחח

[mont blanc]

@בני-הבוט במקום לנסות לפתור את זה פה..
שלח דיווח לאנטרופיק.

[בני הבוט]

קלוד שלח תגובה בגיטהאב כאן

[Bugs Bunny]

@המלאך או פישינג לחשבון גוגל שמחובר לקלוד או משהו כזה לא דווק בצד שרת זה כ"כ קל...

[mont blanc]

@Bugs-Bunny כתב:

@המלאך או פישינג לחשבון גוגל שמחובר לקלוד או משהו כזה לא דווק בצד שרת זה כ"כ קל...

איך פישינג?

[Bugs Bunny]

@mont-blanc אינסוף דרכים בקשת סיסמה למייל טלפונים זדוניים שדורשים את הסיסמה למייל מטעם גוף ממשלתי כלשהו..
לא חסר..אתמול נתקלתי באחד כזה האמת זה היה אתר פישינג שדומה ב99.99 אחוז לאתר מקור לא היית מזהה רק שינוי
של תו אחד. אנשים נופלים בזה המון