אלפי סיסמאות משמשים לאימון CHATGPT והשני AI

כמעט 12,000 מידע רגיש, כמו מפתחות API וסיסמאות, התגלה בתוך זחילה משותפת על ידי חוקרים שלאבטחת כמהיןו זחילה נפוצה היא שמו של קורפוס גדול של נתוני קוד פתוח. נאסף מאז 2008 דרך האינטרנט, נתונים אלה משמשים בפרטלהכשיר דגמי AIו ענקים כמו Openai, Deepseek, Google, Meta, Anthropic ויציבות משתמשים ברפרטואר הנתונים כדי ליצור את המודלים הלשוניים שלהם (שפת מודל גדולה, או LLM). זה בחלקו בזכות הנתונים האלה ש- AI ASהתפתח ולמד לענות לבקשות המשתמשים שלהם.

"חשדנו שמידע זיהוי מקודד קשה יכול להיות נוכח בנתוני אימונים, מה שעלול להשפיע על התנהגות המודל", מסביר אבטחת כמהין.

לקרוא גם:

כמעט 12,000 מידע סודי שנמסר ל- AI

לדברי החוקרים, שקילף 400 טראוקטים של נתונים מ -2.67 מיליארד דפי אינטרנט, המאגר כולל11,908 מידע סודיו הסריקה הסתמכה על כמהין, כלי בטיחות בקוד פתוח שנועד לחפש מידע רגיש, כגון מפתחות API, סיסמאות או סודות אחרים.

לפיכך הם מצאו את עצמם בידי האינטליגנציות המלאכותיות במהלך הכשרתם. התגלית הזו"מדגיש בעיה הולכת וגוברת: LLM שהוכשר בקוד לא מאובטח יכול לייצר תוצאות סיכון שלא מרצון"ו ברור ש- AI יכול לחשוף מידע בדרך זו או אחרת, ולייצר תגובות הכוללות נתונים רגישים. עם זאת, יזכרו כי הנתונים המשמשים לגורמת מודלים בשפה גדולה מעובדים תמיד במעלה הזרם. עיבוד זה מאפשר לנקות נתונים על ידי אי הכללת כפילויות, מידע מזיק או חסר תועלת.

בין הנתונים שנמצאו בקורפוס, ישנם מפתחות API תקפים המציעים גישה לשירותים כמו Amazon Web Services (AWS) או MailChimp. החוקרים מצאו במיוחד שפע של מפתחות ל- MailChimp, פלטפורמת האוטומציה לשליחת מיילים.

קרא גם:

שגיאת מפתחים

כפי שהוסבראבטחת כמהיןבדו"ח, היזמים עשו את הטעות בהכנסת ישירות של נתונים רגישים (כגון מזהים או מפתחות API)בקוד טופס HTML ובסקריפטים של JavaScriptו כמה מפתחות אפילו הוחזרו מספר פעמים, מה שממקסם את הסיכונים.

בעקבות תגליתו,אבטחת כמהיןבא במגע עם כל הגורמים כולל מפתחות ומצאו את עצמם בידי AI. בעזרת חוקרים, חברות הצליחו"סיור/ביטול כמה אלפי מפתחות באופן קולקטיבי"כאמצעי בטיחות.

🔴 לא להחמיץ שום חדשות 01net, עקוב אחרינוחדשות גוגלETWhatsAppו

מקור: אבטחת כמהין