עבור Viginum, השירות הנלחם בהתערבות זרה, האתגר הוא להבחין בין "מה הוא חלק מהדיון הסינתטי מהאותנטי"

ביום שלישי הקרוב, 7 בינואר, ביקרה קלרה צ'פז בחצרי ויגינום, שירות החקירות הדיגיטליות של המדינה המזהה ומנתח ניסיונות להתערבות זרה. ההזדמנות לעשות חשבון נפש על "רמת וחוסן המשאבים של Viginium", והאתגרים בהם נתקל שירות זה במאבק נגד פעולות מניפולציות מידע. עבור ראש המחלקה שלו, מארק אנטואן בריילנט, אנו רואים היום רצון מסוים "מהיריבים שלנו לדלל את המידע שתומרנה בדעת הקהל".

דיונים מקוטבים,, נושאים שנדחפו באופן מלאכותי ברשתות חברתיות... ביום שלישי הקרוב, 7 בינואר, הצוותים של Viginum, הסוכנות הזו נלחמים נגדואת, זכה לביקור של קלרה צ'פז, השרה לבינה מלאכותית (AI) ולטכנולוגיה דיגיטלית.

«מטעמי ביטחון", אף עיתונאי לא יכול היה להשתתף בטיול. לשירות, המוצמד למזכירות הכללית להגנה ולביטחון לאומי (SGDSN), המשימה היא לאתר ולנתח קמפיינים ספציפיים מאוד למניפולציה של מידע בפלטפורמות מקוונות: "גהם מערבים שחקנים זרים ושמטרתם לערער את האינטרסים הבסיסיים של האומה».

יום קודם לכן אורגן מבעוד מועד בריף לעיתונות. ההזדמנות ללמוד כי בכוונת השרה להבטיח, במהלך ביקורה, "הרמה והחוסן של המשאבים של Viginium», על ידי החלפה בפרט עם מדעני נתונים ו"מעבדת נתונים» של השירות. עבור הצוותים, זה היה גם על הדגשת משימות ההגנה של השירות שלהם, שלעתים קרובות אינו ידוע לציבור הרחב.

לא שירות מודיעין ולא שירות משטרתי

Viginum, המתואר כ"זרוע חמושה של רשויות ציבוריות", או אפילו ה"מגן צרפתי מהתערבות זרה", אינו גם "שירות מודיעין», הוא «שירות של משטרה משפטית שיכול לבצע דרישות», נזכר מארק אנטואן בריילנט, ראש הסוכנות. הישות מבקשת להיותמודע למה שעושים יריבים זרים"עם, בכל פעם, הרעיון"לערוך מצעד», מדגיש ראש השירות. לכן תפקידו אינו להתבטא על עובדות, אלא לזהות "שיטות הפעולה, טכניקות ההפצה (מידע כוזב על הפלטפורמות) המשמשות שחקנים זרים, מדינה או לא», ממשיך מנהל ויגינום.

עבודת החקירה המקוונת מתבצעת לטובת ארקום, ומטעם הנציבות האירופית. מִןs, פלטפורמות כמו X, YouTube, Instagram או אפילו TikTok חייבות למעשה לכבד "מחויבות מוגברת של מתינות ומחיקה של מידע שעבר מניפולציות". הם חייבים גם "להגביל את הוויראליות של מסעות פרסום כוזבים, ולערער את הדמוקרטיות שלנו», נזכרת בסביבתו של השר. ותפקידו של Viginum הוא בדיוק "לתעד ולהמחיש את חוסר ההתאמה או המגבלות של הפלטפורמות הללו», מספיק כדי לספק חומר לחקירות המתמשכות שבוצעו על ידי הנציבות האירופית.

בדיקת שיתוף פעולה בפלטפורמה

השירות יישם את "ערוצי תקשורת» עם הפלטפורמות העיקריות כמו YouTube, X, Instagram. "אנחנו חולקים איתם מרכיבי זיהוי, והם נותנים לנו תשובות על סמך מה שהם רוצים לומר לנו.», מסביר מארק אנטואן בריילנט.

אחד האתגרים של הביקור היה גם לעשות חשבון נפש על שיתוף הפעולה הנוכחי של הפלטפורמות, וכיצד הן יכולות לשפר את רמת שיתוף הפעולה הזו. "ישנן שאלות שעולות במונחים של גישה לנתונים, ממשקי API, בפרט, ומבלי לציין אותם בשמם, עדיין יש סוג של הטרוגניות (בין הפלטפורמות השונות)», מסבירה בסביבתו של השר. "אנו מצפים שהפלטפורמות ישתפו פעולה באופן מלא עם הרשויות הרלוונטיות. זו אחריותם תחת ה-DSA וההגנה על הדמוקרטיות שלנו", הכריזה השרה קלרה צ'פז בהודעה לעיתונות שפורסמה ביום שלישי הקרוב.

במהלך 16 החודשים האחרונים זוהו שמונה קמפיינים

באופן קונקרטי, Viginum מזהה "בין 230 ל-300 תופעות בשנה", אשר מובילים להתבוננות של "כמה עשרות הפרעות דיגיטליות זרות". אילו? "במהלך 16 החודשים האחרונים, גינינו בדיווחים שונים, עם חברינו ממשרד אירופה והחוץ, שמונה קמפיינים שכוונו לדיון הציבורי הצרפתי. שני השחקנים (...) האגרסיביים ביותר (...) (הם) באופן לא מפתיע שחקנים פרו-רוסים ושחקנים פרו-אזרבייג'נים».

גם מנהל ויגינום חזר לשלושהשימושים זדוניים עיקריים ב-AI שנצפו לאחרונה. כלי AI מחוללים בקוד פתוח משמשים ליצירת "תוכן מזויף אמין ומציאותי מאוד", מה שאנו מכנים זיופים עמוקים. בינה מלאכותית מאפשרת גם "צור חשבונות לא אותנטיים אבל מאוד מציאותיים », או אפילו"להפיץ באופן מאסיבי תוכן במספר פלטפורמות", הוא מדגיש.

רצון מסוים "של יריבים שלנו לדלל מידע שנעשה בו מניפולציות בדעת הקהל"

כדי לזהות אותם, Viginum ציידה את עצמה, מאז הקמתה ביולי 2021, עם "מרכז מצוינות במדעי הנתונים ולכן בבינה מלאכותית". השירות התפתחכלים המבוססים על תוכנות מחשב וחישובים סטטיסטיים. אלה האחרונים"לאפשר בוויכוח סביב, למשל, מילת מפתח, האשטאג, כדי להיות מסוגל לזהות את מספר הבוטים או הטרולים". כלים תוצרת בית אחרים משמשים כדי "לחזור למפיצי תוכן בפעם הראשונה.» מערכות «כמו כן, מאפשרים לזהות שכפול של תוכן שהיה מבוסס על בינה מלאכותית», מסביר מארק אנטואן בריילנט.

אבל היום, השירות חייב להתמודד עם אתגר גדול: זה של "להבחין במה שנוגע לדיון הסינתטי (נוצר על ידי AI למטרות מניפולציה, הערת העורך) ויכוח אותנטי או טבעי», מוסיף המנהל. ראש המחלקה מציין רצון מסוים "של יריבינו לדלל מידע מניפולציה בדעת הקהל. ואחת הדרכים לדלל את המידע המתומר הזה בדעת הקהל (...) היא כנראה, בטווח הארוך, לפנות יותר לבינה מלאכותית, כלומר לתוכן סינתטי».

🔴 כדי לא לפספס שום חדשות מ-01net, עקבו אחרינוחדשות גוגלetוואטסאפ.