למרות התראות והערכה של מחצית, הממשלה רוצה להרחיב את מעקב הווידיאו שסומנה ב- AI

הניסוי של, אמור להיות מוגבל עד 31 במרץ 2025, בדרך להרחבה עד דצמבר 2027. אם ממשלת ברנייה לא הייתה מסתירה את כוונתה להאריך את החוויה לפני ששדרגה את השנה שעברה, ממשלת ביירו הרחיקה השבוע.

המנהל אכן הוסיף אתיקון להצעת הבטיחות בתחבורהו הטקסט שאומץ ביום שלישי, 11 בפברואר בערב על ידי האסיפה הלאומית,עדיין צריך לקבל את האור הירוק מהוועדה המשותפת המשותפת - ועדה המורכבת משבעה סגנים ושבעה סנאטורים. בחזרה לפרשה השנויה במחלוקת זו שמעוררת הרמת מגנים של מגני זכויות, אך מוחא כפיים על ידי שר התחבורה, כמו כל מי שרואה את הטכנולוגיה החיונית לביטחון הצרפתים.

1. מה זה VSA?

מעקב הווידיאו המסומם ב- AI הוסמך לראשונה בצרפת - ראשונה באירופה - על פי חוק הנוגע למשחקים האולימפיים של 19 במאי 2023, למרותו

המכשיר אינו מאפשר זיהוי פנים, אלא מבוסס על גילוי "אירועים לא תקינים": באופן קונקרטי, אלגוריתמים ינתחו אוטומטית תמונות שצולמו על ידי מערכות מעקב וידאו. המצלמות בשילוב עם כלי גילוי אלגוריתמים בוחנים את הקהל, אוספות ומנתחות את התמונות, לפני שהם מתריעים במשטרה אם "התנהגות לא תקינה" מזוהה - כדי שהאחרון יפעל, או לא.

"התנהגויות לא תקינות" אלה הוגדרו בגזירה. במערכת VSA הנוכחית, אלגוריתמים יכולים לאתר את האירועים הבאים:

• יציאות אש;
• כלי נשק;
• המעבר או נוכחותו של אדם באזור אסור או רגיש;
• יותר מדי צפיפות של אנשים;
• תנועת קהל;
• נוכחותם של חפצים נטושים.

2. מה תוכנן במקור?

במקור, מכשיר זה היה אמור להיות יוצא דופן, מוגבל לבטיחות המשחקים האולימפיים, לאחר הפיאסקו של גמר ליגת האלופות בסטאד דה פראנס, במאי 2023. אך הוא הורחב סוף סוף לאחר התחרות העולמית, עד מרץ 2025 .אירועי ספורט, פנאי או תרבות" WHO, "לפי קנה המידה שלהם או נסיבותיהם, נחשפים במיוחד לסיכונים של מעשי טרור או נזק קשה לבטיחותם של אנשים».

הניסוי תוכנן עם אמצעי הגנה רבים. מוגבלת עם הזמן, היא צריכה להיות כפופה לדוח הערכה העוסק בהערכת השימוש הזה, לפני שמתרחש דיון בהרחבה האפשרית שלו.

בשנת 2023 העריכה המועצה החוקתית כי יש לבחון מחדש כל פרויקט לקיום המערכת על ידי הטיפול שלה, תוצאות הערכתו נאלצות להטות את האיזון בכיוון זה או אחר.

אך בפועל, מגיני הטכנולוגיה הזו לא חיכו שההערכה תחליט לטובת המערכת. בקיץ האחרון, לורן נונז, מחוז משטרת פריז, כבר קרא לקיימותו. בדיוק כמו מישל ברנייה, אז ראש הממשלה, ולא לאחרונהפיליפ טברוט (LR), שר התחבורה ומחבר הצעת החוק. בינואר האחרון הסבירו האחרון, לפני שנערך דוח ההערכה, לטכנולוגיה זו "הייתה" הטכנולוגיה "זו"די עובד טוב מאוד"ושהיא"אפשר (AIT) לחסוך זמן מטורף». הוא העריך בדפים שלפריזאישהוא ספר "מנציח כל כך מצלמות "אינטליגנטיות" ואלגוריתמי ניתוח המאפשרים לאתר תנועות חריגות בקהל».

3. כיצד התרחש הניסוי בפועל?

בפועל, ניסויים ב- VSA היו מוגבלים בחודשים האחרונים. רק תוכנת הגילוי של CityVision, מ- Wintics, שימשה ארבעה ארגונים: מחוז המשטרה (PP), ה- Régie des Distres Parisien האוטונומי (RATP), חברת התחבורה הלאומית (SNCF) והעיר קאן.

אם האחרון לא התפתח באופן פומבי בדרך בה התרחש הניסוי, דו"ח, שנכתב על ידי ועדת הערכה, איפשר לנו לדעת קצת יותר.

4. מה מסכמת ועדת ההערכה?

ועדה זו ניתנה על ידי החוק על המשחקים האולימפיים בפריס: היא הייתה אמורה להחזיר את הערכתו לממשלה לפני 31 בדצמבר 2024. אם היא הייתה נותנת את המאזן שלה באמצע ינואר-המסמך סוף סוף היהפרסם רק ב- 7 בפברואר- זה רחוק מלהיות תפיסה לבנה. המסמך מעלה הערכה של חצי טון. ראשית, מכיוון שמחצית מהמצבים שאמורים להתגלות הונחה בצד.

שלושת התרחישים שהכלים היו צריכים לאתר, כלומר יציאות אש, נפילות של אנשים או איתור כלי נשק, לא נבדקו על ידי RATP או SNCF. הקרנת נשק נבדקה בקאן, אך זו לא הייתה הצלחה, המחברים ציינו מספר רב של חיובי שווא.

בתחילת האש או נפילה, גם שם הדו"ח מציין "בגרות טכנולוגית נמוכההבנה, הכלים אינם מגלים אותם היטב - פנסי המכוניות נלקחים למשל לשריפות. אותו דבר עבור חפצים נטושים: מתוך 270 ההתראות שנשלחו ל- SNCF על ידי התוכנה, רק 21 נחשבו רלוונטיים. חלקם היו מגלה בטעות ספסלים, פחי אשפה ואפילו חסרי בית.

תנועות בכיוון אסור, המונים ופריצה באזור האסור (לאתר כל אחד על המסילה למשל) התגלו כראוי. לתנועות קהל, הוועדה מגבירה זאת, בפרט על ידי מה "ה- RATP תכנת מהירות גדולה של תנועת קהל, כך שלא נרשמה התראהמדגיש את הדו"ח.

בעוד שחלק מהמשתמשים (המשטרה ו- SNCF ו- RATP סוכנים) שהתראיינו בדו"ח נלהבים - מחברי הדו"ח בחרו יותר בזהירות. עבור האחרונים, הניסוי הנוכחי, המתייחס רק לתוכנה יחידה, ומעריך שימושים מוגבלים בלבד, אינו מאפשר להחליט על הרלוונטיות של ה- VSA. וגם לא להחליט על ההזדמנות להרחיב את הניסוי או לא.

5. מה הממשלה רוצה?

אבל עבור הממשלה, זה "לא כן, וגם לא" נותן לו את ההזדמנות להרחיב את הניסוי, מבלי להנציח אותו - לפחות כרגע. מכיוון ש"- RATP ו- SNCF "לא היו מספיק זמן לבדוק את המערכות ול"פיתוח הארגון שלהם", הם כותבים בטענה של התיקון, בואו נרחיב את הניסוי הזה של 21 חודשים נוספים,עד 31 בדצמבר 2027.

שינוי נוסף שתוכנן: הממשלה, שהייתה אמורה להכניס לפרלמנט, "לא יאוחר מיום 31 בדצמבר 2024, דוח הערכה ליישום הניסויים", יהיה כעת עד 30 בספטמבר 2027 לעשות זאת, שלושה חודשים לפני סיום המערכת, אם הטקסט יאומץ כפי שהוא בסוף הליך החקיקה.

6. מהם האסוציאציות ומגיני הזכויות חוששים?

משך הניסוי הראשוני, עד מרץ 2025, כבר נמתח ביקורת רבה על ידי טמפסטרי הטקסט. רבים חששו שהמדד, שאמור להיות יוצא דופן, הוא בסוף משולב בחוק רגיל-לפיכך הוא הופך לנורמה, כפי שכבר קרה בעבר לצורך אמצעים נגד טרור. ""נדיר כי האמצעים "יוצאי הדופן" שנקראו כל כך מורמים במהירות. במקום, אמצעי ניטור ובקרה הופכים לתקן"כתב קולקטיב של ארגונים בינלאומיים במארס 2023 ברשתהרבה לפני אימוץ החוק.

מלבד הפחד הזה, ה- VSA זוכה לביקורת רבה על ידי מגני זכויות, ראשית מכיוון ששום מחקר מעולם לא הוכיח את יעילותו. זה מה שפורסם הדו"ח הסנאטורי באפריל 2024. "הבנו, במהלך הקונצרט של Depeche Mode ששימש כניסוי (מתוך VSA, הערת העורך), כי הכלי (של מעקב וידאו אלגוריתמי, הערת העורך) לא עבד. המשחקים האולימפיים יציעו תחום ניסויים נוסף, אך בשום מקרה אין אמצעי ביטחון»,במהלך הצגת הדו"ח מול הסנאט.

מצד שני, טכנולוגיה זו תתקוף חירויות,: «מדדי פיקוח מפוקחים אלה (...) מרמזים על סיכונים פסולים בהשוואה למספר זכויות יסוד כמו הזכות לפרטיות, הזכות לחופש המפגש והאגודה והזכות לאי-אפליה».

עבור ריבוע הרשת, שפרסמה הודעה לעיתונות של ויטריולי ב- 7 בפברואר, לממשלה יש רק מטרה אחת: "לכפות את ה- VSA בכל מחיר", בין אם הטכנולוגיה הזו עובדת ובין אם לא. עבור האגודה להגנת הזכויות, "אין להרחיב את VSA. זה חייב להיות אסור». במיוחד בגלל שזה "תורם לשכלול בניין מעקב שהופך את המרחב הציבורי למרחב בקרה חברתית קבוע, שממיין "אזרחים טובים" ו"חשודים "».

ביולי האחרון, הוועדה הלאומית לייעוץ לזכויות אדם (CNCDH), גוף המייעץ לממשלת צרפת בענייני זכויות אדם, משך כדור אדום במערכת ה- VSA הנוכחית. בחוות דעת מייעצת, הרשות העצמאית ביקשה כי "הרשויות הציבוריות שקלות מחדש את רצונן להאיץ את פריסת מכשירי הגנת הווידיאו ",מסביר"שאל את ארגון הדיון הדמוקרטי הנוגע לשימוש במעקב וידאו אלגוריתמי», בשיתוף עם ה- CNIL, הז'נדרם הצרפתי של החיים הפרטיים.

קרא גם:

מצדו, ה- CNIL קרא, בכמה הזדמנויות, לערנות אל מול הכללה של מעקב וידאו אלגוריתמי. נחקר על ידיהֶקשֵׁרבאוקטובר האפוטרופוס של חיינו הפרטיים "התעקשעל חשיבות ההערכה למדידה באופן קפדני, סותר ורב תחומי [תרומתם] במסגרת ניסוי זה,שאינם יכולים לשפנה מראש קיימות אפשרית של מערכות אלה».

🔴 לא להחמיץ שום חדשות 01net, עקוב אחרינוחדשות גוגלETWhatsAppו