הערפול לא טוב ולא רע; וגם לא נייטרלי / מושון זר־אביב

תרגום לעברית: יפתח בריל

עכביש החוגית הלבנה (White Cyclosa Trashline) סיים לטוות את רשתו, אבל מלאכתו עדיין לא תמה: עכשיו הוא מלקט את שיירי הטרף עם קצת פסולת־קורים ונעזר ברשת הלבנה כדי לתפור הכל לחבילה אחת. עכביש החוגית מפסל דיוקן עצמי בגודל טבעי שאותו יציג עוד רגע קל לראווה על הרשת שלו. הדיוק האנטומי לא מושלם, אבל הקהל המיועד של הדיוקן אינו אנין טעם. וזה לב העניין: הטורפים העיקריים של העכביש הן צרעות, והדיוקן העצמי הוא מטרת דֵמֶה. במקרה של מתקפת צרעות, כל פסל כזה יפחית במשהו את החשיפה של העכביש לסכנה. זיהוי שגוי יוביל לניסיון חיסול של יעד שגוי, וייתכן שזה יספיק לעכביש כדי להימלט. לא הגנה מושלמת ובכל זאת ערפול.

ערפול (obfuscation), לפי הגדרתם של פין ברנטון (Brunton) והלן ניסנבאום (Nissenbaum), הוא "ייצור, הכללה, הוספה או מסירה של נתונים מטעים, רב־משמעיים או שקריים במטרה להתחמק מגורמים אוספי נתונים, להסיח את דעתם או לבלבל אותם, או להפחית את האמינות (והערך) של פעולות לכריית נתונים". זיקיות עוסקות בהסוואה, כלומר הן משנות את עצמן ומתמזגות בסביבתן. עכבישי חוגית לבנה, מנגד, עוסקים בערפול: הם משנים את סביבתם וממזגים אותה בעצמם.

הצורה המיוחדת של התנגדות יצירתית שנוקט עכביש החוגית הלבנה היא הקדמה הולמת לדיון בערפול במונחים של עימות ואינפורמציה. ערפול הוא אמנם תופעה נדירה בטבע, אבל אפשר למצוא לו שפע דוגמאות בתרבות ובהיסטוריה האנושית. בסצנה ידועה בסרטו של סטנלי קובריק ספרטקוס (1960), שבה הרומאים תובעים לדעת מיהו מנהיג העבדים, כל העבדים בקהל קוראים כאיש אחד "אני ספרטקוס". במלחמת העולם השנייה פיזרו מטוסי בעלות הברית טונות של רדידי אלומיניום כדי להציף את מערכות המכ"מ של הגרמנים ולהקשות על זיהוי מטוסי התקיפה שלהן. בשנת 2008 נעזר אנתוני קורסיו בערפול כדי לשדוד רכב משוריין של ברינק'ס שעמד מול סניף של בנק אוף אמריקה. במודעת דרושים שפרסם באינטרנט בלוח המודעות Craigslist הזמין קורסיו עובדי ניקיון להיפגש מחוץ לסניף כשהם לבושים חליפות זהות, דומות לחליפה שלבש אחר כך בעצמו כשברח מהבנק עם שני שקים ובהם 400 אלף דולר.

הערפול עומד במידה מסוימת בניגוד לאינטואיציה של אדם כמוני מי שהוכשר בעיצוב גרפי ועוסק במערכות אינטראקטיביות ובעיצוב מידע. כסטודנט בשנה א' בחוג לתקשורת חזותית, לפני עשרים שנה, התוודעתי לתיאוריית הגשטאלט ולמדתי איך מערכת הראייה/תפיסה שלנו מעבדת ללא הרף אינספור נתונים חזותיים, מפרידה בין חזית לרקע, מקבצת יחד אותות דומים, מזהה ניגודים ודפוסים קבועים ומטילה סדר על העולם הנראה. מעצבים כמוני מנצלים את ההטיה האנושית לסֵדֶר (order bias) כדי לבנות מערכות גרפיות מלאכותיות שפעולתן מבוססת על תהליכים כאלה של יצירת־מובן בעולם החזותי. ביסוד ההכרעות של מעצבים באשר היררכייה הטיפוגרפית, לסכמות הצבעים, לזרימת האינטראקציה (interaction flow) ולאופן הצגת האינפורמציה עומד הרצון לשלוט בתשומת הלב של האדם ולעצב אותה.

כאקטיביסט מדיה וכפעיל בעמותת הסדנא לידע ציבורי הייתי שותף למאמצים הניכרים של פעילי העמותה למצוא היגיון בברדק של מאגרי הנתונים הממשלתיים, לחלץ אותות מתוך הרעש ולתבוע מהממשלה לקבל אחריות באמצעות ראיות ברורות.

אם כן, מה הביא אותי להפנות עורף לכל הטקטיקות האלה ולנהל את המאבקים שלי דווקא בנשק הערפול?  

 

מי מפחד מנתונים?

השיח הנלהב על כוחם המופלא של נתונים לאפשר לנו חיים מודעים ומושכלים יותר התקבל בציבור בתגובות מעורבות. העלייה בפופולריות של הרשתות החברתיות ושל הטכנולוגיה הסלולרית דחפה הן את הממשלה והן גופים מסחריים להשתמש באמצעי מעקב פולשניים יותר ויותר. טענות שנחשבו בתחילה לשמועות בלבד ולתיאוריות קונספירציה טכנופוביות זכו לאישוש עם ההדלפות של אדוארד סנודן, שחשף את תוכנית המעקב המקיפה של ה־NSA (סוכנות הבטחון הממשלתית של ארה״ב) ואת שיתוף הפעולה של ענקי הטכנולוגיה עם מיזם הריגול הרחב שלה. כל אלה עוררו בחוגים רחבים דאגה עמוקה מהכרסום האיטי בפרטיות, ומהשימוש הגובר באלגוריתמים כדי לערוך מניפולציות בתפיסת המציאות. אלא שחרדת המידע הזאת נשארה ברובה בלי שיניים: רוב בני האדם מתקשים לנקוט יוזמה פוליטית בעולם המקוון, ולא פעם הם מפקפקים בעצם אפשרותה של יוזמה כזאת להתקיים. האסימטריה ביחסי הכוח מעודדת את הגישה הטכנו־דטרמיניסטית הרווחת שלפיה המצב הזה משקף את "מה שהטכנולוגיה רוצה" ולכן אין לנו דרך לשנות אותו. בהיעדר יכולת להתנגד, ומתוך תחושה שהקרב ממילא אבוד מראש, רבים מנסים לטעון שההפסד לא גדול כל כך. הם מדמיינים איך ייראו חייהם ללא פרטיות, ומגיעים למסקנה ש"אין להם מה להסתיר", ושהתמורה התרבותית־טכנולוגית לא מהווה אפוא סיכון חמור מבחינתם.

תרבות הקריפטו צמחה סביב אחת התשובות הטכנולוגיות לאיומי המעקב. בלב התרבות הזו עומד השימוש בטכנולוגיות הצפנה בניסיון להגן על נתונים ועל תקשורת ברשת מפני התקפות של גורמים זרים. מנגנונים מסובכים, הכוללים בין השאר החלפת מפתחות הצפנה מאושרים ופרוצדורות מורכבות של הצפנה ופענוח, מספקים לחברי קהילות הקריפטו מידה של מחסה מעיני הנץ של אמצעי המעקב המקוונים. ואכן, כל זמן שגוגל מסוגלת לשלוח את הדואר האלקטרוני שלנו אבל לא לקרוא אותו, וכל זמן שהמסרונים שאנחנו משגרים עוברים הצפנה היכולת של פלטפורמות התקשורת להציץ בתכנים שלנו נפגעת מאוד. יש שממליצים לא רק להשתמש בהצפנה בכל הזדמנות אפשרית, אלא במקרים רבים "פשוט לסרב". תחושת הניצול מידי פלטפורמות התקשורת הפוגעניות מניעה אנשים כאלה להטיף להתנתקות מרצון, מה שמכונה לעתים "התאבדות ברשת החברתית" (social media suicide).  

לצערי, הפתרונות האלה לא הצליחו להתנחל בלבבות במידה שתהפוך אותם לחלופה ממשית למצב הקיים בשדה המעקב והביג־דאטה. הצפנה והתנתקות מרצון אינן מסוגלות לספק יותר מהגנה אישית לאליטה קטנה של מומחי טכנולוגיה. בה־בעת הן מרחיקות את הפעילות והפעילים החשובים האלה מזירת ההתרחשות, ומקשות עליהם להפיץ את בשורתם בקרב ההמון "הנבער", החף־מהצפנה. בסופו של דבר, בני אדם לא מתחברים לאינטרנט כדי להסתתר: הם מתחברים כדי לבטא את עצמם ולתקשר עם זולתם. אני חושש שבמתן דגש מופרז להצפנה ברמת הפרט אנחנו זורקים את האחריות על ההמונים שכאילו "לא קולטים איפה הם חיים", במקום לאתגר את הפרצות המבניות של הרשת ולפעול בכוחות משותפים כדי לדרוש דין וחשבון מהגורמים שמנצלים אותן.


נתונים נגד נתונים

נשק התנגדות מסוג אחר שהופיע בשנים האחרונות הן טקטיקות של ערפול נתונים. בעוד שהצפנה והתנתקות מרצון מבוססות על ריסון ועל הגנה ברמת הפרט, ערפול המידע יוצר הרחבה חסרת תקדים של גבולות הביטוי. בשנת 2006 פיתחו שני עמיתים שלי, דניאל האו (How) והלן ניסנבאום, תוסף לדפדפן אינטרנט בשם Track Me Not ששמה לה למטרה להיאבק בניסיונות של מנועי החיפוש להרכיב פרופילים של המשתמשים. Track Me Not לא מפסיק לשגר שאילתות חיפוש אקראיות, ובכך מערפל את החיפושים הממשיים של בעלי הדפדפן. תוסף דפדפן דומה בשם AdNauseam, שהשקנו בשנת 2014 חוסם מודעות ובה־בעת לוחץ על כולן בו־זמנית. שני התוספים הללו מטביעים את הנתונים האמיתיים ברעש שמיוצר באופן אוטומטי: הם נלחמים במנגנוני המעקב אחרי ביג־דאטה בכך שהם עושים את ה"דאטה" ליותר "ביג" מכפי שהמנגנונים מסוגלים לנתח.

ברשת TOR, כל חבילת נתונים מגיעה ליעדה רק לאחר שורה ארוכה של קפיצות פינגפונג אקראיות בין צמתי ממסר שונים. מאחר שכל אינטראקציה תקשורתית מפוצלת ממילא לחבילות נתונים קטנות שלכאורה יצאו כל אחת מכתובת IP אחרת, כמעט אי־אפשר לזהות איזה גורם בכל מרחבי הרשת הוא זה שעומד "מצדו השני של הקו". בזמן ההתקוממות העממית שפרצה באיראן אחרי בחירות 2009, משתמשים בכל העולם הביעו הזדהות עם המוחים באמצעות התקנה של תחנות ממסר ושרתי פרוקסי שסייעו לערפל את התקשורת בין הפעילים האיראנים ולהגן עליהם מפעולות המעקב של ממשלתם. ביטויים כאלה של פעולה קולקטיבית ושל סולידריות הם תוספת חשובה לסל הפתרונות האינדיבידואליים שנשענים על קריפטוגרפיה, וחלופה מרעננת לתרבות של תבוסתנות דטרמיניסטית.

 

למה לערפל?

בספרם ערפול: הוראות שימוש לפרטיות ולמחאה (Obfuscation: A Users Guide For Privacy and Protest) מחלקים ברנטון וניסנבאום את תפקידי הערפול לכמה קטגוריות. ערפול רחוק מלהיות פתרון קסם להגנה על פרטיות ולאבטחת מידע, אבל בהתאם לתכלית הרצויה הוא עשוי לא פעם להיות האמצעי הנכון.

עכביש החוגית הלבנה ואנתוני קורסיו אינם משתמשים בערפול כמנגנון הגנה קבוע, אלא כדרך לעכב את הזיהוי ולהרוויח די זמן להימלט ממי שמבקשים לתפוס אותם. העבדים המתמרדים צעקו "אני ספרטקוס!" כדי להסתיר אדם אחר וכביטוי של מחאה. רשת TOR משמשת למנוע את חשיפת הזהות של יחידים. Track Me Not ו־AdNauseam משמשים כדי למנוע יצירת פרופיל של המשתמש ולאפשר לו להכחיש מעורבות. שפע של דוגמאות אחרות יכולות להמחיש שימושים אחרים ומטרות אחרות של טקטיקות ערפול. כל ניתוח של אמצעי ערפול חייב אפוא להיעשות לאור המטרות של אותו ערפול.

 

האם זה פסול?

נתונים משמשים בדרך כלל כראיות עקיפות, שלב בדרך לתהליכים מדעיים יותר ואולי אמינים יותר של השגת ידע. אם הערפול מבקש לשבש את הזיקה הזאת, האם הוא בכלל מעשה אֵתי? יש אתיקנים שישיבו בשלילה גורפת. קאנט, לדוגמה, סבר שהאמת היא ערך עליון, וטען שאסור לשקר אפילו לרוצח ששאל למקום הימצאו של הקורבן. אתיקנים רבים מתחו ביקורת על עמדתו הנחרצת של קאנט והגנו על גישה מורכבת ומסויגת יותר לאתיקה של חילופי ידע.

ישנם בוודאי שימושים בעייתיים בערפול, החל בשוד של אנתוני קורסיו וכלה בגופים ממשלתיים המערפלים בכוונה תחילה מידע ממשלתי פתוח כדי שלא יפר את דרישות השקיפוּת ועם זאת יישאר בלתי נהיר. לאמיתו של דבר, כל ערפול מעורר שאלות, שהן בדיוק שאלות המפתח להבנת מערכי השליטה במידע שהערפול נועד להתמודד איתם.

התקפות מבוזרות למניעת שירות (DDoSDistributed Denial of Sevice) יוצרות ערפול באמצעות מבול של פניות אוטומטיות לאתר אינטרנט מסוים, פניות שמציפות את שרתי היעד ומאטות את התעבורה עד לעצירה גמורה. לא אחת גורמות מתקפות כאלה לקריסת השרתים או לשיתוקם. מאחר שאין דרך להבדיל בין בקשות השירות האוטומטיות ובין משתמשים ממשיים, סירוב לכבד חלק מבקשות השירות פירושו סירוב לכבד את כולן, ולהוביל בסופו של דבר לחסימה מוחלטת של התקשורת. הרבה קבוצות האקטיביסטיות (hacktivist) מצדיקות את הטקטיקה הזו בנימוק שהיא אמצעי לגיטימי במאבק בממשלים עריצים ותאגידים מושחתים. אלא שהשימוש ב־DDoS חורג מעבר למקרים האלה: שיטות העבודה והטכנולוגיה שהתפרסמו בציבור הרחב בזכות קבוצות כמו אנונימוס משמשות לעתים קרובות יותר דווקא לפעילות עבריינית, לסחיטה, ואף כנשק בידי ממשלים דכאניים נגד מתנגדים פוליטיים וארגוני חברה אזרחית.

מה אני מנסה לטעון, בעצם? שהמטרות מקדשות את האמצעים? לפעמים. אבל הצדקה של האמצעים תמיד נעשית בתוך הקשר. הרי בה־במידה אי־אפשר להצדיק או להוקיע באורח חד־משמעי שום שימוש במידע בלי לשאול אם הוא מחויב לאמת או לא. כל אימת שאנחנו מייצרים מידע, אוספים אותו, מנתחים אותו או מערפלים אותו, מחובתנו לחשוב על ההשלכות החברתיות והפוליטיות הרחבות. הערפול נעזר באי־ודאות כטקטיקה; הוא כמו מבקש לשאול עד כמה גדול יכול "ביג־דאטה" להיות לפני שהוא כורע תחת המשקל העצמי שלו. בימינו, כשרוב המנגנונים האלגוריתמיים נשענים על זיהוי אוטומטי של דפוסים ומגמות במערכי נתונים גדולים, ונסמכים על מודל סטטיסטי שנגזר מקורלציות בין הנתונים, הם רגישים מאוד לערפול ולצורות אחרות של רעש. ככל שיש לאלגוריתם יותר סמכות והשפעה, כך משתלם יותר להשפיע עליו. כמו כן, ככל שאלגוריתם נשען על מספר רב יותר של מקורות מידע, כך הוא הופך את עצמו ליעד נוח יותר לערפול.

המחלוקת שמעוררים ניסיונות כאלה "לעבוד" על מקורות המידע האלגוריתמיים החריפה בשנים האחרונות עם עליית ה"פייק ניוז" – חדשות שעברו ערפול באמצעות קליק־בייטים ומופצות דרך בועות הפילטר של הרשתות החברתיות. ערפול יכול לעודד ספקנות בריאה כלפי הנתונים, אבל הוא גם עלול לתרום לשחיקת האמון הציבורי בתהליך המדעי ובשיח פומבי שמבוסס על עובדות.

לסיכום, אני טוען שאת התופעה של ערפול נתונים עלינו לקרוא בהקשרה התרבותי והפוליטי הרחב, על רקע המחלוקות העכשוויות באשר לביג־דאטה. ההקשר הזה כולל את ענקיות הטכנולוגיה: אלה מפתחות כלים למעקב תאגידי חשאי במטרה לרגל אחרינו ולבצע מניפולציות בתפיסת המציאות שלנו הכול לטובת האינטרסים העסקיים שלהן. הממשלות משתפות פעולה עם הענקיות הללו, או משתמשות לאותן מטרות בעוצמה הטכנולוגית ובגישה למשתמשים שכבר נמצאות ברשותן. נוסף לאלה ישנם גורמים שליליים שמנצלים את משבר האמון כדי לשפוך את התינוק עם המים ולבטל כל מושג של אמת, בטענה שהוא תוצר של מניפולציות ושקרים בשירותם של אינטרסים צרים. אני טוען שהערפול מקנה לנו את האפשרות החיונית מאוד ליהנות מן הספק, משום שהוא חושף את התפרים בחזית האטומה של מנגנוני השליטה האלגוריתמיים.

כדי שלא ניאלץ לגלוש במדרון הניהיליסטי החלקלק של פוסט־אמת, שימוש קונסטרוקטיבי בטכנולוגיות ובאמצעי ההתנגדות הללו יאפשר לנו לאתגר את מאזן הכוחות שבין ענקיות הטכנולוגיה לציבור הרחב, לסגת צעד אחורה, לנסח קוד אתי לביג־דאטה, ולהעריך מחדש את התנאים שבהם ראוי לאסוף, לנתח, לאחסן, להנגיש ולהשתמש במידע כזה. ולבסוף, כשאנו שופטים את השפעת הערפול על הסביבה הטכנולוגית, התרבותית והאתית שלנו, אנחנו יכולים להחיל עליו את החוק הראשון בחוקי הטכנולוגיה של מלווין קרנצברג (Krabzberg), ולהכיר כי

הערפול לא טוב ולא רע;

וגם לא נייטרלי.

 

דוגמאות

  1. עכביש החוגית הלבנה מפסל את דיוקנו העצמי כדי לערפל את זהותו האמיתית ברשת.
  1. בשנת 2013 יצר בן גרוסר (Grosser) הרחבה לדפדפנים בשם ScareMail, שמוסיפה טקסט "מפחיד" להודעות דואר אלקטרוני בג'ימייל. ScareMail מצרף להודעות עלילות שנוצרו באמצעות אלגוריתם ומכיל אוסף של מילות חיפוש שאנשי ה־NSA צפויים להשתמש בהן. כל סיפור הוא יחיד במינו כדי לצמצם סינון אוטומטי; בשום סיפור אין היגיון כדי להגביר את התסכול של העוקבים.
  2. בשעה שתוסף AdNauseam חוסם את כל המודעות באתר המבוּקר, ואז לוחץ על כולן מאחורי הקלעים, בנק המודעות שלו מציג את כל המודעות האלה בעת ובעונה אחת. הפגזת הצבעים הוויזואלית חושפת את כישלון הפרסום הממוקד להתמקד כשנגזר על המודעות להיאבק זו בזו על תשומת הלב תמונה שממחישה את גודש הנתונים המופרז שמחוללת פונקציית הלחיצה האוטומטית של התוסף.
  1. Unfitbits היא סדרה של פתרונות ערפול שנועדו "לשחרר את נתוני הכושר שלכם מעצמכם". טגה בריין (Brain) וסוריה מאטו (Mattu) מעודדות אותנו לחבר שעוני כושר כגון Fitbit למתקנים מכניים שונים ומשונים במטרה להטעות אותם, וכך אולי לקבל הנחות בביטוח. בתמונה: חיישן מעקב של Fitbit שהוצמד למטרונום.

 

לקריאה נוספת