"מורה נבוכים"

הגדרת המושגיםAI, ML, BD

בינה מלאכותית (AI – Artificial Intelligence), למידת מכונה (ML – Machine Learning) ונתוני עתק (BD – Big Data) הפכו למונחים המזוהים עם חזית הקִדמה.

נפנה תחילה להגדרת המושגים:

בינה מלאכותית – מייצגת הצטברות של יכולות חישוביות המחקות את האינטליגנציה האנושית. היא פועלת כסוכנת בעלת אינטליגנציה דיגיטלית המסוגלת ללמוד ולהבין את סביבתה, והיא בעלת יכולת לפתור בעיות ולקבל החלטות העונות על המטרות או ההוראות שהוצבו לה. שלא כמו הבינה האנושית, הבינה המלאכותית היא תוצר של אלגוריתמים מורכבים ותבניות המאפשרים לייצר ידע חדש או תובנות על סמך ניתוח ולמידה של כמות גדולה של נתונים.

למידת מכונה – תת-קבוצה של AI – כוללת בתוכה אלגוריתמים המניבים תוצאות טובות יותר ככל שהם הופכים ל"מנוסים" יותר (ומכאן המונח "למידה"). הניסיון מגיע עם חשיפה הולכת וגדלה למידע ולנתונים, כך שבכל חשיפה כזאת האלגוריתמים מתקנים את תוצאותיהם הקודמות עד שמתקבלת התוצאה המדויקת ביותר.

נתוני עתק (ביג דאטה) – מהפכת המידע ושיפור משמעותי ביכולת לאגור מידע בצורה חסכונית ויעילה הובילו לכך שכמעט כל גוף היום אוגר כמויות עצומות של מידע. עיבוד, ניתוח וגזירת תובנות של קבצים ובסיסי נתונים גדולים מאוד מצריכים שימוש בשיטות, בכלים ובפעולות שלא נדרשו בעבר.

עתה נסקור את התחומים הטכנולוגיים העיקריים המציעים פתרונות בתחום של התעללות בילדים והזנחתם:

חיזוי (Predictive analytics)

תחום החיזוי מורכב ממודלים שתפקידם לחזות או להעריך את התוצאה של אירוע מוגדר בתנאים מוגדרים מתוך למידה של מקרי עבר רלוונטיים. כדי להמחיש את הנושא, נשתמש בדוגמה השאולה מעולם המכירות – חיזוי מחירו של בית בנקודת זמן כלשהי, ובכלל זה פרטים כגון מספר החדרים, מיקומו וגילו של הבית. הלמידה נעשית על סמך נתוני עבר של מכירת בתים והמפרט שלהם, והחיזוי נעשה על סמך מחירם של בתים בעלי מפרט דומה.

חיזוי מדויק תלוי ביכולת לאסוף ולעבד כמויות גדולות של מידע. שיפור בתוצאות המתקבלות ממודל חיזוי הוא תוצר של התקדמות משמעותית ביכולות האלגוריתמים AI ו-ML, אחסון מידע, כוח חישוב ואחזור נתונים – אבל גם של קידום מדיניות ותכנון מבוסס ראיות (Lanier et al., 2020). היתרון בשימוש במערכת חיזוי אוטומטית הוא בהפחתת טעויות אנוש וכן ביכולת להביא בחשבון כמויות גדולות של מידע בתהליך קבלת ההחלטות, יכולת העולה בהרבה על היכולת האנושית.

חיזוי אנליטי בתחום הרווחה

פרויקט קו הסיוע של שירותי הרווחה במחוז אלגני (Allegany county) במדינת ניו יורק שבארצות הברית מאפשר לאלגוריתם חיזוי אנליטי להציע חוות דעת שנייה על כל דיווח לקו הסיוע. במקום השיטה המסורתית המוכרת, שדורשת ממוקדן לאסוף מידע, ללמוד את פרטי המקרה ולקבל החלטה על המשך חקירה וטיפול, תהליך שיכול לארוך זמן רב, בזמן השיחה הטלפונית נבנה במהירות פרופיל של המקרה המדווח בעזרת אלגוריתמים של ML. הוא מקבל "ציון מיון משפחתי" החוזה את רמת הסיכון המשפחתית על סמך הנתונים הקיימים במערכות ממשלתיות ואלו המתקבלים במהלך השיחה. שילוב החיזוי של המחשב עם מידע שנאסף על המקרה באופן מסורתי מאפשר לחזות טוב יותר את הסבירות ארוכת הטווח להתערבות של שירותי הרווחה בעתיד. המודל מביא בחשבון גורמי סיכון, כגון היסטוריה הורית, תנאים חברתיים-כלכליים, מאפייני השכונה ומעורבות קודמת של שירותי הרווחה. הציון אינו מחליף שיקול דעת של איש מקצוע אלא מספק מידע נוסף, כדי לסייע בתהליך קבלת ההחלטות במיון הראשוני.

חשוב לנו לציין שפרויקטים דומים במדינות נוספות התקיימו בפיילוטים, ורבים מהם הופסקו בעקבות ביקורת על הטיות מובנות בנתונים המוזנים למודל (כגון מצב חברתי-כלכלי ומצב בריאותי). קיים מתח רב בין הפוטנציאל של יוזמות מסוג זה למניעת אלימות ובין הפוטנציאל שלהן לתרום לדחיקה נוספת של מיעוטים לשוליים.

אלגוריתמים מבוססי מיקום וסוכנים (Space and agent based algorithms)

תת-תחום של מודלי חיזוי הוא מודלים המביאים בחשבון את הפן המרחבי ואת העיתוי של תופעה מסוימת. למשל, ניתוח מקרי פשיעה בהקשר של זמן ומרחב – מתי התרחשו (האם סביב תאריכים מיוחדים, יום בשבוע, שעה ביום) והיכן (סמוך לחנות לממכר אלכוהול, פארק) – מאפשר לייצר מפה של נקודות חמות (hot-spot) שבהן מתרחשים אירועים מהסוג הזה ולנתב את ניידות המשטרה לנקודות אסטרטגיות או להציב מעקב באמצעות מצלמות אבטחה (ראו פרויקט HunchLab ו-PredPol).

מודלים מבוססי סוכנים (agent based) מביאים בחשבון את ממדי הזמן והמרחב אך בוחנים גם כיצד נקיטת פעולה מסוימת משפיעה על תופעה שלילית שרוצים למגר. לדוגמה, כיצד שינוי בשעות הסגירה של חנות לממכר אלכוהול משפיע על תגרות במרחב הציבורי, או כיצד שינוי במיקום של ניידת משטרה משפיע על אזורים שיש בהם אירועי אלימות רבים.

אפשר לראות שימוש בטכנולוגיה זו בתחום של מניעת התעללות בילדים והזנחתם אצל דאלי ואחרים (Daley et al., 2016) ובפרויקט PAP (PAP – Predict Align Prevent, 2019). הראשונים השתמשו ב"מודל שטח סיכון" המביא בחשבון את ההשפעה המצטברת של גורמים סביבתיים על התופעה (מקרי תקיפה, רצח, סמים, זנות, אלימות במשפחה, עוני ועוד) כדי לחזות מקרים עתידיים של התעללות. האחרונים יצרו מודל למידת מכונה בעל "תפיסה" מרחבית, הִממפה את המרחב הציבורי בעיר מסוימת לפי אירועי עבר רלוונטיים בשילוב זמינות משאבים נחוצים במרחב העירוני, ומצביע על אזורים בעיר בדרגות סיכון שונות לחוות התעללות והזנחה. השלב הבא הוא היכולת למפות נותני שירות רלוונטיים ולהפנות אותם לאזורים בדרגת סיכון גבוהה או להקצות את המשאבים לפי אזורי הסיכון בעיר.

מודלים מבוססי סוכנים, בשילוב עם גישות המבוססות על הבנת המרחב, יכולים לשמש לאופטימיזציה של מיקום שירותים ומוסדות בעיר לשם הנגשה נוחה של אותם שירותים.

עיבוד שפה טבעית (NLP – Natural language processing)    

פלטפורמות חברתיות, כגון אינסטגרם, טיקטוק ופייסבוק, הפכו לחלק בלתי נפרד מחיינו החברתיים. אנחנו חיים בעידן של "לראות ולהיראות", ואפליקציות אלו מובילות אותנו לתעד כל דבר שאנחנו עושים ולדווח עליו. אנחנו מקיימים קשרים וירטואליים ומשתפים חוויות ומחשבות שלא בהכרח היו באות  לידי ביטוי באינטראקציות פיזיות בין אנשים. למרות היתרונות הרבים שמגוון הפלטפורמות החברתיות מציע, רשתות חברתיות מתפתחות גם כמקומות שבהם יש ביטוי להתנהגויות מסוכנות של אנשים וביטוי של טראומה ומצוקות רגשיות.

מיליארדי המשתמשים ברשתות החברתיות מייצרים מיליוני נתונים בכל יום – ציוצים, פוסטים, תמונות וסרטונים, ולכן גובר העניין של עוד ועוד חוקרים וחברות בפיתוח טכנולוגיות שיכולות לנתח את המידע הזה. למשל, אלגוריתמים NLP – תת-קבוצה בתחום למידת המכונה – מתמחים בעיבוד, למידה וניתוח של כמויות גדולות של טקסטים. אלגוריתמים אלו מאפשרים, למשל, תרגום אוטומטי של טקסטים לשפות רבות או השלמה של טקסט. הם אף הביאו את הבשורה הגדולה ביותר של התקופה האחרונה – מענה על שאלות מכל תחום וסיוע בפתרון בעיות בדמות Chat GPT של Open.AI ו-BARD של גוגל.  

אלגוריתמים של NLP עשויים לסייע באיתור משתמשים בסיכון ברשתות החברתיות באמצעות ניתוח דפוסי הפעילות ברשתות והתכנים שהם משתפים או שנכתבים על ידי אחרים בגנותם. באבוויי ואחרים (Babvey et al., 2021) ניתחו טקסטים מ-X (טוויטר לשעבר) ו-REDIT שנכתבו בתקופת הקורונה, כדי לבדוק אם חל שינוי בחשיפה של ילדים לאלימות בזמן הקורונה. הם מצאו עלייה בכמות הטקסטים שכללו תוכן אלים או פוגעני בזמן הסגרים.

הנוכחות המקוונת המוגברת, של ילדים ומבוגרים כאחד, מחזקת את הצורך לבחון כיצד ניתן      להשתמש במדיה חברתית כדי לזהות קורבנות פוטנציאליים של אלימות, ולשקול כיצד פלטפורמות אלו יכולות לשמש נקודות כניסה להגשת עזרה. זהו אחד התחומים שניכר בו כי הפוטנציאל לפריצת דרך קיים אך טרם הגיע לידי מימוש.

חשוב לציין ששימוש במידע מרשתות חברתיות מעלה סוגיות של פגיעה בפרטיות, ונשאלת שאלה מתחום האתיקה – האם נכון לעשות שימוש בנתונים אישיים, אם גם ברשות הרבים, כדי ללמוד על התנהגות הפרט, בייחוד אם המנוטרים אינם מודעים לכך שהם נתונים במעקב?

רפואה דיגיטלית (Mobile health – Mhealth)

רפואה דיגיטלית היא תחום שבו מידע רפואי וטיפול רפואי מונגשים מרחוק באמצעות מכשירי תקשורת, כגון טלפונים חכמים ומחשבים. השימוש ברפואה דיגיטלית בהקשר של מניעת התעללות בילדים נעשה בשלושה אופנים:

1. הנגשת שירותים – מתן שירותים באופן דיגיטלי מאפשר חשיפה שלהם לאוכלוסיות שלא צרכו אותם קודם לכן מסיבות של חשש מסטיגמה, מחסור במשאבים או בעיות לוגיסטיקה.
2. אפליקציות ופלטפורמות לאבחון מצבים נפשיים – קיימות כמה אפליקציות המאפשרות אבחון עצמי של מצבים נפשיים הידועים כגורם סיכון לפגיעה בילדים. המשתמש מזין מידע אישי הכולל שיתוף ברגשותיו ובמחשבותיו ומקבל ייעוץ על ידי בוט או המלצות להמשך טיפול נפשי רלוונטי. האפליקציות משתמשות בטכנולוגיות של AI ומבססות את המלצותיהן על סמך למידה ממקרי עבר (ראו ג'ינג'ר, WoeBot, theQuartet).
3. הרחבת פעולות התערבות שמטרתן להפחית אלימות נגד ילדים – שימוש בטכנולוגיה כאמצעי סינון למקרים שונים ותיעדופם, וגם כגורם משלים לשם קבלת החלטות. בתחום זה לקשר האישי של המטופל עם איש מקצוע יש חשיבות רבה בהצלחת התהליך, ולכן השימוש ב-Mhealth מהווה השלמה של תוכניות מסורתיות ואינו מחליף אותן.

מציאות מדומה ומשחקי מחשב להעלאת מודעות ולחינוך

אפליקציות ואתרי אינטרנט משמשים להעלאת מודעות ולחינוך ילדים והוריהם גם בתחומים של חינוך מיני, מוגנות והקניית מיומנויות חברתיות ורגשיות. אסדזאדה ואחרים (Asadzadeh et al., 2022) הדגימו שימוש בטכנולוגיה של משחקים דיגיטליים ומציאות מדומה לצורכי טיפול בתופעה של התעללות בילדים והזנחתם. החוקרים התמקדו בתחומים האלה: הכשרת אנשי בריאות, מניעה, איתור, אבחון, טיפול ורפואה משפטית. באפליקציות שפיתחו אפשר לראות סימולציות אינטראקטיביות הבוחנות ידע ומיומנות של אנשי מקצוע בזיהוי ילדים שנפגעו מהתעללות, משחקי מחשב המתמקדים במניעת התעללות מינית, איתור ילדים נפגעי התעללות באמצעות אפליקציה המאפשרת לילדים לתאר בצורה חווייתית ובאמצעות סיפור את היומיום שלהם או משחק מחשב שנועד לסייע לילדים מאומצים להתמודד עם טראומה.

Child Help Line International(1) למשל פיתח לאחרונה משחק מחשב שנועד להכשיר מדריכי קו סיוע לילדים בסיכון. המשחק לוקח את המשתתפים למסע בין שלושה סיפורים מציאותיים בעקבות דמויות של צעירים. המשתתפים משמשים יועצים ומקיימים אינטראקציה עם הדמויות הללו באמצעות נרטיב מסוים. בכל שיחה הם צריכים להפגין כישורים כגון בניית קשר, הזדהות עם הילד, זיהוי סיכונים ובחינת פתרונות. זו חוויה דינמית וסוחפת המטפחת למידה ופיתוח מיומנויות בסביבה בטוחה ומבוקרת. באמצעות תרגול חוזר ונשנה בסביבה מדומה זו, יועצי קו הסיוע לילדים יכולים לשפר את יכולותיהם ולצבור ביטחון ללא חשש מהשלכות מזיקות על ילדים "אמיתיים".

סייבר

האתגרים המוכרים מהמציאות האמיתית "היגרו" אל העולם המקוון. התעללות מינית, הטרדה, סחיטה ובריונות הן דוגמה לכך, אך שלא כבעבר – רשת האינטרנט מאפשרת לשמור על אנונימיות של הפונה ומעלה אתגרים חדשים.

תפקידה של הגנת סייבר להגן על ילדים מפגיעות ברשת, והיא ממוקדת בשלושה תחומים עיקריים:

1. מניעת התעללות וניצול מיני – הקואליציה להגנת הילד, ארגון אמריקאי ללא מטרות רווח, פיתח טכנולוגיה המאפשרת איתור ומעקב אחר משתמשים ברשת האינטרנט המורידים ומשתפים קבצים בעלי תוכן פורנוגרפי. הפלטפורמה אוספת ומנתחת כמות גדולה מאוד של דוחות משתמשים הסוחרים בתוכן פדופיליה (50-30 מיליון דוחות בכל יום). ניתוח זה מאפשר לחשוף מערכות קשרים בין פדופילים ולדווח לרשויות על פעילותם בזמן אמת. Take It Down היא פלטפורמה בפיתוחו של המרכז הארצי לילדים נעדרים ומנוצלים בארצות הברית, שמטרה להילחם בהפצת תמונות או סרטונים בעלי תוכן פוגעני ברשת האינטרנט. הכלי מאפשר לכל משתמש לדווח, באמצעות טופס מקוון, על תמונות בעלות אופי מיני או סרטונים, והם מקבלים טביעת אצבע דיגיטלית ייחודית, הנקראת ערך hash. באמצעות טביעת האצבע של הקובץ אפשר לעקוב אחר קבצים מסומנים באתרים ובאפליקציות ולהסירם (ראו גם NetClean, Safer, AiLecs). הטכנולוגיה משמשת גם לניטור ומעקב אחר אפליקציות המאפשרות שיחה וירטואלית בין משתמשים לא מוּכרים. שיחות הצ'ט הפכו כר פורה לפוגעים, והמאמץ מתרכז באיתור תוכן פוגעני. תחום זה מתפתח ומשתכלל, כל הזמן כדי לסכל מאמצים של פוגעים להתגבר על מערכות האבטחה של הפלטפורמות.
2. שמירה על פרטיות ומוגנות ברשת – בשנים האחרונות פותחו טכנולוגיות שמטרתן להבטיח את השמירה על פרטיות ילדים ולמנוע גניבת זהויות והטרדות. Yoti היא פלטפורמה המאפשרת אחסון בטוח של מידע אישי של המשתמש, הזמין למשתמש בלבד, כך שהמידע לא יוכל לדלוף לגוף שלישי (גם לא למפעילי הפלטפורמה, כדי שלא יוכלו לסחור בו). הטכנולוגיה מבוססת על זיהוי פנים, המשמש גם להערכת גיל המשתמש ומוודא כי מדובר באדם אמיתי.
3. אפליקציות המאפשרות להורים להגביל ולנטר את פעילות הילדים ברשת – אפליקציות המאפשרות להורים שליטה על פעילות ילדיהם ברשת, ובכלל זה מעקב והגבלה של פעולות, חסימה של תוכן וחסימת גישה לאתרים ואפליקציות שעשויים להיות פוגעניים (ראו למשל Parentaler, Msp, Norton).

לסיכום

יש לא מעט אפליקציות או מודלים העוסקים בתופעת ההתעללות בילדים והזנחתם. באופן כללי, כלים מסוג זה עשויים לאפשר לרשויות השונות להיות יעילות יותר ולתת לילדים בסיכון מענה מהיר יותר ובעלות נמוכה יותר. אף על פי כן נראה כי קיים פער בין הפוטנציאל הרב – בשימוש בטכנולוגיה, למידת מכונה וביג דאטה בכל הקשור למניעה, איתור, זיהוי וטיפול בילדים נפגעי התעללות והזנחה – ובין המימוש בפועל. 

חשוב לציין שפיתוח הטכנולוגיה ומימושה טומנים בחובם אתגרים שחשוב לתת עליהם את הדעת, ובהם שתי סוגיות מרכזיות:

1. ערנות אתית – מחויבות לשמירה על זכויות הפרט, שקיפות בשימוש בנתונים, הסכמה (CONSENT) ואבטחת נתונים.
2. מניעת הטיה של הטכנולוגיה (האלגוריתם) שמקורה בנתונים המוזנים. היעילות והאפקטיביות של כלי בינה מלאכותית תלויות במידה רבה באיכות הנתונים שעליהם הם מאומנים. שימוש בנתונים חלקיים עלול לגרום לכך שקבוצות מסוימות יהיו במוקד, שלא בצדק, או לחלופין – שקבוצות ייעלמו לגמרי "מתחת לרדאר".

כדי להבטיח את מימוש הפוטנציאל של הטכנולוגיה למתן פתרונות לתופעה של התעללות בילדים והזנחתם, חשוב להתמודד עם אתגרים אלו אך גם להבטיח מסגרת ממשלתית חזקה ופיקוח והעלאת מודעות בקרב הציבור לעבודה מבוססת מידע, ולהבטיח את הסכמת הציבור לשימוש בנתונים.

* המאמר מבוסס בחלקו על המאמר של האנט ואחרים (Hunt et al., 2020).