מעורבות חברתית ומקצועית בפיתוח טכנולוגיות חדשניות לזיהוי התעללות בילדים והזנחתם

מחשוב מידע רפואי והתעללות בילדים

התהליך המתפתח של מחשוב מידע רפואי פותח לפני חוקרים ערוץ חדש של מחקר ופיתוח טכנולוגי מתקדם כגון AI לזיהוי התעללות והזנחה. ערוצי פיתוח ויישום טכנולוגיים מורכבים אלה מציבים לפני העוסקים בכך שאלות אתיות מרובות: באילו סוגי מידע יש להשתמש בתהליך הפיתוח? איך לדייק את ההגדרה של התעללות והזנחה? האם להשתמש במידע שעשוי להיות מוטה בפיתוח של AI, וכיצד מתמודדים עם הסוגיה כאשר AI מציג תוצאות מוטעות אשר יכולות לפגוע במשפחות רבות?

כדי למנוע הטיה מעין זו, וכדי לשפר ולתקף את תהליך הפיתוח והיישום של כלי חדשני זה, נדרש לשתף בתהליך אנשי מקצוע ממקצועות מגוונים שנחשפים לתופעה, כגון רופאים, אחיות, עובדים סוציאליים ונציגי אוכלוסיות מגוונות המעורבים בתופעה, כגון הורים, צעירים וילדים מרקעים שונים – חברתיים, אתניים וחברתיים-כלכליים, כגון נוער להט"בי, ילדים ממוצא אתיופי, ערבי, דרוזי, בדואי; משפחות חילוניות, דתיות וחרדיות; משפחות עירוניות וכפריות ועוד. עידוד שיח פתוח וחשיבה מגוונת במהלך הפיתוח של AI מאפשר זיהוי מיטבי של הטיה, מעודד חשיבה ביקורתית, ומאפשר לאוכלוסיות בהדרה להיות מעורבות ומשמעותיות בפיתוח של טכנולוגיות חדשות.

מאמר דעה זה יעסוק בתיאור ההזדמנויות, האתגרים וההמלצות המעשיות לשיתוף גורמים מקצועיים וקהילתיים בפיתוח אתי של AI, פיתוח שמטרתו לשפר את תהליך הזיהוי של תופעת ההתעללות בילדים והזנחתם.

גישת צדק עיצובי – שיתוף חברתי ומקצועי

כדי לקדם פיתוח אתי של AI לזיהוי של התעללות והזנחה במערכות הבריאות, אנו ממליצים על יישום גישה הנקראת "גישת צדק עיצובי" (design justice approach) (Costanza-Chock, 2020), שמקדמת עבודה משותפת של מומחים, אנשים העוסקים בתחומי בריאות שונים, הורים, בני נוער וקבוצות שמודרות חברתית. יישום גישה זו מביא לידי ביטוי שיתוף פעולה של אוכלוסיות בהדרה עם דמויות מפתח בתחום המחקר, וכן מעצבים בתחום של עיצוב טכנולוגיות מתקדמות. המטרה היא לאתגר את אי השוויון ולהכליל דעות וקולות שלרוב אינם נשמעים בעת פיתוח של AI בנושאים חברתיים משמעותיים, כגון זיהוי של התעללות והזנחה.  

שיתוף מומחים

לאנשי מקצוע מתחומי הבריאות והרווחה תרומה משמעותית בשנים האחרונות לפיתוחן של טכנולוגיות AI לזיהוי של התעללות והזנחה בקרב ילדים (Berger et al., 2018; Hanson et al., 2023; Landau et al., 2022). כך, בהדרכתם של אנשי המקצוע מתחום הבריאות, אותרו וסומנו מילות מפתח לאיתור אינדיקציות של התעללות והזנחה במסמכים רפואיים, גובשו המלצות על זיהוי רפואי של מאפייני סיכון ייחודיים של התעללות והזנחה, ונערך פיתוח פנוטיפ לזיהוי של התעללות והזנחה עם השלכות להפחתה של הטעיה גזעית או אתנית. נוסף על כך, נבנה כלי שנותן לאנשי מקצוע אפשרות לבחון בזמן אמת את הפיתוח ולתת המלצות לשיפור ובקרה.

שיתוף משפחות

בד בבד עם תרומתם של אנשי המקצוע, משפחות רבות תרמו אף הן לפיתוח ומתן תוקף לכלים טכנולוגיים בתחום הבריאות בנושאים כגון אסתמה, אוטיזם והתעללות והזנחה. ניסיון החיים והחוויה של משפחות רבות בנושאי בריאות עשויים להעניק להם פרספקטיבה ייחודית וחשיבה מחוץ לקופסה, שמועילות לפיתוח ויישום של טכנולוגיות בתחומים אלה. לדוגמה, השתתפותם של הורים ממוצא היספני במחקר שהובלנו (Landau et al., 2023) תרמה להגדרה מחודשת של התעללות והזנחה בקרב הקהילות שלהם. כמו כן, הורים הדגישו והסבירו כיצד היעדר תקשורת בין מטופל לרופא עשוי להשפיע על זיהוי מוטה של התעללות בילדים. הורים גם אפשרו לנו נקודת מבט ייחודית על ההשלכות השליליות האפשריות, בעקבות פיתוח טכנולוגי שיש בו הטיה, על צוותים רפואיים. 

חשוב לציין כי עד כה לא ידוע על הכללת בני נוער וצעירים וצעירות בפיתוח כלים טכנולוגיים בתחום התעללות והזנחה בקרב ילדים. למרות הקשיים הפוטנציאליים, כגון הסכנה לשחזור אירועים טראומטיים בעת שיתופם, לצעירים וצעירות יש זכות להשפיע על מהלך חייהם ולתרום לפיתוח טכנולוגיות במגוון תחומים, ובכלל זה התעללות והזנחה. כחוקרים, חשוב להקדיש תשומת לב לנושא זה ולבחון את פרטיו לעומק, בדגש על אופי המידע (מידע רפואי, תמונות פורנזיות, דוחות סוציאליים ותיאורי מקרה), אופן הניתוח (analysis), וכמות המידע שמבקשים מהצעירים והצעירות לבחון ולנתח בעת פיתוח של AI.

נקודת המבט הישראלית

האוכלוסייה בישראל הטרוגנית, ויש בה מגוון של דתות וקבוצות אתניות.(1) בד בבד, יש בה מגוון גדול של אנשי ונשות מקצוע העוסקים בתחום התעללות והזנחה בילדים.(2)פיתוח עתידי של זיהוי התעללות והזנחה במדינת ישראל יצטרך להביא בחשבון ולבחון לעומק שיתוף של אוכלוסיות ואנשי מקצוע מרקעים שונים ומשלל תפקידים בתהליך הפיתוח של הטכנולוגיות השונות.

ניסיון מקצועי וניסיון חיים מגוון מאפשרים יצירתיות בתהליך הפיתוח, הבדיקה והיישום של אותן טכנולוגיות. הם גם עשויים לסייע למפתחים לזהות הטיות (bias) בדאטה הקיימת. לדוגמה, אנשי מקצוע שונים יכולים להעניק ידע וראייה רחבה על האופן שהם מתעדים התעללות והזנחה ועם מי הם נוטים להתייעץ כאשר הם נתקלים במקרים אלה. באופן דומה, אוכלוסיות בהדרה יכולות להעניק פרספקטיבה מחודשת של גורמי סיכון לתיאור התעללות והזנחה שקיימים במידע הרפואי, שבאמצעותם אפשר לאמן מודלים של AI ולהעניק למפתחים קונוטציות מחודשות לגבי הדאטה בשימוש. שיתוף קבוצות אוכלוסייה שונות מאפשר חשיבה מחודשת על צרכים ייחודיים ודרכי התערבות מגוונות לאותן אוכלוסיות, ועבור המפתחים והחוקרים – אפשרות ללמוד את הדרכים האפקטיביות ביותר לשתף את האוכלוסיות האלה עם תוצאות של AI. לדוגמה, שיתוף אוכלוסיות ואנשי מקצוע מגוונים בפיתוח של תרשימים חזותיים שיעזרו לאושש את הסיבות ש-AI זיהה התעללות והזנחה בקרב ילדים.

עבודה עם אוכלוסיות מגוונות, שחלקן סובלות מהדרה, מחייבת את המפתחים והחוקרים למודעות ולשמירה על ביטחונן. העיסוק במידע רפואי ובמידע רגיש על האוכלוסייה יכול להיות מזיק מכיוון שהוא עלול להציף ולשחזר טראומה בקרב נפגעים. לכן מומלץ לעצור מעת לעת ולבחון כיצד אפשר להקל על השותפים הללו. נוסף על כך, מומלץ להעסיק עובדות ועובדים סוציאליים, יועצות ופסיכולוגים שילוו את השותפים השונים מכל קשת האוכלוסייה – מטפלים ושותפים – ויתנו מענה לצורכיהם המשתנים. 

אם כן, שיתוף מגוון אוכלוסיות מרקעים שונים ומגוון אנשי מקצוע מאפשר למפתחים ולחוקרים להציב את הקהילה במרכז הפיתוח. יצירת שיתוף זה מעניקה אפשרות מחודשת לפיתוח אתי של AI. כאנשי טיפול, שמאמנים פרקטיקה המדגישה אתיקה, פיתוח אתי של טכנולוגיות הוא משמעותי ביותר. פיתוח זה מאפשר חשיבה מחודשת וחדשנית על הצרכים הקהילתיים, על בניית יחסי אמון בין קבוצות שונות, על חשיבה ביקורתית ועל אופי הפיתוח והיישום של הטכנולוגיות השונות.

לפניכם מודל המתאר את יישום התהליך של מעורבות חברתית ומקצועית בפיתוח של AI לזיהוי התעללות בילדים והזנחתם באמצעות ניתוח של מידע רפואי.