אינסטגרם, פינטרסט תוכן מוצע גרם למוות

מוות אלגוריתם: כשאנו מתקדמים לקראת חיים סוחפים במטא-ברס, אזעקות צועקות. חברות טכנולוגיה צריכות לעשות סדר באלגוריתמים שלהן, אחרת זה יכול להיות עתיד מסוכן עבור חלק מהן.

למרות שאנחנו עדיין לא ב-Web3, בעיות עם Web2 עדיין מדאיגות מאוד. אמנם אלגוריתמים שנעשו על ידי טכנולוגיה גדולה יכולים להיות טובים לחברה, כמו אלה לחזות פשע מראש, יש אחרים שהם אסון מוחלט.

חוקר מקרי המוות אנדרו ווקר זיהה את סיבת המוות של מולי רוז ראסל בת ה-14 כמעשה של פגיעה עצמית. הוא אמר שזה נגרם מדיכאון וההשפעה השלילית של תוכן מקוון.

הליכון אמר כי "לא יהיה בטוח עבורנו להכיר בהתאבדות כגורם המוות".

אלגוריתם מוות: אינסטגרם ופינטרסט

המומחה אמר כי אינסטגרם ופינטרסט השתמשו באלגוריתמים שבחרו ושיתפו תוכן לא הולם עם הסטודנטית מבלי שהיא ביקשה את המידע. ווקר מדווח, "חלק מהתוכן עשה רומנטיזציה למעשי פגיעה עצמית של צעירים, בעוד שאחרים קידמו בידוד ואיפשרו לדון בבעיה עם אנשים שעשויים לעזור".

על פי אפוטרופוס, ראסל שמרה, עשתה לייק או פרסמה יותר מ-2,000 פוסטים באינסטגרם ב-2017 ערב מותה. כולם היו קשורים להתאבדות, דיכאון או פגיעה עצמית. הילדה גם צפתה ב-138 סרטים בעלי אופי דומה. ביניהם היו פרקים של הסדרה סיבות 13 למה לאנשים בני 15+ ו-18+.

פסיכיאטר ילדים אמר במהלך הדיון כי לאחר שניתח במה ראסל צפה זמן קצר לפני מותה, הוא לא הצליח לישון בשקט במשך שבועות.

"10 סיכות דיכאון שאולי תאהבו"

החוקרים מצאו מאות תמונות של פגיעה עצמית והתאבדות בחשבון הפינטרסט של הילדה. עוד התברר שהפלטפורמה שלחה לתלמידים מיילים הממליצים על תוכן לא הולם. לחלקם היו כותרות שנאמרו: "10 סיכות דיכאון שאולי תאהבו".

סביר להניח שהחומר בו צפתה מולי, שכבר סבלה מהפרעת דיכאון ופגיע לפציעות הקשורות לגיל, השפיע עליה לרעה. סביר להניח שזה גם תרם יותר ממינימום למותו של הילד.

בכירי מטה ופינטרסט התנצלו והודו שראסל נתקל בתוכן בפלטפורמות שלא אמור להיות שם. דובר מטה אמר, "אנחנו רוצים שאינסטגרם תספק חוויה חיובית לכולם, במיוחד לבני נוער. אנו נסתכל מקרוב על הדו"ח המלא של חוקר מקרי המוות כאשר הוא ימסור אותו".

פינטרסט הצהירה כי היא משפרת כל הזמן את הפלטפורמה והיא מחויבת להבטיח אבטחה לכולם.

מקרים אחרים

טיק טוק נתבעה במאי בגין "המלצות קטלניות" לכאורה של האלגוריתמים שלה. בדצמבר 2021, העוזרת הוירטואלית של אמזון, Alexa הציע אתגר קטלניה לילד בן 10.

זה עולם חדש ואמיץ, אבל גם מפחיד. ביג טק לא יכול להיות שאנן לגבי התפקיד העתידי שיש להם בנושא הזה.

יש לך משהו להגיד על מוות האלגוריתם או כל דבר אחר? כתוב לנו או הצטרף לדיון שלנו ערוץ טלגרם. אתה יכול גם לתפוס אותנו תיק Tok, פייסבוק, או טויטר.

כתב ויתור

כל המידע הכלול באתרנו מתפרסם בתום לב ולמידע כללי בלבד. כל פעולה שהקורא מבצע על המידע המצוי באתרנו הינה על אחריותם בלבד.