דאגת האתיקה האחרונה של AI היא שבינה מלאכותית יכולה לגלם באופן בלתי נפרד הטיות פוליטיות, כולל אפילו במקרה התמים של מכוניות בנהיגה עצמית מבוססות בינה מלאכותית

בואו נדבר פוליטיקה.

ובכן, אני מבין שסביר להניח שאתה נשרף מההתמקדות הבלתי פוסקת לכאורה בפוליטיקה בכל מקורות התקשורת הזמינה בימים אלה. מצבים אדומים מול מצבים כחולים. ליברלים מול שמרנים. דמוקרטים מול רפובליקות. הפטפוטים על תכסיסים פוליטיים הם אינסופיים להחריד.

אפשר היה להניח באופן סביר שיש כמה נושאים שפוליטיקה לא נכנסת לתמונה במיוחד. בעיקרו של דבר, אולי יש שני סוגים נפרדים של נושאים, כלומר נושאים המושרים פוליטית לא משנה מה, ונושאים בנאליים אחרים שיעקפו או יברחו מהתחום הפוליטי.

נראה הגיוני שיהיו נושאי הבזק המושכים את העין שאמורים לנצח להיות שקועים בפוליטיקה ובזעמות פוליטיות, כמו הרשימה ארוכת השנים שכוללת היבטי בריאות לאומיים, היבטים אלקטורליים, בקרת נשק, הגירה, וכדומה. כל מה שאתה צריך לעשות הוא להזכיר כל אחד מהנושאים האלה והדבר הבא שקורה הוא שאתה שקוע בסערת אש פוליטית. ויכוחים סוערים למדי מובטחים.

מהצד השני של מטבע השריפה, אולי יש כמה נושאים שאינם גורמים לתגובה פוליטית כה מטומטמת. אני רוצה להציף נושא אחד כזה לפניכם, בניסיון לקבל את תגובת הבטן הראשונית שלכם.

מוכן?

מכוניות.

כן, הנושא היומיומי של מכוניות, מכוניות, כלי רכב מנועיים, או איך שתרצו לנסח את זה, האם זה מעורר זעקה פוליטית או מעורר לשון הרע טעונה פוליטית או קשקושים מילוליים שיש להתעסק עליהם?

אולי לא נראה על פני השטח שיש מראית עין מוגברת של דאגות פוליטיות לגבי מכוניות. הם פשוט סוג של תחבורה יומיומית. אתה נכנס לרכב שלך, ואתה נוסע לעבודה. אתה משתמש במכונית שלך כדי לעשות סידורים והולך לקנות מצרכים. אם אתה יכול להקדיש זמן לחופשה, אתה משתמש במכונית שלך כדי להגיע אל היערות הפתוחים או אולי לבקר בכמה מונומנטים לאומיים יקרים.

נראה כי מכוניות הן א-פוליטיות.

מצטער, אבל זה בגדול לא המקרה.

אפשר להוכיח שמכוניות מוקפות באופן אינטימי בפוליטיקה ושקועות בפוליטיקה כמו כל נושא אחר שנקרא נקודת הבזק. אולי התקשורת הכללית לא מכסה פוליטיקה מכוונת מכוניות כפי שניתן לעשות לנושאים אחרים מושכים יותר, אבל בכל זאת, הזרמים התחתונים הפוליטיים עדיין קיימים.

מימד פוליטי אחד ברור מורכב ממה שהמכוניות שלנו צריכות להיות מורכבות.

אני מתכוון לאיפור או למיכון של מכוניות. לדוגמה, יש ויכוח פוליטי סוער בשאלה האם מכוניות צריכות להשתמש ב-ICE (מנועי בעירה פנימית) לעומת מעבר ל-EV (רכבים חשמליים). זהו תחום של שיח משמעותי שקשור לנושאים רבים אחרים טעונים פוליטית, כמו סוגיות סביבתיות והיבטים של שינויי אקלים.

עניין פחות מוכר ועם זאת קשור עוסק בגודל המכוניות ובטביעת הרגל הכוללת שלהן מבחינות שונות. האם יש לנו מכוניות גדולות או רק מכוניות קטנות יותר? האם עלינו להמציא מכוניות כדי להמנע משימוש במכוניות, במטרה לגרום לאנשים להשתמש במקום זאת בתחבורה המונים ובתחבורה ציבורית? וכולי.

הנה משהו שכנראה לא חשבת עליו.

כמה מחקרים בדקו האם סוג המכונית שבבעלותם מבוסס על נטיותיו הפוליטיות של בעל הרכב. יש להניח שתוכל למצוא מתאם סטטיסטי בין מישהו שהוכרז כדמוקרט באשר לסוג המכונית הנרכשת, וכמו כן למצוא מתאם סטטיסטי בין היותו רפובליקני לבין סוג המכונית שבבעלות. אני לא אתעמק במחקרים האלה כאן, אם כי ברצוני להזכיר שאתה צריך לפרש מחקרים כאלה ותוצאותיהם בעין זהירה ובמנה כבדה של ספקנות לגבי התוקף הסטטיסטי הכרוך בכך.

אם כבר מדברים על שימוש בסטטיסטיקה, יש עוד זווית מסקרנת למאפיינים פוליטיים ולמכוניות. ישנם מאמצי מחקר שנראים כקושרים שונים התנהגויות נהיגה של אנשים לשיוך המפלגה הפוליטית של אותם נהגים.

השאלות הנידונות לעתים קרובות כוללות:

· האם נהגים שנקלעים לתאונות דרכים או התנגשויות בסבירות גבוהה יותר או פחות להיות דמוקרטים או רפובליקנים?

· האם נהגים שיכורים סבירים יותר להיות ליברלים או שמרנים?

· כאשר מתרחשות תקריות זעם הכביש המטורפות הללו, שבהן נהגים משתוללים ומתנפלים זה על זה, האם המשוגעים המשתוללים הללו נוטים להיות ליברלים או שמרנים?

· מי מקבל יותר כרטיסי תנועה וכנראה נוהג בסיכון רב יותר, דמוקרטים או רפובליקנים?

· וכו.

שוב, אני לא הולך לצלול למאמצי המחקר האלה כאן. ושוב, אנא הקפידו להיות על קצות האצבעות שלכם כשאתם קוראים מחקרים כאלה או רואים כותרות בוערות על התוצאות שלהם. כל מה שאגיד הוא שהשורה הישנה לגבי סטטיסטיקה עדיין נכונה בשפע היום, כזו שישנם שקרים, שקרים ארורים וסטטיסטיקה (ניקיתי את החוכמה המלוחה הזו לקהל עדין יותר).

נראה שיש לנו אפוא הוכחות רבות לכך שלצערנו יש לנושא המכוניות קונוטציות פוליטיות.

אז אני אבחר נושא אחר, כזה שאולי באמת יהיה א-פוליטי לחלוטין.

מוכנים הפעם?

בינה מלאכותית (AI).

בהחלט, אפשר לקוות, בינה מלאכותית חייבת להיות א-פוליטית, במיוחד כשמדובר ביכולות הפנימיות של מערכות בינה מלאכותית. אתה יכול כמובן לחשוד שיש פוליטיקה מַקִיף בין אם יש להשתמש בבינה מלאכותית או לא, אבל לכאורה היית חושב שהפנימיות של מערכת בינה מלאכותית תהיה מעבר לכל תסיסה פוליטית כשלעצמה.

לפני שנסתכל מקרוב על ההנחה הרווחת הזו, זה עשוי להיות מאלף לשקול כמה היבטים אחרים של בינה מלאכותית שגרמו לרבים לחשוב מחדש על הדחף האכזרי לייצר ולקבל באופן אינסטינקטיבי מערכות בינה מלאכותית מיד.

אתה מבין, בבהלה לעבר AI לתמיד ההתרגשות של השנים האחרונות, עלתה הבנה שלא כל AI הולך להיות בהכרח טוב. ראינו שיש גם הרבה הזדמנויות עבור AI למען הרע להתעורר. זה יכול לקרות מתוך כוונה תכליתית של אלה שמפתחים בינה מלאכותית ויכול לקרות גם בגלל מה שיטענו בקול רם הוא היעדר חסר אחריות לחלוטין של פיקוח נאות של מפתחי בינה מלאכותית ואותן מערכות בינה מלאכותיות.

כיסיתי רבות מהסוגיות הללו של אתיקה בינה מלאכותית בסיקור הטור שלי, כמו הקישור כאן והקישור כאן.

שקול כאינדיקטור של AI למען הרע עניין זיהוי הפנים.

רבים חשבו שזיהוי פנים הולך להיות הטכנולוגיות המוצלחות ביותר מבין טכנולוגיות הבינה המלאכותית (ובמובנים רבים, זה אכן סוג של AI לתמיד). זה יהיה כל כך קל לעשות בנקאות בכספומטים פשוט על ידי סריקת הפנים שלך לצורך זיהוי במקום באמצעות קוד PIN סודי וכרטיס בנקאי. זה יהיה כל כך נוח להיכנס למכולת ולקנות רק על ידי שימוש בפנים שלך כאמצעי לציון חשבון המכולת המקוון שלך שניתן לגבות עבור כל פריט שתבחר.

אתה מכיר את הנוהל.

הדבר הבא שאתה יודע, החברה החלה לגלות שזיהוי פנים הוא לא הכל סוכריות בטעם מתוק וורדים בעלי ריח מתוק. חלק מאלגוריתמי זיהוי הפנים המבוססים על בינה מלאכותית עשו עבודה גרועה ביכולת להבחין באנשים בשל הגזע שלהם. עלו עוד נושאים מדאיגים ומקוממים בעליל, כולל הטיות מובנות הקשורות למגדר ולגורמים אחרים. לסיקור שלי בנושאי אתיקה של AI העומדים בבסיס זיהוי פנים, עיין בקישור כאן.

הנקודה בסך הכל היא שיש סיכוי מוצק שיש AI לתמיד הוא גם הולך לשאת מטען קשור המורכב AI למען הרע. יש כמה מקרים שבהם AI למען הרע הוא רע לחלוטין, ויש מעט תכונות גואלות המעידות על כך שיש מעט AI לתמיד בְּתוֹך. עם זאת, בסך הכל, למערכת בינה מלאכותית תהיה מראית עין של שניהם AI לתמיד ו AI למען הרע. את הראשונים היינו רוצים לעודד, את השניים היינו רוצים למנוע, לצמצם, למתן, וכאשר כל השאר נכשל אז לתפוס ולהשמיד בהקדם האפשרי.

אולי אתם חושבים, כן, כל זה הגיוני ואנחנו צריכים לבחון בקפידה את AI עבור כל סוג של הטיות גזעיות, הטיות מגדריות וכל מיני אי-שוויון. זו תהיה הפעולה המתאימה ותסייע לחברה להימנע מהרע ולגבור באופן פורה את הטוב של בינה מלאכותית.

תאמינו או לא, יש עוד גורם שאפשר להוסיף לרשימת הדברים המפתיעים העטופים בבינה מלאכותית שרבים לא הבינו שהוא בתבשיל ה-AI.

נטיות פוליטיות.

מחקרים אחרונים מראים שמערכות בינה מלאכותית יכולות לגלם (כביכול, אם כי לא בצורה אנתרופומורפית), שפע של נטיות פוליטיות, דעות, העדפות ועוד תכונות ועירוי פוליטי המבוסס על פוליטיקה. זה יכול בתורו להשפיע על אופן פעולת הבינה המלאכותית, כמו מה שה-AI "מחליט" בהתבסס על התכנות של ה-AI.

אם אתה מגיש בקשה מקוונת לקבלת הלוואה ונעשה שימוש במערכת קבלת החלטות אלגוריתמית מבוססת בינה מלאכותית, לעתים קרובות אין לך שמץ של מושג ממה מורכב תכנות הבינה המלאכותית. אם נניח שדחו את ההלוואה, אינך יכול להיות בטוח שה-AI נמנע משימוש בגזע, במגדר שלך או בגורמים אחרים כאלה בבחירת הדחיה.

אתה גם לא יכול להיות בטוח שה-AI לא חנק את בקשת ההלוואה שלך בגלל ההטיות הפוליטיות שלו.

כשאני קובע שבמונחים כה ברורים, אל תנפח יתר על המידה את הרעיון בכך שתאמין שה-AI הוא בעל חושים. כפי שאציין עוד רגע, אין לנו היום AI חיוני. נקודה. לא משנה אילו כותרות פרועות תראו, בבקשה דעו שאין משהו שקרוב להיות בינה מלאכותית חיה היום. אנחנו אפילו לא יודעים אם זה אפשרי להגיע לתחושה עם AI. אין גם אינדיקציה מתי זה יקרה, או אם זה יקרה אי פעם.

בחזרה לעניין שלפנינו.

כעת, לאחר שעליתי על השולחן שבינה מלאכותית יכולה להכיל הטיות פוליטיות, אנו יכולים להסתכל מקרוב על איך זה קורה ובאילו דרכים הנטיות הפוליטיות יכולות להופיע בצורה ערמומית.

מלבד זאת, אם התפיסה שבינה מלאכותית יכולה להטמיע נטיות פוליטיות גורמת לך לאיזו מורת רוח או הלם אימתניים, צור זאת עם דוגמה נוספת לניקוב הצעיף המושלם של הבינה המלאכותית. נראה שהחברה קיבלה עד כה תדמית מיתוגית של AI כמשלבת את התמימות הגדולה וההילה הבתולית של ניטרליות ואיזון.

יכול להיות שהעברנו את זה מסוגים אחרים של מכונות. נראה כי לטוסטרים אין הטיות מובנות המבוססות על גזע, מגדר וכו'. באופן דומה לא היינו מצפים מטוסטר להיות בעל אופי פוליטי, כביכול. טוסטר הוא טוסטר. זה מתפרש כמכונה בלבד.

הסיבה לכך שנקודת המבט של הטוסטר לא מחזיקה מים בכל הנוגע לבינה מלאכותית היא שמערכת הבינה המלאכותית מתוכנתת לניסיון להמשיך ביכולות קוגניטיביות. ככזה, זה דוחף את המכונה לתוך התלבטות של בעיות קוגניטיביות כמו התגלמות של הטיות וכדומה. אני מבטיח לך שבקרוב נגלה שטוסטרים מבוססי בינה מלאכותית מלאים בהטיות ובחששות בעייתיים.

דרך שימושית לפתוח את הדלת להבנה כיצד בינה מלאכותית יכולה להיות חדורת פוליטית תהיה לבחון את השימוש בבינה מלאכותית בהופעת מכוניות אמיתיות מבוססות בינה מלאכותית בנהיגה עצמית. אנחנו יכולים להכות שתי ציפורים במכה ולבחון את הנושא הגנרי והעל של בינה מלאכותית שמכילה התגלמות פוליטית, ולעשות זאת בהקשר המופתי של איך זה יכול להתעורר במכוניות בנהיגה עצמית.

עם זאת, אני רוצה להבהיר שחיסון פוליטי בבינה מלאכותית הוא נושא עצמאי שראוי לקבל את התמורה שלו. אל תשלב בטעות בין הבינה המלאכותית של מכוניות בנהיגה עצמית לממדים הפוליטיים של הבינה המלאכותית. לכל בינה מלאכותית יהיו אפשרויות טבועות מבחינה פוליטית, והעומק והדרגה יהיו תלויים באופן שבו ה-AI מתוכנן ומתוכנן.

אז הנה שאלה ראויה לציון ששווה לחשוב עליה: כיצד תגיע הבינה המלאכותית להחדיר נטיות פוליטיות, והאם זה בכלל יכול להתרחש בתחום הא-פוליטי לכאורה של הבינה המלאכותית המשמשת למכוניות המתפתחות מבוססות בינה מלאכותית בנהיגה עצמית?

הרשו לי רגע לפרוק את השאלה בהתייחסות למכוניות בנהיגה עצמית.

ראשית, שים לב שאין נהג אנושי המעורב במכונית נהיגה עצמית אמיתית. זכור שמכוניות אמיתיות בנהיגה עצמית מונעות באמצעות מערכת נהיגה בינה מלאכותית. אין צורך בנהג אנושי על ההגה, וגם אין הוראה לאדם שינהג ברכב. לסיקור הנרחב והמתמשך שלי על כלי רכב אוטונומיים (AV) ובעיקר מכוניות אוטונומיות, ראה את הקישור כאן.

ברצוני להבהיר יותר למה הכוונה כשאני מתייחס למכוניות עם נהיגה עצמית אמיתית.

הבנת רמות המכוניות בנהיגה עצמית

כהבהרה, מכוניות עם נהיגה עצמית אמיתית הן כאלה שה- AI מניע את המכונית לגמרי לבד ואין סיוע אנושי במהלך משימת הנהיגה.

רכבים ללא נהג אלה נחשבים לרמה 4 ולרמה 5 (ראה הסבר שלי בקישור זה כאן), בעוד שמכונית הדורשת נהג אנושי לשתף את מאמץ הנהיגה נחשב בדרך כלל ברמה 2 או ברמה 3. המכוניות שמשתתפות בהן לשתף את משימת הנהיגה מתוארים כחצי אוטונומיים, ובדרך כלל מכילים מגוון תוספות אוטומטיות המכונות ADAS (מערכות סיוע לנהג מתקדם).

אין עדיין מכונית נהיגה עצמית אמיתית ברמה 5, שאנחנו עדיין לא יודעים אם ניתן יהיה להשיג זאת, וגם לא כמה זמן ייקח להגיע לשם.

בינתיים, מאמצי הרמה 4 מנסים בהדרגה להשיג מתיחה על ידי ביצוע ניסויים ציבורים צרים וסלקטיביים מאוד, אם כי קיימת מחלוקת בשאלה האם יש לאפשר בדיקה זו כשלעצמה (כולנו חזירי ים חיים או מוות בניסוי. המתרחש בכבישים המהירים שלנו ובכבישים המהירים שלנו, יש הטוענים, עיין בסיקור שלי בקישור זה כאן).

מכיוון שמכוניות אוטונומיות למחצה דורשות נהג אנושי, אימוץ סוגים אלה של מכוניות לא יהיה שונה באופן מובהק מאשר נהיגה ברכבים קונבנציונליים, כך שאין כל דבר חדש כשלעצמו שיכול לכסות עליהם בנושא זה (עם זאת, כפי שתראו לרגע, הנקודות הבאות הניתנות להחלה בדרך כלל).

עבור מכוניות אוטונומיות למחצה, חשוב שהציבור צריך להיזהר מהיבט מטריד שמתעורר לאחרונה, כלומר שלמרות אותם נהגים אנושיים שממשיכים לפרסם סרטונים של עצמם שנרדמים על ההגה של מכונית ברמה 2 או שלב 3 , כולנו צריכים להימנע מהטעיה באמונה שהנהג יכול לקחת את תשומת ליבם ממשימת הנהיגה בזמן שהוא נוהג במכונית אוטונומית למחצה.

אתה הצד האחראי לפעולות הנהיגה של הרכב, ללא קשר לכמה אוטומציה ניתן לזרוק לרמה 2 או רמה 3.

מכוניות בנהיגה עצמית ונטיות פוליטיות משובצות בינה מלאכותית

ברכבים 4 וברמה 5 רכבים אמיתיים לנהיגה עצמית, לא יהיה נהג אנושי המעורב במשימת הנהיגה.

כל הנוסעים יהיו נוסעים.

ה- AI מבצע את הנהיגה.

היבט אחד שיש לדון בו מייד טומן בחובו העובדה כי ה- AI המעורב במערכות הנהיגה של ה- AI של ימינו אינו רגיש. במילים אחרות, ה- AI הוא לגמרי קולקטיב של תכנות ואלגוריתמים מבוססי מחשב, ובוודאי שלא מסוגל לנמק באותו אופן שבני אדם יכולים.

מדוע הדגש הנוסף הזה לגבי הבינה המלאכותית לא רגיש?

מכיוון שאני רוצה להדגיש שכאשר דנים בתפקידה של מערכת הנהיגה המלאכותית, אינני מייחס תכונות אנושיות למדעי הבינה. לידיעתך, יש בימינו נטייה מתמשכת ומסוכנת לאנתרופומורפיזציה של AI. בעיקרו של דבר, אנשים מייעדים רגש דמוי אנושי לבינה מלאכותית של ימינו, למרות העובדה שאי אפשר להכחיש ובלתי ניתנת לערעור, שעדיין לא קיים AI כזה.

עם ההבהרה הזו, אתה יכול לחזות שמערכת הנהיגה של AI לא בדרך כלל "תדע" על היבטי הנהיגה. נהיגה וכל המשתמע מכך תצטרך להיות מתוכנת כחלק מהחומרה והתוכנה של המכונית הנהיגה העצמית.

בואו נצלול לשלל ההיבטים שמגיעים לשחק בנושא זה.

ראשית, חשוב להבין שלא כל המכוניות בנהיגה עצמית בינה מלאכותית זהות. כל יצרנית רכב וחברת טכנולוגיה לנהיגה עצמית נוקטת בגישה שלה לתכנן מכוניות בנהיגה עצמית. ככזה, קשה להצהיר הצהרות גורפות לגבי מה מערכות נהיגה בינה מלאכותית יעשו או לא.

יתר על כן, בכל פעם שמצהירים שמערכת נהיגה מלאכותית לא עושה דבר מסוים, מאוחר יותר זה יכול להיות עקוף על ידי מפתחים שלמעשה מתכנתים את המחשב לעשות את זה. צעד אחר צעד, מערכות הנהיגה של AI משופרות ומורחבות בהדרגה. מגבלה קיימת כיום עשויה שלא להתקיים עוד באיטרציה או גירסה עתידית של המערכת.

אני סומך על כך שמספק מספיק הסתייגויות כדי לבסס את מה שאני עומד להתייחס אליו.

אנו מוכנים כעת לעשות צלילה עמוקה לתוך הדילמה המוטבעת בפוליטיקה של AI.

הניחו בקצרה בצד את היבטי המכונית בנהיגה עצמית ובואו תחילה נחקור את נושא הבינה המלאכותית לגבי האופן שבו היא משלבת נטיות פוליטיות. הדרך הקלה ביותר עבור AI להטביע פוליטית היא על ידי הפעולות של מפתחי AI שמעצבים את תוכנת ה-AI. כבני אדם, הם יכלו להעביר את הנטיות הפוליטיות האישיות שלהם למה שהם מתכנתים את התוכנה לעשות.

כאשר מערכות בינה מלאכותית החלו לראשונה להציג הטיות גזע ומגדר שונות, הייתה זעקה עצומה שזה בטח היה כתוצאה ממפתחי בינה מלאכותית שהמציאו את המערכות הללו. היו האשמות שמדובר במעשה מכוון של מפתחי בינה מלאכותית. אחרים אף הציעו שלמפתחי הבינה המלאכותית אין גיוון, ולכן הם אפשרו ברישול או בלי מחשבה להטיות הקיימות שלהם לעבור למאמצי תכנות הבינה המלאכותית שלהם.

עבור צוותי AI רבים, זה גרם להם להיות מודעים יותר להבטחת גיוון בקרב המפתחים האחרים שלהם, כולל כאשר חברים חדשים נוספו לקבוצות התכנות שלהם. בנוסף, נוצרו קורסים חינוכיים מאלפים מיוחדים כדי להגביר את המודעות לגיוון עבור מפתחי AI. יש אפילו מתודולוגיות לפיתוח בינה מלאכותית שמקיפות היבטי גיוון כדי להנחות באופן מפורש פרויקטים של בינה מלאכותית לשמירה על חיסון הטיות ואי-שוויון במערכות שלהם.

למרות שכמעט אף אחד עדיין לא מודע לסוג ההטיה המוטבעת מבחינה פוליטית עבור AI, רוב הסיכויים שהם בסופו של דבר יעלה בולטות ותגרום מהומה קולית. שוב, תהיה בדיקה מדוקדקת של מפתחי AI. אולי חלקם מחדירים בכוונה את נטיותיהם הפוליטיות, בעוד שאחרים עשויים לעשות זאת מבלי להבין שהם עושים זאת.

אני מעז לומר שהפוקוס של ההנחה שמפתחי הבינה המלאכותית היו המקור היחיד להחדרת הטיות לבינה מלאכותית החמיצה את המכלול של המקום ממנו נבעו הטיות הבינה המלאכותית. מודעות הדרגתית הייתה שהשימוש ב-Machine Learning (ML) ו-Deep Learning (DL) הפך לתורם בולט גם להיבטי הטיה פנימית של AI.

למידת מכונה ולמידה עמוקה הן טכניקות וטכנולוגיות של התאמת דפוסים חישוביים.

אתה מרכיב נתונים שברצונך להזין ל-ML/DL, שמחפש אחר כך מבחינה חישובית למצוא דפוסים מתמטיים במערך הנתונים המסופק. בהתבסס על אותם דפוסים מחושבים, ה-ML/DL יופעל, כגון היכולת לעשות זיהוי פנים. לזיהוי פנים, אנו עשויים להזין חבורה של תמונות של אנשים, וה-ML/DL יחשב את המאפיינים הבולטים של מה שהופך את הפרצופים לזיהוי, כגון הצורה והגודל של האף, הצורה והגודל של הפה והשפתיים , הצורה והגודל של המצח וכן הלאה.

נראה כי גישה חישובית זו היא מעבר לכל סוג של השפעה הטיה. הכל רק חישובים.

אהה, אבל זכרו שאנחנו מכניסים תמונות (או מה שלא יהיה) לתוך ה-ML/DL כחלק מה"אימון" או התאמת הדפוסים החישוביים. לצורך זיהוי פנים, אם היינו מאכילים בעיקר תמונות המציגות אנשים מגזע מסוים אחד, רוב הסיכויים שהתאמת הדפוסים החישוביים תתחדד לכיוון היבטי הפנים הללו. מאוחר יותר, בהנחה שנכניס את מערכת זיהוי הפנים הזו לשימוש נרחב, אלה שהשתמשו בה והיו מגזע אחר עשויים להיות פחות "מוכרים" מתמטית מכיוון שדפוסי ה-ML/DL מעוצבים סביב הגזע שנמצא בעיקר באימונים מַעֲרֶכֶת.

אז, אתה יכול לראות בבירור כיצד הגישה המתמטית ה"בלתי משוחדת" אחרת של ML/DL יכולה להיות מוטה (יש גם דרכים אחרות, אבל אני רק מזכיר את הגישה הגדולה הזו כאן). האם מפתחי הבינה המלאכותית יצרו בכוונה מערך נתונים שהיה לא מאוזן מבחינה גזעית? הייתי מציע שזה רק לעתים רחוקות מעשה מכוון, אם כי חוסר ההבנה שהם עשו זאת עדיין אינו תירוץ מספיק.

כיום, ישנה דחיפה נמרצת לניסיון לגרום לאלה המשתמשים ב-ML/DL להיות מתחשבים יותר לגבי הנתונים שהם משתמשים בהם לאימון ואיזה תוצאות זה מייצר. למרבה הצער, כולם קפצו על עגלת ה-ML/DL ורבים מהמתחילים האלה או הטיולים האלה שתפסו את המעטפת של ML/DL עושים זאת ללא מודעות להטיות המוזרמות. אולי יש גם שחקנים גרועים שעשויים לעשות זאת בכוונה, אם כי בואו נקווה שהם מעטים.

אני סומך על כך שהאמור לעיל עדכן אותך בהיבטי האתיקה של בינה מלאכותית הכרוכים בהחדרת הטיות ל-AI של היום.

קדימה, חזור על כל השבאנג, החלף את הרעיון הגנרי של הטיות בסימנים ספציפיים של נטיות פוליטיות. כבר הזכרתי שמפתחי בינה מלאכותית בעצמם עלולים לשאת בגלוי או מבלי משים את הנטיות הפוליטיות שלהם למה שה-AI המתוכנת עושה. ההיבט הנוסף שהבאתי גם הוא שלשימוש ב-Machine Learning ו-Deep Learning יש אפשרות לבחור נתוני אימון שעלולים לשאת בכוונה או בטעות דפוסים המתאימים לממד פוליטי מסוים.

ובכן, אני מתארך קצת בעמודה הזו (אופס, TLDR, יש שיגידו בקול רם), אז אני שואף לשרטט בקצרה דוגמה לאופן שבו בינה מלאכותית של מכונית בנהיגה עצמית מבוססת בינה מלאכותית עשויה להיסחף לתוך אלה סוגים של חורי תולעת פוליטיים (לסיקור נרחב שלי בנושאים כאלה, על פני רבים מפרסומי הטור שלי, ראה את הקישור כאן).

סוגיה פוטנציאלית פוטנציאלית ידועה ונידונה לעתים קרובות לגבי מכוניות בנהיגה עצמית בינה מלאכותית נוגעת לשימוש במוניות רובו ולמי תהיה גישה לאפשרות הניידות כשירות החדשה הזו. החששות הם שרק העשירים יוכלו להרשות לעצמם להשתמש במוניות רובו, וכך אלו שנמצאים בדרגות הכנסה נמוכות יותר יישארו מחוץ לעידן המתהווה של מכוניות ללא נהג (ראו דיווח מעמיק על כך, בקישור כאן ).

יש עוד טוויסט מתפלג מההתלבטות הזו.

דמיינו שמכוניות בנהיגה עצמית מסתובבות בעיר ומחכות לבקשת נסיעה. פנייה מגיעה ורבו-מונית סמוכה בנהיגה עצמית מזנקת כדי לאסוף את הנוסע. הרוכב מציין לאן הוא רוצה להגיע, ומערכת הנהיגה בינה מלאכותית מתווה נתיב להגיע לשם. מערכת הנהיגה בינה מלאכותית ממשיכה להסיע את הרכב האוטונומי אל היעד הרצוי.

כל זה נראה בסדר.

הנה חשש מפוכח שבאה לידי ביטוי.

נניח שמערכת הנהיגה בינה מלאכותית בוחרת להמציא נתיב שימנע את השכונות השפלות יותר. אתה יכול להניח שתכנון הניווט יתבסס רק על הנתיב האופטימלי, כגון המרחק הקטן ביותר, או אולי הזמן הקצר ביותר. אולי ואולי לא.

גורמים אחרים יכולים להיות הסבירות שהמכונית הנוהגת בעצמה תעבור מה שעשוי להיחשב כמקומות מוכי פשע. יכול להיות שהסכנה לרכב האוטונומי ולנוסעים נלקחת בחשבון באיזה דרך ללכת.

יש כאבים שמכוניות בנהיגה עצמית ימנעו כמעט תמיד באופן בלתי נפרד מהקהילות היותר עניות או מדוכאות. נראה שאנשים הנוסעים במכוניות בנהיגה עצמית לעולם לא מבינים שמקומות כאלה קיימים בערים או בעיירות שלהם. זה בתורו כנראה יגרום להם לא להיות מודעים לצרכים של קהילות כאלה. נוסף על כך, אלה שגרים באזורים אלה עשויים לעתים רחוקות לקבל הזדמנות להשתמש במכונית בנהיגה עצמית, גם אם היא זולה. לא יהיו מוניות רובו שמסתובבות ביניהן, לאחר שבחישוב שמרו את עצמן מחוץ לאזורים האלה.

האם הטיה זו תתרחש עקב תכנות מכוון של ה-AI על ידי המפתחים?

יכול להיות, אם כי לא בהכרח כך.

אולי הטיה זו נובעת מהשימוש ב- Machine Learning ו-Deep Learning?

בטח, זו אפשרות נחשבת.

מערכת הנהיגה בינה מלאכותית עשויה להתבסס על ML/DL שהשתמשו בנתונים להדרכה לגבי היכן להמשיך בעת מיפוי נתיב. אם הנתונים הללו עוצבו סביב הימנעות מאזורים מסוימים, סביר להניח שה-ML/DL יזהה דפוס כזה וימשיך איתו קדימה. עם הזמן, בהנחה שמידע כזה מצטבר עוד יותר ככל שהמכוניות האוטומטיות יוצאות לדרך, הנתונים שישמשו לאחר מכן לעדכונים ולתחזוקה יחזקו עוד יותר את אותם דפוסים רקחו.

אפשר לומר שהדפוסים מתערבבים ככל שהשימוש בתבנית הקודמת מתקבע שוב ושוב, מעין כדור שלג או אפקט מתמיד.

באופן דיבור, אתה יכול לפרש שהטיה לכאורה זו של היכן לנהוג היא דוגמה לאופן שבו יכולה להיווצר נטייה פוטנציאלית של AI פוליטית. נקודת מבט אחת תהיה לתת לבינה מלאכותית להמשיך ללא הפוגה בנטייה הזו. אחר יהיה לשנות את ה-AI כדי להיכנס בכוונה לאותם אזורים שהותאמו לדפוס מחוץ לתחום, מה ששוב אתה יכול לטעון שהוא אולי תנוחה בעלת נטייה פוליטית המוזרקת לתוך ה-AI.

בסך הכל, גם הבינה המלאכותית מוצגים נטייה פוליטית או לפחות נתפסת כמי שעושה זאת, ללא קשר לשאלה אם היה לה מראית עין (מה שאין לה בחוש) לגבי הפוליטיקה של הדברים.

סיכום

יש המון דוגמאות כאלה שאפשר להעלות.

אני אשאר בהקשר של מכונית נהיגה עצמית ואתן לך עוד דוגמה מהירה. נניח שרוכב מבקש הרמה על-ידי מכונית-רובו-מונית בנהיגה עצמית של AI ועושה זאת כדי להגיע לעצרת פוליטית המתקיימת בבית המשפט במרכז העיר. מערכת הנהיגה בינה מלאכותית מסרבת לקחת את הרוכב לשם.

למה?

תארו לעצמכם כי נתונים קודמים שנאספו על עצרות פוליטיות כנקודת יעד הצביעו על כך שהמכוניות הנוהגות בעצמן נקלעו לצרימות תנועה. נניח שמשמעות הדבר היא שהמכוניות בנהיגה עצמית הצליחו פחות להרוויח כסף מהנוסעים, בגלל זמני ההמתנה הארוכים בפקק וגביית תעריף נמוך יותר עבור זמני ההמתנה הללו. אלגוריתם בינה מלאכותית כמו שימוש ב-ML/DL עשוי לקבוע מבחינה חישובית שיציאה לעצרות פוליטיות היא בחירה חמוצה להרוויח כסף. לפיכך, כאשר עולות בקשות למונית הרובו לצאת לעצרת פוליטית, הבקשה נדחית.

אני חושב שאתה יכול לראות איך זה עשוי להיראות כבחירה ממניעים פוליטיים. למרות שה-AI אולי לא משתמש ישירות בשום סוג של מניע פוליטי בשום אופן דיבור, בכל מקרה נראה שהוא עושה בחירה פוליטית.

אתה יכול להמר על הדולר התחתון שלך שאנחנו עומדים להתעמת בקרוב עם תגובה פוליטית לגבי הנטיות הפוליטיות של AI. סמן את דברי!

אם כבר מדברים על מילים, המשורר והמחזאי היווני המפורסם, אריסטופנס, טען שמתחת לכל אבן מסתתר פוליטיקאי. בעולם של היום, בתוך כל מערכת בינה מלאכותית, יש סיכוי בלתי מעורער לנטייה פוליטית אורבת, בין אם אתה יודע על כך או לא.

עדיף להתחיל להפוך את האבנים האלה.