אתיקה של בינה מלאכותית ועמק הבינה המלאכותית המהולל, אשר גם מטרטר מכוניות בנהיגה עצמית מבוססות בינה מלאכותית

לפעמים יש דברים קצת מוזרים שמושכים את תשומת הלב שלך ומוציאים את המיצים האינטואיטיביים שלך, שיש איכשהו משהו לא בסדר. המוזרות אינה בוטה, בכלל לא באופן בוטה בפניך. אולי אפילו לא תוכל לשים את האצבע מיד על חוסר ההתאמה או איך זה שחוש העכביש הפתגמי שלך מעקצץ.

אולי חשים רמזים עדינים. אולי במקרה אתה מבין שקיים דיסוננס. אני מניח שאפשר לומר שיש רק רמז ולו הקטן ביותר לאכזריות מאופקת והרדאר האנושי העדין שלך קולט אותות שנראים לכאורה נסתרים.

ברוכים הבאים לעמק המדהים.

אם מעולם לא שמעתם על העמק המדהים, נושא פופולרי יחסית בתחום הבינה המלאכותית ובייחוד הרובוטיקה, צפוי לכם קצת פינוק מכיוון שזה הנושא שאני הולך לדון בו ולנתח כאן מקרוב.

הרעיון הכולל יכול לחול על הרבה דברים שאנו חווים בחיים, אם כי עקרונות המפתח וההגדרה המקורית כרוכים במערכות AI ורובוטים. תחילה נחקור את המקורות והמשמעות הראשונית של העמק המדהים ולאחר מכן נמשיך להתרחבות כדי לראות כיצד נראה כי התופעות ישימות בהקשרים גדולים יותר.

אני יכול גם להוסיף שנשקול אם העמק המדהים קיים בכלל.

אתה מבין, כמה ספקנים וציניקנים טוענים שכל העניין הוא קצת מופרך ולא מחזיק מים. היזהר כשאתה מעלה את הנושא לאלו שמבינים. חלקם יחייכו בשמחה וימחאו לכם כפיים על הגב שאתם מכירים היטב את העמק המדהים, בעוד שאחרים ילמדו בפניכם בחוזקה שזהו סמורגז של חזיר ושאתם צריכים לנקות את המוח שלכם באופן סופי עם חפיסת סבון לניקוי נפש. .

החדשות הטובות כאן הן שאתה יכול להחליט אם העמק המדהים הוא אמיתי או לא, יחד עם האם יש לו יתרונות ליישום מודע או במקום זאת יש לזרוק אותו ללא טקס על ערימת הזבל של רעיונות טכנו. במובן הזה, אתה במושב הנהג.

כל זה נוגע באופן הדוק גם לתחום המתפתח של בינה מלאכותית אתית ולהבנה העולה שהחברה צריכה לשים לב ברצינות ובמפוכחות לאתיקה של בינה מלאכותית. אנחנו נעשה את התיוג הזה לרגע.

המקום הטוב ביותר להתחיל בו הוא על ידי ציטוט ישיר של הפרופסור שהגה את רעיון העמק המדהים וקרא לתופעה המוצהרת הזו בגלוי. בשנת 1970 פרסם פרופסור מסאהירו מורי במכון הטכנולוגי של טוקיו מאמר די קטנטן בכתב עת קצת פחות מוכר בשם אנרגיה (לא מוקד מיוחד לבינה מלאכותית ורובוטיקה כשלעצמה), ואמר את זה:

"שמתי לב שבטיפוס לעבר המטרה לגרום לרובוטים להיראות אנושיים, הזיקה שלנו אליהם גוברת עד שאנו מגיעים לעמק, שאני קורא לו העמק המדהים."

אנא שים לב שהניסוח לעיל מוצג באנגלית, אם כי המאמר המקורי היה ביפנית. הגרסה המתורגמת לאנגלית הייתה בפיקוח המחבר ומאוחר יותר פורסמה ב- IEEE ספקטרום בשנת 2012 ונזקף לזכותו של Masahiro Mori כמחבר. אתה יכול לקרוא את העיתון בעצמך מכיוון שהוא זמין באופן גלוי וחופשי באינטרנט. זהו קריאה מהירה בהחלט של אולי עשר דקות לערך ואינו מכיל טרמינולוגיה כבדה טכנולוגית.

עם זאת, מעניין ומעט מדהים שמאמר נמרץ שכזה, שפורסם ב-1970, פתח בסופו של דבר זירת חקירה שלמה והשיק מספר עצום של מחקרים קשורים, פרויקטים, מחקרים ולעיתים סופת אש של מחלוקת אם הרעיון של עמק מוזר באמת קיים. אני מניח שזה מוכיח שרעיונות מסקרנים ולעיתים משנים נקודת מבט לא חייבים להיות מפותלים בצורה מסיבית או עמוסים בז'רגון ובנשגבות יתר. רעיון תמציתי יכול להיות ממש כאילו לא אפילו יותר חזק ממה שהוא עשוי להיראות על פני הדברים.

אני סומך על זה שיעודד אותך לנסות לטפח את הרעיונות החדשים שלך, לעשות זאת מתוך הבנה שמתוק ופשוט יכול להיות מפואר לא פחות או לפעמים יותר מאשר מפותל ומורכב.

בוא נקפוץ חזרה אל העמק המופלא.

אתה נתקל במערכת רובוטית שיש לה פנים הדומות לפנים שנראות אנושיות. תארו לעצמכם שהפנים הרובוטים הללו הומצאו באמצעות איטרציות רבות. מפתחי בינה מלאכותית שהרכיבו את ראש הרובוט חתרו בהדרגה לגרום לחלק הפנים הרובוטי להיראות יותר ויותר כמו פנים אנושיות אמיתיות.

הניסיון הראשון שלהם היה פרימיטיבי ביותר. לפנים הרובוטים היה אותו מראה שראיתם בסרטי המדע הבדיוני של היותם מתכתיים לחלוטין ומציגים ציוד וחוטים. אתה יודע מיד כשאתה בוהה במתקן שזה רובוט. אין לך שום שאלה על זה.

הניסיון הבא של מפתחי הבינה המלאכותית כלל עטיפה של כמה חומרים פלסטיים סביב החלקים המתכתיים. למרות שזה נראה קצת יותר ידידותי למראה, אתה עדיין יודע מיד שזה ראש רובוט ופנים רובוטיות. שוב, קל-פיז לזיהוי.

אותם מפתחי AI נחושים להמשיך בזה. הם מפסלים את הפלסטיק ונותנים לו גווני עור. הם מוסיפים תכונות שנראות דומות מאוד לפנים אנושיות, כמו שומות, שיער, פגמים וכדומה.

במבט ראשון, אתה עלול להוביל להאמין שמדובר בפנים אנושיות. אם צולמה תמונה של הפנים הרובוטיות ותתבקשו לזהות אם התמונה מתארת ​​אדם מול פנים רובוטיות, אולי תימנע מכם להיות מסוגל לומר מיד במי מדובר. מצד שני, אם הייתם עומדים ליד המכשיר, סביר להניח שבבדיקה מדוקדקת הייתם מסוגלים להבחין שלא מדובר באדם ובמקומו במטרה רובוטית.

העניין הוא שלפני שהייתה לך ההזדמנות לעשות בדיקה מקרוב, היה משהו בפנים שנראה שלא הסתדר לגמרי. זה בהחלט נראה כמו פנים אנושיות. אבל משהו השתבש. היית צריך להמשיך לבהות בריכוז שוב ושוב כדי לשים את האצבע על מה שלא נראה ממש נכון. אולי זה פרצוף אמיתי. ואז שוב, אולי זה לא. המוח שלך מתגלגל בהתאם.

מראית עין של אימה נכנסת לראש שלך.

לא היה לך את אותו מראית עין של מגעיל כשראית את שתי הגרסאות הקודמות. אתה יכול ללא הפסקה או היסוס לזהות שהרובוט הוא רובוט. רק ילד עלול להטעות ולהאמין שכל אחת מהגרסאות הללו היא של אדם אמיתי.

הגרסה האחרונה הזו הייתה שונה. זה עדיין לא היה מושלם כדי להיראות כמו פנים אנושיות. זה גם לא היה כל כך רחוק מהדבר האמיתי שהיה ברור שזה חייב להיות רובוט. הושגה סוג של אדמה מבולבלת.

נניח שהמפתחים דחפו עוד יותר למאמצי המחקר שלהם וסידרו הכל כך שכמעט שלא ניתן היה להבחין בין הפנים הרובוטיות לפנים אנושיות. לא משנה כמה זמן אתה בוהה בדבר, אתה לא בטוח אם זה בן אדם או לא בן אדם. כשמודיעים לך שמדובר בפנים הרובוטיות, אתה נדהם. אלוהים, הם עשו עבודה נהדרת כדי שזה ייראה אמיתי.

שימו לב שעד כה שקלתם רק את ההיבטים הרובוטיים על סמך המראה בלבד.

נוכל להוסיף תנועה למשוואה. זה מוסיף מימד נוסף כדי להבחין אם הרובוט הוא רובוט לעומת אדם. אני לא רוצה לבדר את זה במלואו כסוג של בעיה רב-ממדית בדיון הזה מכיוון שהוא הופך את ההבהרה בנושא זה למורכבת יותר (יש אם כי רב-ממדים שלובים זה בזה באופן בלתי נמנע). בכל מקרה, תארו לעצמכם שלא רק ראיתם את הפנים הרובוטיות אלא גם יכולתם לצפות כשהרובוט מזיז את תווי הפנים, כמו הפה, העיניים, האף וכו'. ברור שאלו יכולים להיות מתנות גם לגבי האם זה רובוט או בן אדם.

היבט חיוני אחד שיש לשמור בחזית העמק המדהים הוא שהתפיסה המקורית מדגישה את פעולת הזיקה האנושית. התופעה הנטענת היא שהזיקה שלך הולכת וגוברת ככל שאתה רואה את פני הרובוט המשופרים בהדרגה, עד לנקודה שבה מתעוררת הגרסה המופלאה. בנקודה זו, אומרים שתחושת הזיקה שלך יורדת באופן דרמטי, צונחת מטה אל תהום זיקה או עמק.

לגרסה הספציפית שגרמה לך לחשוד שמשהו לא בסדר, הזיקה שלך נפלה לכאורה באופן קיצוני. יתר על כן, על פי התיאוריה, הזיקה שלך יכולה להרקיע שחקים ברגע שאתה נתקל בגרסה המתקדמת יותר שכמעט זהה לצורה אנושית באמת.

הנה עוד על מה שאמר המחבר לגבי הנטייה הרגילה שלנו להניח שהיבטי החיים הולכים וגדלים בצורה חלקה: "המונח המתמטי תפקוד הגובר מונוטונית מתאר קשר שבו הפונקציה y = ƒ(x) עולה ברציפות עם המשתנה x. למשל, כמאמץ x גדל, הכנסה y מתגבר, או כשלוחצים על דוושת הגז של המכונית, המכונית נעה מהר יותר. סוג זה של קשר נמצא בכל מקום וניתן להבנה בקלות רבה. למעשה, מכיוון שתפקודים מונוטוניים כאלה מכסים את רוב התופעות של חיי היומיום, אנשים עלולים ליפול באשליה שהם מייצגים את כל היחסים. המעידה גם על הרושם השגוי הזה היא העובדה שאנשים רבים נאבקים לאורך החיים על ידי דחיפה מתמשכת מבלי להבין את היעילות של נסיגה. זו הסיבה שאנשים בדרך כלל מבולבלים כשהם מתמודדים עם תופעה כלשהי שהפונקציה הזו לא יכולה לייצג". זה מצוטט לפי IEEE ספקטרום נייר מתורגם.

ההנחה הכמעט אוניברסלית זו לגבי גידול תמידי ניתנת לביטול כאשר אנו נתקלים במשהו לא תקין. המוזרות והחשדנות יגרמו לירידה פתאומית ודרמטית יחסית בזיקה, כך אומרת התיאוריה, כמו יד רובוטית שבחרת ללחוץ ולא הצלחת להרגיש את מאפייני העצם של יד אנושית: "כשזה קורה, אנחנו מאבדים את התחושה שלנו. של זיקה, והיד הופכת למעורפלת. במונחים מתמטיים, זה יכול להיות מיוצג על ידי ערך שלילי."

אם אתה מקבל את ההנחה שקיימת תופעה זו של עמק מוזר, אני בטוח שאתה תוהה מה תועיל לך לדעת שככל הנראה קיים העמק המופלא.

זו הקלאסיקה של כל הזמנים "אז מה?" מבחן פרקטיות.

מסתבר שהרבה אנשים הגיעו עם הרבה פרשנויות למה שאנחנו צריכים או יכולים לעשות לגבי העמק המדהים. יש טונות של דעות. אני אתייחס לחלק מזה בקרוב.

בינתיים, הנה מה שמסאהירו מורי הציע: "אנו מקווים לתכנן ולבנות רובוטים וידיים תותבות שלא ייפלו לעמק המדהים. לפיכך, בגלל הסיכון הגלום בניסיון להגביר את מידת הדמיון האנושי שלהם כדי להגיע לשיא השני, אני ממליץ למעצבים לקחת את השיא הראשון כמטרה, מה שמביא לדרגה מתונה של דמיון אנושי ותחושת זיקה ניכרת. . למעשה, אני צופה שאפשר ליצור רמה בטוחה של זיקה על ידי רדיפה מכוונת אחר עיצוב לא אנושי. אני מבקש ממעצבים להרהר בזה".

עיבוי מהיר מצדי של שנים-עשר חוקים שימושיים של מושב-המכנסיים לגבי מה לעשות בנוגע לעמק המדהים הולך ככה עבור מפתחי בינה מלאכותית במיוחד:

1) היו מודעים לעמק המדהים והיו על קצות האצבעות בהתאם

2) יש להניח שאתה רוצה להשיג זיקה אנושית ל-AI שלך ככל האפשר

3) היו מוכנים לאובדן הזיקה האנושית אם הבינה המלאכותית שלכם תיפול לעמק המדהים

4) חפשו להימנע מהעמק המדהים על ידי תכנון ה-AI שלכם כך

5) זה מכובד שיש מטרה שהיא קצרה מהעמק המדהים

6) צאו עד לקצה העמק המדהים אך אל תיפול מעל המצוק

7) אל תהיה אובססיבי ללכת מעבר לעמק המדהים

8) יש סיכוי שאתה יכול לקפוץ על פני העמק המדהים

9) אל תתעסק בזינוק מכיוון שאתה עלול ליפול לעמק בכל מקרה

10) זיקה אנושית מקסימלית תושג אמנם על ידי מעבר העמק המדהים

11) למרות זאת, יש זיקה נאותה ומתאימה שנמצאה לפני העמק המדהים

12) היו מודעים ללא הרף לעמק המדהים ואל תתנו לו לחמוק מדעתכם

תריסר אלה הם כולם מצוות כלליות שיכולות להיחשב כאבן מפתח או נקודות עיגון של ידיעה על העמק המדהים. מיד אכיר בכך שישנן נקודות אחרות שאינן רשומות בתריסר הדל, שניתן לטעון כחשובות באותה מידה. אני גם מוכן להודות בכך שחייבת להיות אי הסכמה לגבי כל אחת מהנקודות שזוהו, ודיון סוער ממושך יכול להתפתח על כל נקודה שהועלתה.

יותר מכך, יש שיגידו שתים עשרה הנקודות הן בסך הכל זבל, משום שהן מבוססות על שקר, מלכתחילה. אין דבר כזה עמק מוזר, הם טוענים. הכל רק שיקניות ותמצית מומצאת שפונה אך ורק ולמרבה הצער לפנות למוחות חלשים (אוי, זה כואב מאוד!). כל תשומת לב לעמק המדהים היא משב אוויר מבוזבז ומישהו צריך לבוא ולהכניס יתד תיאורטי חד מעץ בלב העניין (כמה חוקרים ניסו לעשות זאת).

לצורך הדיון, בוא נלך עם הזרם ונניח שיש עמק מוזר ושהוא מתיימר להתאים באופן כללי למה שציינתי עד כה. אלו שאינם מסכימים עם ההמשגה של עמק מוזר, מוזמנים להתרחק או להמשיך לקרוא עם שיניים חריקות וכעסם האינטלקטואלי מתבשל ורותחת (סליחה על כך).

כך באים לידי ביטוי בינה מלאכותית אתית והמיקוד של תכנון והטמעה של בינה מלאכותית אתית. אגב, לחקירה המתמשכת והמעמיקה שלי בנושא אתיקה של AI, ראה את הדיון שלי בכתובת קישור זה כאן ו קישור זה כאן, רק כדי שם כמה.

העמק המדהים הוא רומן אהבה-שנאה מובהק עבור אלה שעוסקים בבינה מלאכותית אתית.

ראשית, קצת רקע נחוץ. אחת הבעיות האתיות המסמרות שיער הקשורות לבינה מלאכותית היא שניתן לרמות בני אדם להאמין שמערכת בינה מלאכותית היא בעלת רגישות. אנא שים לב שאין שום AI של היום שמתקרב לשום מקום מרחוק להיות חש. זה פשוט לא קורה בזמן הזה. הקביעה ה"חצופה" שלי לכאורה נשמעת למרות הכותרות הבלתי פוסקות והצועקות שמצהירות על הבינה המלאכותית הזו או שבינה מלאכותית היא חיונית או קרובה מספיק כדי להיחשב ככזו. מלרקי. אנחנו לא בבחינת AI.

אנחנו לא יודעים איך להגיע לשם. אנחנו לא יודעים אם זה יקרה. חוש בינה מלאכותית הוא חלום ושאיפה ראויים, אם כי אל תקפוץ את האקדח ותחשוב שאנו על סף השגתו.

כמובן, רבים מזהירים בלהט שאם איכשהו אכן נצליח לממש את תחושת הבינה המלאכותית, בין אם נעשה זאת בתכנון ובין אם נעשה זאת בטעות גרידא, נעמוד בפני סיכון קיומי. באופן החשיבה הזה, אולי לחפש חוש בינה מלאכותית זה לא כל כך כדאי. הסיכון הוא שבינה מלאכותית זו עשויה לקבוע שבני אדם לא שווים בסביבה. אנחנו עלולים להימעך כמו חרק. או להיות משועבד לבינה מלאכותית. זה יכול להתרחש על ידי בחירה גלויה של הבינה המלאכותית לעשות זאת, או שה-AI עשוי בסופו של דבר להיות מכונת יום הדין שלנו שהורסת אותנו בגלל חוסר הכשירות שלנו. לסיקור שלי על התוצאות המטרידות הללו של חוש AI או ייחוד, ראה הקישור כאן.

דאגה מכרעת בינה מלאכותית היא שמפתחי הבינה המלאכותית ואלו העוסקים בבינה מלאכותית מוצצים לפעמים בני אדם לחשוב שה-AI הוא בעל חושים. האופן שבו הבינה המלאכותית מציגה את עצמה, כמו על ידי ניסוח רובוטי או על ידי האינטראקטיביות השיחה שלה, יכולה לדרבן אנשים באופן ערמומי להניח שה-AI הוא בעל חושים. זה בתורו מוביל אותך בנתיב רקפת פוטנציאלי לא טוב.

אם אתה נופל למלכודת המנטאלית של לחשוב שמערכת בינה מלאכותית היא חיה, סביר להניח שתסתמך עליה כדי לעשות דברים שיצורים חיים היו עושים. אבל עדיין אין שום היגיון בריא של איכות דמוית אדם המובנית באף אחד מה-AI של היום. הבינה המלאכותית שאנו חווים כיום היא שבירה ורדודה ביותר בכל הנוגע ליכולות דמויות אדם. אתה יכול להכניס את עצמך למים לא טעימים ומסוכנים על ידי האמונה שמערכת בינה מלאכותית היא חיונית.

איך זה מתחבר לעמק המדהים?

הנה העסקה.

נזכיר כי נראה שהעמק המדהים אומר לנו שהזיקה האנושית תעלה בהדרגה ככל שמערכת בינה מלאכותית או שרובוט מתקרב יותר ויותר לניסוח דמוי אדם. בשלב שבו מערכת הבינה המלאכותית מתקרבת לנקודה של להיות די קרובה, אך עדיין, לא ממש שם, אנו מקבלים תחושה מפחידה שמשהו לא בסדר. עד אז ידענו שבינה מלאכותית אינה אנושית. עכשיו אנחנו לא בטוחים. הזיקה האנושית שלנו יורדת. רק ברגע שה-AI או הרובוט משכנעים לחלוטין באשר ליכולות דמויות אדם, אנו מחזירים את מראית העין של הזיקה שלנו למכשיר.

מפתחי בינה מלאכותית שלוקחים ללב זה, ככל הנראה בכוונה שואפים להרחיק את הבינה המלאכותית שלהם מהעמק המדהים, מתוך כוונה להפסיק מבחינת תכונות הבינה המלאכותית, רגע לפני שהם נופלים לתהום המדהימה (כזכור, זה גם מה שמסאהירו מורי הדגיש). המפתחים ככל הנראה יעשו זאת על ידי וודאו שעדיין קיימים רמזים מודיעים בשפע כדי להבהיר למדי שה-AI הוא בינה מלאכותית פחות מרגשת, ובעצם לא אדם או באותה מידה.

אתיקאי בינה מלאכותית יקבלו בדרך כלל בברכה את המאמץ הלבבי הזה.

הנימוק ברור. מפתחי בינה מלאכותית כל כך מושכלת ומחבקת מנסים לוודא שמערכת הבינה המלאכותית לא תטעה אנשים לייחס באופן שקרי מתקנים דמויי אדם לבינה מלאכותית. אלו בוודאי חדשות טובות. המפתחים יעצבו בכוונה את הבינה המלאכותית כדי למנוע צלילה לתוך העמק המדהים. בני אדם יבינו בקלות שבינה מלאכותית אינה חושית.

הניסיון לגרום למפתחי בינה מלאכותית לאמץ גישה כזו אינו קל. אכן, זה יכול להיות מנוגד לאינסטינקטים הרגילים ולשאיפות הנהיגה שלהם.

נשמעות טענות רבות שמפתחי בינה מלאכותית ואנשי טכנולוגיה, באופן כללי, צורכים יעדים. הם רואים מטרה ולעתים קרובות ירדוף אחריה בעיוורון בהתלהבות רבה. אין זמן לעצור ולהריח את הוורדים. יוצאים למירוצים, אנחנו הולכים. בתחום הבינה המלאכותית, המטרה הנורמטיבית תהיה בינה מלאכותית אידיאלית שאי אפשר להבחין בה מבני אדם בכך שה-AI יכול להיות שווה בשוויון. אבל אנחנו עוד לא שם. ככזה, העמק המדהים מספק מטרה משנית, נוחתת לפני העמק המדהים שסכור אחרת, והופך למטרה שבכל זאת מקובלת. בטח, זו לא הטבעת המוזהבת, אבל הרעיון הוא שהפרס ה"משני" הזה בסדר, תודה רבה, ואתה יכול להיות גאה בו.

שינינו את השאיפה העליונה של שואפת המטרה ההורסת ורתמנו אותה לבסיס מנומק שנשמע הגיוני לעשות את הדבר הנכון, כביכול.

הורא!

ציון ניצחון עבור אתיקה של AI.

אבל חכו לשנייה, התראת ספוילר, יש עוד משהו שאנחנו צריכים לשקול באותה מידה.

כעת, כשמפתחי בינה מלאכותית חכמים יודעים על העמק המדהים, הם עשויים להפנות את השכל והיכולת הטכנולוגית שלהם לזינוק בכוונה מעל התהום, ובכל זאת לעשות זאת מתוך מחשבה על מראית עין של הונאה. תגרום ל-AI להיראות ולהיראה כאדם לגמרי, למרות שהמפתחים יודעים שזה לא נכון.

החשיבה המרושעת הולכת כך. אל תתנו למערכת הבינה המלאכותית שלכם להטות את הכובע ולגרום לאנשים לקבל את זרם התת-העל החמקמק של הזוועה. סלק את ההיבטים שעשויים לתת כל רמז או רמז לכך שה-AI אינו בעל יכולת אנושית. עשה זאת תוך הבנה בסתר וידיעה בלתי נסלחת שה-AI אינו בעל יכולת אנושית וכל זה עוסק בהסתרת האמת הזו מאלה שמקיימים אינטראקציה עם הבינה המלאכותית או תלויים בה.

איזה תוכניות שטניות.

למרבה האירוניה, העמק המדהים יכול להיות סוג של קריאת השכמה למפתחי בינה מלאכותית שאם הם רוצים לרמות אנשים באמת, הם חייבים להיות מספיק חכמים כדי להימלט מהתהום. הם לא עושים זאת על ידי השגת AI מלא, ובמקום זאת על ידי הקמת עשן ומראות כדי לגרום ל-AI להיראות מטעה כאילו הוא אנושי. אילו מפתחי הבינה המלאכותית לא היו מבינים שהעמק המופלא הזה קיים, הם בגדול היו נופלים לתוכו. זה טוב למין האנושי מכיוון שבני אדם, ארגו, יאבדו את הזיקה שלהם ל-AI במונחים של אי הסתמכות יתר על איכות ה-AI של היום.

למרבה הצער, על ידי הידיעה שהמלכודת קיימת, מפתחי בינה מלאכותית שרוצים להתגנב סביבה ימצאו דרכים חכמות להחריד לעשות זאת.

קלע להיט נגד מצוות הבינה המלאכותית האתית.

האם אתה רואה איך זה יוצר יחסי אהבה-שנאה עבור אתיקאי בינה מלאכותית על העמק המדהים?

ארור אם תעשה זאת, ארור אם לא.

אני מבין שזו הייתה בחינת מצח גבוהה במקצת של העמק המדהים וייתכן שאתה משתוקק לכמה דוגמאות יומיומיות. יש מכלול מיוחד ופופולארי של דוגמאות שקרובות ללבי. אתה מבין, בתפקידי כמומחה לבינה מלאכותית כולל ההשלכות האתיות והמשפטיות, אני מתבקש לעתים קרובות לזהות דוגמאות מציאותיות המציגות דילמות אתיות בינה מלאכותית, כך שניתן יהיה לתפוס בקלות רבה יותר את האופי התיאורטי משהו של הנושא. אחד התחומים המעוררים ביותר שמציגים בצורה חיה את התלבטות בינה מלאכותית זו הוא הופעתן של מכוניות אמיתיות המבוססות על בינה מלאכותית בנהיגה עצמית. זה ישמש מקרה שימוש שימושי או דוגמה לדיון נרחב בנושא.

אז הנה שאלה ראויה לציון שכדאי לחשוב עליה: האם הופעתן של מכוניות נהיגה עצמית אמיתיות מבוססות בינה מלאכותית מאירה משהו על העמק המדהים, ואם כן, מה זה מודיע לנו לעשות?

תן לי רגע לפרוק את השאלה.

ראשית, שים לב שאין נהג אנושי המעורב במכונית נהיגה עצמית אמיתית. זכור שמכוניות אמיתיות בנהיגה עצמית מונעות באמצעות מערכת נהיגה בינה מלאכותית. אין צורך בנהג אנושי על ההגה, וגם אין הוראה לאדם שינהג ברכב. לסיקור הנרחב והמתמשך שלי על כלי רכב אוטונומיים (AVs) ובעיקר מכוניות אוטונומיות, ראה הקישור כאן.

ברצוני להבהיר יותר למה הכוונה כשאני מתייחס למכוניות עם נהיגה עצמית אמיתית.

הבנת רמות המכוניות בנהיגה עצמית

כהבהרה, מכוניות עם נהיגה עצמית אמיתית הן כאלה שה- AI מניע את המכונית לגמרי לבד ואין סיוע אנושי במהלך משימת הנהיגה.

כלי רכב אלה ללא נהג נחשבים לרמה 4 ורמה 5 (ראה ההסבר שלי ב קישור זה כאן), בעוד שמכונית שדורשת נהג אנושי לחלוק במאמץ הנהיגה נחשבת בדרך כלל ברמה 2 או רמה 3. המכוניות שחולקות בשיתוף את משימת הנהיגה מתוארות כחצי אוטונומיות, ובדרך כלל מכילות מגוון של תוספות אוטומטיות המכונות ADAS (Advanced Driver-Assistance Systems).

אין עדיין מכונית נהיגה עצמית אמיתית ברמה 5, שאנחנו עדיין לא יודעים אם ניתן יהיה להשיג זאת, וגם לא כמה זמן ייקח להגיע לשם.

בינתיים, מאמצי הרמה 4 מנסים בהדרגה להשיג מתיחה על ידי ביצוע ניסויים ציבורים צרים וסלקטיביים מאוד, אם כי קיימת מחלוקת בשאלה האם יש לאפשר בדיקה זו כשלעצמה (כולנו חזירי ים חיים או מוות בניסוי. המתרחש בכבישים המהירים שלנו ובכבישים המהירים שלנו, חלקם טוענים, ראה את הסיקור שלי ב קישור זה כאן).

מכיוון שמכוניות אוטונומיות למחצה דורשות נהג אנושי, אימוץ סוגים אלה של מכוניות לא יהיה שונה באופן מובהק מאשר נהיגה ברכבים קונבנציונליים, כך שאין כל דבר חדש כשלעצמו שיכול לכסות עליהם בנושא זה (עם זאת, כפי שתראו לרגע, הנקודות הבאות הניתנות להחלה בדרך כלל).

עבור מכוניות אוטונומיות למחצה, חשוב שהציבור צריך להיזהר מהיבט מטריד שמתעורר לאחרונה, כלומר שלמרות אותם נהגים אנושיים שממשיכים לפרסם סרטונים של עצמם שנרדמים על ההגה של מכונית ברמה 2 או שלב 3 , כולנו צריכים להימנע מהטעיה באמונה שהנהג יכול לקחת את תשומת ליבם ממשימת הנהיגה בזמן שהוא נוהג במכונית אוטונומית למחצה.

אתה הצד האחראי לפעולות הנהיגה של הרכב, ללא קשר לכמה אוטומציה ניתן לזרוק לרמה 2 או רמה 3.

מכוניות בנהיגה עצמית והעמק המופלא

ברכבים 4 וברמה 5 רכבים אמיתיים לנהיגה עצמית, לא יהיה נהג אנושי המעורב במשימת הנהיגה.

כל הנוסעים יהיו נוסעים.

ה- AI מבצע את הנהיגה.

היבט אחד שיש לדון בו מייד טומן בחובו העובדה כי ה- AI המעורב במערכות הנהיגה של ה- AI של ימינו אינו רגיש. במילים אחרות, ה- AI הוא לגמרי קולקטיב של תכנות ואלגוריתמים מבוססי מחשב, ובוודאי שלא מסוגל לנמק באותו אופן שבני אדם יכולים.

מדוע הדגש הנוסף הזה לגבי הבינה המלאכותית לא רגיש?

מכיוון שאני רוצה להדגיש שכאשר דנים בתפקידה של מערכת הנהיגה המלאכותית, אינני מייחס תכונות אנושיות למדעי הבינה. לידיעתך, יש בימינו נטייה מתמשכת ומסוכנת לאנתרופומורפיזציה של AI. בעיקרו של דבר, אנשים מייעדים רגש דמוי אנושי לבינה מלאכותית של ימינו, למרות העובדה שאי אפשר להכחיש ובלתי ניתנת לערעור, שעדיין לא קיים AI כזה.

עם ההבהרה הזו, אתה יכול לחזות שמערכת הנהיגה של AI לא בדרך כלל "תדע" על היבטי הנהיגה. נהיגה וכל המשתמע מכך תצטרך להיות מתוכנת כחלק מהחומרה והתוכנה של המכונית הנהיגה העצמית.

בואו נצלול לשלל ההיבטים שמגיעים לשחק בנושא זה.

ראשית, חשוב להבין שלא כל המכוניות בנהיגה עצמית בינה מלאכותית זהות. כל יצרנית רכב וחברת טכנולוגיה לנהיגה עצמית נוקטת בגישה שלה לתכנן מכוניות בנהיגה עצמית. ככזה, קשה להצהיר הצהרות גורפות לגבי מה מערכות נהיגה בינה מלאכותית יעשו או לא.

יתר על כן, בכל פעם שמצהירים שמערכת נהיגה מלאכותית לא עושה דבר מסוים, מאוחר יותר זה יכול להיות עקוף על ידי מפתחים שלמעשה מתכנתים את המחשב לעשות את זה. צעד אחר צעד, מערכות הנהיגה של AI משופרות ומורחבות בהדרגה. מגבלה קיימת כיום עשויה שלא להתקיים עוד באיטרציה או גירסה עתידית של המערכת.

אני סומך על כך שמספק מספיק הסתייגויות כדי לבסס את מה שאני עומד להתייחס אליו.

אנו מוכנים כעת לעשות צלילה עמוקה לתוך מכוניות בנהיגה עצמית ושאלות בינה מלאכותית אתיות הכרוכות בעמק המדהים.

ישנם ארבעה היבטים הנוגעים לעניין זה שיכוסו כאן:

1. המראה הכללי של מכוניות לנהיגה עצמית

2. השאלה היכן "מחפשות" מכוניות בנהיגה עצמית

3. פעולות נהיגה בינה מלאכותית של מכוניות בנהיגה עצמית

4. רובוטים שנוהגים כאמצעי להשגת מכוניות בנהיגה עצמית

היבטים נוספים מוקפים גם הם באופן מעשי, אך עבור אילוצי שטח, ארבעת הנושאים הללו יספיקו כדי להאיר את נושא העמק המדהים הקשור למכוניות בנהיגה עצמית מבוססות בינה מלאכותית.

1. מראה כללי של מכוניות בנהיגה עצמית

אני מהמר שראית תמונות או סרטונים של נסיונות היום של מכוניות בנהיגה עצמית. ככזה, אולי שמתם לב שרוב הרכבים הם מכוניות בעלות מראה רגיל המצוידות בציוד מיוחד נוסף. לדוגמה, ייתכן שיש מתלה על הגג המכיל שלל חיישנים אלקטרוניים. החיישנים כוללים לעיתים מצלמות וידאו, יחידות מכ"ם, מכשירי LIDAR, חיישנים קוליים וכדומה.

עיצובים עתידניים נוטים לרמוז שנוכל לעזוב את המכונית בעלת המראה הקונבנציונלי, במקום זאת לעצב מחדש מכוניות הן בפנים והן בחוץ כדי להיות רכבים אוטונומיים חלקים יותר למראה. נכון לעכשיו, החשיבה הכללית היא שפשוט יותר להשתמש במכוניות קונבנציונליות ולא לבזבז אנרגיה בניסיון למתוח את המאמצים על ידי התעסקות בו-זמנית עם מכוניות בעלות מראה לא שגרתי (יש כמה חריגים לנקודת המבט הכללית הזו, ראה הסיקור שלי ב- הקישור כאן).

התמצית כרגע היא שאם אתה נוסע בכביש ונתקל במכונית נהיגה עצמית קרובה, אתה כמעט תמיד יכול להבחין באופן מיידי שכנראה מדובר במכונית אוטונומית רק על ידי שימת לב למעט החיישנים המורכבים על הרכב האוטונומי. זוהי מתנה ויזואלית מהירה. כמובן, אתה לא יודע בוודאות שזה נהיגה עצמית כשלעצמה שכן בשלב זה בקרות הנהיגה בדרך כלל עדיין שלמות ונהג גיבוי אנושי עשוי להיות על ההגה.

בדרך חשיבה אחת, אתה יכול להציע שזה שימושי במיוחד שמכוניות נוהגות בעצמן נראות בולטות פיזית ונראות בקלות חזותית על ידי נהגים אנושיים במכוניות מונעות על ידי אדם סמוכות וגם על ידי הולכי רגל בקרבת מקום. ההבנה שמכונית בנהיגה עצמית מסתובבת בקרבת מקום יכולה להיות רמז שימושי לעמוד על המשמר, ולגרום לך להיות ערני ומודע לכך שה-AI הוא או עשוי להיות נוהג ברכב.

נניח שמכוניות בנהיגה עצמית נראו זהות למכונית רגילה המונעת על ידי אדם. זה אפשרי מבחינה ריאלית לפחות בשתי דרכים. ראשית, החיישנים עשויים להיות מוסתרים או מעוצבים כך שלא יהיו כל כך ברורים לבדיקה חזותית מזדמנת. שנית, יכול להיות שכל המכוניות כולל מכוניות קונבנציונליות המונעות על ידי אדם מצוידות בהדרגה בחיישנים הדומים, גם אם הרכב בכל זאת יישאר כמכונית מונעת בעיקר על ידי אדם. ראה סיקור נוסף שלי ב קישור זה כאן.

אם תהרהרו בשיקול דעת זה האם מכוניות בנהיגה עצמית יכולות או צריכות להיות זהות במראה למכוניות קונבנציונליות המונעות על ידי אדם, אולי תגיעו למחשבה שאולי עמק מוזר אורב בתבשיל הזה.

אתה מבין, מכוניות שנראות באופן בוטה כמו מכוניות לנהיגה עצמית עשויות להיות מאופיינות כנמצאות בצומת שנמצא ממש קצר מהעמק המדהים. בעצם, אתה "יודע" שזה רובוט או מערכת רובוטית. זה שיפוט שאתה יכול לזנק אליו כמעט מיד.

כאשר מכוניות בנהיגה עצמית מסתכלות באופן זהה למכוניות המונעות על ידי אדם, אולי זה מצביע על כך שכלי הרכב האוטונומיים זינקו על פני העמק המדהים באשר למראה הרובוטי שלהם. האם ישנו דרך ביניים בין שתי ההופעות הפיזיות הללו שמנחיתות אותנו אל העמק המדהים?

אולי אתה מבחין במכונית נהיגה עצמית יורדת ברחוב וזה נראה כאילו זו כנראה מכונית נהיגה עצמית, מצד שני, המראה אינו מראה אוטונומי לחלוטין ולא מונע על ידי אדם לחלוטין. אפשר לטעון שהמכונית הנוהגת בעצמה נמצאת כעת במצב מראה מפחיד או מטריד.

המכונית הנוהגת בעצמה שקעה לכאורה בעמק המדהים.

עם זאת, לא כולם יסכימו עם הסיווג הזה. יש שיטענו שלמראה הפיזי אין שום קשר לעמק המדהים. חלקם כמובן גם טוענים שאין שום דבר מציאותי הידוע בשם העמק המדהים.

כפי שצוין קודם לכן, אתם מוזמנים להחליט בעצמכם בעניין זה.

2. שאלה היכן מחפשות מכוניות בנהיגה עצמית

דאגה מתנשאת שיש לרבים לגבי מכוניות בנהיגה עצמית היא שבדרך כלל חסר להן כל נהג אנושי במושב הנהג ולכן קשה להבין לאן "הנהג" מסתכל בזמן שהוא נוהג במכונית.

בדרך כלל אתה מביט בנהגים אנושיים כדי לרגל לאן הם מסתכלים. לדוגמה, ייתכן שאתה הולך רגל במעבר חציה ומכונית מתקרבת למעבר החצייה. אתה מסתכל בריכוז על היושב במושב הנהג ומנסה להבחין לאן ראשו מופנה ולאן עיניו מביטות. אם אתה מאמין שהנהג האנושי ראה אותך, אולי יהיה לך נוח יותר לחצות את הרחוב. לעומת זאת, אם נראה שהנהג האנושי לא ראה אותך, אתה מודאג בצדק לגבי חציית החצייה.

בערים מסוימות, יש סוג של הימור של חתול ועכבר בהיבטים אלה. נורמה תרבותית מסוימת בעיר נתונה עשויה להיות שאם אתה יוצר קשר עין עם נהג, הנהג "מנצח" ויש לו את הזכות לכאורה להמשיך, ללא קשר לחוקיות מצב הנהיגה. ערים אחרות עשויות להיות הפוכה לחלוטין, כלומר שהנורמה התרבותית היא שכאשר נוצר קשר עין הולך הרגל "מנצח" והנהג האנושי אמור לדחות את מעשיו של הולך הרגל.

נראה שאימצנו את המנהג הזה במשך הזמן הארוך יחסית של מכוניות שנמצאות בין הערים והקהילות שלנו. הבעיה עם הופעתן של מכוניות בנהיגה עצמית היא שאין נהג אנושי במושב הנהג, ולכן כל הולך רגל או נהג אנושי בקרבת מקום שמשתמש בדרך כלל בראשם ובעיניהם של נהגי המכוניות כאינדיקטור תרבותי לכוונת הנהיגה. ללא מזל.

יצרני רכב ומפתחי מכוניות בנהיגה עצמית מודעים היטב לנושא המתהווה הזה. אחד הפתרונות המוצעים מורכב מכך שהמכונית הנוהגת בעצמה מהבהבת בפנסים של הרכב האוטונומי או אולי מזנקת בצופר. מושג נוסף הוא שלמכונית הנוהגת בעצמה עשויה להיות גרסה של רמקול ולספר לאנשים הקרובים מהן "כוונותיה" של מערכת הנהיגה בינה מלאכותית. לרעיונות האלה יש חסרונות משמעותיים.

עם זאת, הצעה אחרת כרוכה בעשיית משהו שאתה עשוי להאמין בהתחלה שהוא מגוחך. ההצעה מורכבת מהצבת כדורים דמויי גלגל עין על החלק החיצוני של הרכב האוטונומי. הכדורים האלה יראו פחות או יותר כמו עיניים אנושיות במראית עין של יכולת להסתובב קדימה ואחורה, מה שנותן לך אינדיקציה מיידית שמרמזת שה-AI "ראה אותך" (תפרש זאת לפי גלגלי העיניים שמסתכלים לכיוון הספציפי שלך). ניתחתי את הגישה הזו ב הקישור כאן.

מה תהיה תגובתך לראות מכונית בנהיגה עצמית יורדת על הכביש וגלגלי העין המוזרים המוזרים האלה מופיעים על מכסה המנוע או על הגג?

אני מניח שאולי תחשוב שזה מפחיד, אולי מפחיד.

יש שיציעו שהאימהות נובעת מהמכונית הנוהגת בעצמה מצוידת בעמק המדהים. אחרים יטענו בתוקף שאין לזה שום קשר לעמק המדהים. מבין אותם מבינים כאלה, יש שיגידו שיש אימה שיכולה להיות אימה בלי צורך להתבצר בעמק המדהים (כלומר, העמק המדהים, לכאורה, תמיד מייצר אימה, אבל לא כל הזוועות מופקת רק דרך העמק המדהים). הזווית האחרת היא שאפשר להניח שהכדורים עשויים להיות מתוכננים כך שיראו פחות גלגלי עין ויראו נראים רובוטיים יותר, או שכולנו נקבל בהכרח את הופעתם של הכדורים הללו והתגובה המבהילה הראשונית תדעך.

3. פעולות נהיגה בינה מלאכותית של מכוניות בנהיגה עצמית

רבים מהניסויים של מכוניות בנהיגה עצמית של ימינו הראו שמערכות הנהיגה הקיימות של AI נוטות להיות מתוכנתות לנהוג בדרכים די פושרות ומקפידות על חוקיות. מערכת הנהיגה בינה מלאכותית מביאה בדרך כלל את המכונית הנוהגת בעצמה לעצירה מלאה בתמרורי עצור. מערכת הנהיגה בינה מלאכותית אינה מבצעת ריצות נועזות בצמתים כאשר אות התנועה עומד להיות אדום. שיטות הנהיגה הסוררות הללו הן מחוז של נהגים אנושיים.

באופן דיבור, אפשר כמעט לנחש שמכונית בנהיגה עצמית היא מכונית לנהיגה עצמית לפי סגנון הנהיגה שהיא מציגה. גם אם הרכב האוטונומי נראה חזותית כמכונית רגילה המונעת על ידי אדם, אתה עשוי לראות את פעולות הנהיגה ואולי להסיק באופן הגיוני שהוא כנראה מונע על ידי מערכת AI.

יש הסבורים שנצטרך לגרום למערכות נהיגה בינה מלאכותית להיות דומות יותר לתעלולים של נהגים אנושיים, כך שישתלבו ביעילות בגישות הנורמטיביות לנהיגה. אני מניח שאתה יכול לפרש את זה כמלחמה באש באש.

האם הגיוני לעשות את זה?

שימו לב שספקנים ומבקרים גלויים סולדים מהרעיון. הם יטענו במרץ שאנחנו רוצים שמערכות נהיגה בינה מלאכותית ינהגו בצורה נכונה ובזהירות. הוספת פוטנציאל של מיליוני מכוניות בנהיגה עצמית לכבישים המתוכנתים להיות כמו נהגים אנושיים תועים נראה סיוט אדיר. דנתי בהצעה השנויה במחלוקת הזו ב הקישור כאן.

בואו ננסח מחדש את הדילמה על ידי מינוף העמק המדהים.

כאשר מערכת הנהיגה בינה מלאכותית חוקית בהחלט על ידי פעולות הנהיגה שלה, זה אולי רמז ברור לכך שהיא עשויה להיות מערכת רובוטית (למרות נהגים אנושיים שעושים זאת, למרות שבעולם של היום הם נראים רחוקים ומעטים ביניהם). אם מערכות נהיגה בינה מלאכותית אמורות לנהוג מוזר כמו נהגים אנושיים, האם זה מזנק על פני העמק המדהים או נופל לתוך העמק המדהים?

תחשוב על זה.

4. רובוטים שנוהגים כאמצעי להשגת מכוניות בנהיגה עצמית

הפריט האחרון לסיקור הוא המדהים ביותר מבין ארבעתם.

יתכן שאינך מודע לכך שכמה מפתחי בינה מלאכותית מנסים ליצור רובוטים שיניעו מכוניות. הרובוט נוטה להיראות כמו אדם במובנים שונים, בעל רגליים רובוטיות וזרועות רובוטיות כגפיים. כאשר אתה רוצה שכל מכונית קונבנציונלית המונעת על ידי אדם תהיה מכונית לנהיגה עצמית, אתה פשוט מכניס את רובוט הנהיגה המיוחד הזה בינה מלאכותית למושב הנהג של המכונית שלך. ראה את הניתוח שלי של רעיון זה ב הקישור כאן.

למה שנרצה רובוטים נוהגים?

היופי של רובוט כזה הוא שכל המכוניות המונעות על ידי אדם של ימינו יכולות, באופן של פרשנות, להפוך למכוניות בנהיגה עצמית, כמעט בן לילה. אתה רק קונה, מחכיר או משיג לעצמך רובוט נהיגה. אתה מכניס את הרובוט למושב הנהג שלך כשאתה יוצא למסע נהיגה. הרובוט מסיע אותך ליעד שלך. אם אתה רוצה לעבור לנהיגה אנושית, אתה מוציא את הרובוט מהרכב, אולי מאחסן אותו בתא המטען לשימוש מאוחר יותר.

יש כיום כ-250 מיליון מכוניות קונבנציונליות בארצות הברית. חלקם מאמינים שבסופו של דבר אלה יימחקו כשמכוניות בנהיגה עצמית יתקיימו. במקום לזרוק את המכוניות הקונבנציונליות האלה, אולי ננסה להרכיב אותן מחדש כדי להפוך למכוניות לנהיגה עצמית, אם כי זה אולי רעיון די יקר. הגישה הנבונה יותר לכאורה תהיה להפוך רובוטים לנהיגה זמינים.

אם היית רואה מכונית בעלת מראה רגיל מגיעה ברחוב השכונתי שלך והיה לה רובוט על ההגה, מה תהיה תגובתך?

סבירות מוזרות.

טענה אחת שאפשר להתווכח עליה היא שהמוזרות הזו נובעת מהרובוט שנוהג במכונית קונבנציונלית צוללת למטה לתוך העמק המדהים המפורסם או הידוע לשמצה.

סיכום

מנקודת מבט אתית של AI, העמק המדהים מציג חידה מסקרנת.

יש כאלה ב-AI שמאמינים לחלוטין בעמק המדהים וכאלה שלא. אבל, בין אם אתה מאמין בעמק המדהים ובין אם לא תעשה זאת, בכל זאת הנושא עצמו מעורפל. אתה לא יכול להסתיר את ראשך ולהעמיד פנים שהמבנה כשלעצמו אינו קיים. המבנה כרעיון חי ובמראית עין הוא רב עוצמה ויראלית. שונא את זה או אוהב את זה, הנושא הארור או אולי הרם נמשך.

לפי השיח הקודם שלי על היתרונות של העמק המדהים מזווית האתיקה של AI, יש בו יחסי אהבה ושנאה דו-קרביים. האם אלו שבתחום האתיקה הבינה המלאכותית צריכים לאמץ את העמק המדהים, או לדחות סופית את העמק המדהים, או להישאר ניטרליות במקצת לגבי האמיתות ובמקום זאת להתמקד בהשפעה המצטברת עקב האמונות השונות המתמשכות לגביו.

האתגר הזה מעלה את הכלכלן הבולט אדם סמית', כפי שאמר פעם (פרפרזה) שבדרך מעיר הספקנות, אתה צריך לעבור דרך עמק העמימות.