אתיקה של בינה מלאכותית המתעמתת בין אם כועסים על בני אדם שמרסקים באלימות או מתעללים בבינה מלאכותית היא בלתי מוסרית בצורה מדאיגה, כמו האנשים הזועמים שמתפרצים על מערכות בינה מלאכותית אוטונומיות לחלוטין

בגלל זה לא יכולים להיות לנו דברים נחמדים.

סביר להניח ששמעת או ראית את הביטוי הפופולרי למדי הזה ויודעים מיד למה הוא רומז. תאמינו או לא, פיסת חוכמת החכמים החכמה מתוארכת לכאורה לשנת 1905, כאשר ביטוי דומה הופיע ב הסקירה ההומניטרית מאת אלייזה בלבן. באופן כללי, תמצית התובנה היא שלפעמים אנו בסופו של דבר מרסקים, מכסים, נשברים או הורסים לגמרי חפצים או חפצים שאחרת נראים לא ראויים ליחס כזה.

אפשר לומר שאנחנו לפעמים לְהִתְעַלֵל חפצים וחפצים, אפילו כאלה שכביכול הערצנו או הערצנו.

זה יכול לקרות בטעות, כמו חוסר זהירות והפלת הסמארטפון היקר שלך לתוך השידה (למרבה הצער, זו אחת הדרכים המצוטטות ביותר שבהן סמארטפונים הופכים לבלתי שמישים). מצד שני, אולי בהתקף זעם, אתה בוחר לזרוק את הסמארטפון שלך על פני החדר והוא מתנגש ברהיט כבד או פוגע ישירות בקיר. רוב הסיכויים שהתצוגה תהיה סדוקה והקרביים האלקטרוניים לא יפעלו עוד כראוי.

התקף הזעם הזה לא יכול היה להיות קשור לסמארטפון כשלעצמו. אולי התווכחת עם מישהו ובמקרה הוצאת את הכעס שלך על הדבר שאולי היה בידך באותו זמן. הטלפון החכם פשוט היה במקום הלא נכון בזמן הלא נכון.

ישנם מקרים שבהם החפץ אכן קשור איכשהו להתפרצות המשתוללת. למשל, אתם מחכים נואשות לשיחה חשובה והסמארטפון שלכם מפסיק לעבוד באופן מפתיע. איזה תסכול! נראה שהסמארטפון המחורבן הזה וכזה תמיד מתמסר בזמנים הגרועים ביותר, אתה חושב לעצמך. ובכן, לעזאזל, הסמארטפון ישלם על העבירה האחרונה הזו בכך שהוא נזרק על פני החדר בצורה סופית. קח את זה, אתה לא סמארטפון טוב.

האם הזעם תמיד צריך להיות מרכיב?

אולי החלטת בשלווה שהסמארטפון שלך הגיע לסוף השירות שלו. אתה הולך לקבל אחד חדש. לפיכך, לסמארטפון הקיים יש ערך מופחת. אתה כמובן יכול לנסות לעשות טרייד-אין של הסמארטפון המעט מיושן, אבל אולי במקום זאת אתה מקבל החלטה מודעת שאתה מעדיף ליהנות ולראות כמה השפלה פיזית זה יכול לקחת. אז, לאחר כמות מתחשבת של חשיבה, אתה זורק את המכשיר בחוזקה על פני החדר ומתבונן במה שקורה. זהו רק סוג של ניסוי פיזיקה, המאפשר לך לאמוד עד כמה בנוי הסמארטפון היטב.

אני בספק אם רבים מאיתנו משתמשים בהיגיון מכוון בקפידה כאשר אנו מוציאים את התוקפנות שלנו על חפץ או חפץ. לעתים קרובות יותר, המעשה נעשה כנראה בתוך מסגרת מחשבתית אחרת. נראה שזה אחד מאותם סוגים ריאקציוניים של דורבן של הרגע של פעולות. לאחר מכן, אתה עלול להתחרט על מה שעשית ולהרהר מה הוביל להתפרצות כזו.

מה יכול סוג זה של מעשה עז כלפי עצם דומם לספר לנו על האדם שמבצע פעולה כל כך חוצפה ולכאורה לא מנומסת?

יש להניח שהאובייקט עצמו אינו מנסה בכוונה ללכלך אותך. כשהטוסטר שלך לא צולים את הלחם שלך כמו שצריך, קשה לדמיין שהטוסטר התעורר באותו יום במחשבה שהוא יבקש לקלקל את ארוחת הבוקר שלך על ידי שריפת הטוסט שלך. זה קצת לא סביר. הטוסטר הוא בסך הכל מכשיר מכני. זה עובד או זה לא עובד. אבל הרעיון שהטוסטר התכנן לא לעבוד או לשים עליך אחד מהיר בכך שהוא פועל נגד רצונך, ובכן, זו תפיסה מורחבת.

יש כאלה שמאמינים שלכל האובייקטים יש מראית עין של קארמה או רוח. בתיאוריה הזו, אפשר להניח שהטוסטר יכול היה לחפש נקמה אם אולי לא טיפלת קודם לכן כראוי בטוסטר. למרות שזה רעיון פילוסופי מעניין, אני הולך לדלג על ההמשגה המטפיזית ההיא ולהישאר עם ההנחה היומיומית יותר שאובייקטים הם רק אובייקטים (לצורך הבהרה, אני לא מציע החלטה לגבי האפשרות האחרת, רק מניח אותה בצד עבור הרגע).

צד זה משיק לגבי קארמה או רוח היה ראוי מכיוון שהוא מעלה פן קשור לגבי התנהגות אנושית. אתה מבין, אנו עלולים להתפתות לייחס צורה של חיות לאובייקטים שקרובים יותר למה שאנו מחשיבים בדרך כלל כבעלי חיים.

טוסטר של עשרה דולר שהוא מכשיר barebones הוא בקושי משהו שאנחנו נוטים למשוח בהילה דמוית חישה. אתה יכול לעשות זאת אם אתה רוצה, אבל זה מתיחה. אתה יכול באותה מידה להתחיל להקצות תחושה לכל מיני אובייקטים, כגון כיסא, עמוד תאורה, ברז כיבוי, וכו'. נראה שלאובייקט צריכות להיות יותר יכולות מולדות אם אנחנו מתכוונים "באופן סביר" להקצות חיש. -כמו זוהר לדבר.

כאשר אתה משתמש באלקסה או בסירי, המכשיר עצמו הוא רק רמקול ומיקרופון, אך הנוחות המודרנית הזו בהחלט יכולה להיות מועמדת טובה יותר לייחס כוחות דמויי חישה. ככל הנראה אתה יכול לקיים אינטראקציה עם המכשיר ולהמשיך בשיחה, אם כי יש להודות בשיחה עמוסה וחסרת נזילות של אינטראקציות נורמליות בכיוון אנושי. עם זאת, יש קלות מיוחדת לאפשר לאלקסה או לסירי לחמוק לעבר יכולת הקצאה דמוית חישה (ראה האינדיקציה שלי למקרה האחרון של אלקסה שסיפקה עצות לגבי הכנסת אגורה לשקע חשמל חי, ב- קישור זה כאן).

נניח שאנו מקשטים את הטוסטר עם דברים כמו עיבוד שפה טבעית (NLP), בדומה לאקסה או סירי. אתה יכול לדבר עם הטוסטר שלך ולומר לו מה כמות הקלייה הרצויה שאתה רוצה שהוא יעשה. הטוסטר יגיב לאמירתך ואז יגיד לך מתי הטוסט מוכן. נראה שזה מכוון מחדש את האמונה שלנו שהטוסטר למעשה מתקרב ליכולת דמוית חישה.

ככל שנראה כי אנו דוחפים את תכונותיו של מכשיר לכיוון המאפיינים של מתקנים אנושיים יובילו אותנו באותה מידה במורד הנתיב לעבר ייחוס מאפיינים דמויי חישה למכשיר. הברור ביותר מבין אלה יהיה רובוטים. כל רובוט הולך ומדבר מתקדם בוודאי יעורר את הרושם הפנימי שלנו שהמכשיר הוא יותר מסתם מוצר מכני או אלקטרוני.

תן לי לשאול אותך שאלה ובבקשה תענה בכנות.

לפני שאני עושה זאת, אני מנחש שאיכשהו ראית את הסרטונים הויראליים האלה המציגים רובוטים מפוארים למדי שיכולים ללכת, לזחול, לקפוץ או לרוץ. בחלק מהסרטונים האלה, אדם עומד בקרבת מקום ובהתחלה נראה שהוא מוכן לתפוס את הרובוט אם הוא מקרטע. אני מתערב שרובנו חושבים על זה כמעשה חביב, בדומה לפעוט לומד ללכת ולהיות שם כדי לתפוס את הצעיר לפני שהוא מטיח את ראשו ברצפה.

לעתים רחוקות אתה רואה את בני האדם תופסים את הרובוטים, ובמקום זאת, אתה רואה את בני האדם מרביצים לרובוטים כדי לראות מה הרובוט יעשה אחר כך. לפעמים משתמשים במקל ארוך, אולי במקל הוקי או מחבט בייסבול. האדם בכוונה וללא כל בושה יפגע ברובוט. הרובוט חוטף מכות, אפשר לטעון, ואנחנו מחכים לראות איך הרובוט יגיב.

הנה השאלה שלך.

כשאתה רואה את הרובוט מקבל חבטה סופית, אתה מרגיש רע עבור הרובוט?

הרבה אנשים עושים זאת. כאשר סרטונים כאלה החלו להתפרסם לראשונה, אלפי תגובות הביעו זעם על ההתעללות ברובוטים. מה עשה הרובוט שמגיע לסוג כזה של התעללות לרעה, שאלו אנשים בלהט? צריך להוציא את האנשים האלה החוצה ולתת להם כמה בעיטות בעצמם, חלקם אמרו בכעס. תפסיק עם זה והסר בקול רם כל סרטונים כאלה.

אתה יכול בקלות להרגיש אותו דבר לגבי טוסטר רקבון בעשרה דולר, אבל כנראה שהוא לא יעורר את אותן דאגות פנימיות ומזעזעות. נראה כי ככל שאובייקט מתקרב בספקטרום של האובייקט הדומם לחלוטין שאינו דומה ליכולות אנושיות כלפי אובייקטים הדומים יותר לתחושה אנושית, יחרוץ את הרגישויות שלנו לרצות לייחס לאובייקט מוסר דמוי אנושיות. .

בוא נפרק את זה עוד יותר.

אם בבעלותך סמארטפון וברצונך לשבור אותו, ואם פעולה זו אינה פוגעת באף אחד אחר, נראה שמבחינה מוסרית לא תהיה לנו התנגדות מועטה, אם בכלל, למעשה כזה. אתה הבעלים שלו, אתה יכול לעשות איתו מה שאתה רוצה (בהנחה שהמעשה לא פוגע באחרים).

כמובן, אנו עלולים לחשוב שזה טיפשי מצידך, וייתכן שיש לכך זליגה. אם אתה מוכן להרוס את הסמארטפון שלך, מה עוד תוכל לעשות? אולי המעשה ההרסני וחסר היגיון לכאורה הוא אזהרה מוקדמת של משהו בתוכך עם פוטנציאל הרבה יותר גרוע. בדרך החשיבה הזו, אנחנו לא מודאגים מהסמארטפון כמו שאנחנו מודאגים לגבי האופן שבו הפעולות שלך בנוגע לסמארטפון הן השתקפות שלך ושל ההתנהגויות שלך.

במקרה של בני האדם שדוחפים ודוחפים את הרובוטים ההולכים או הזוחלים, כנראה שאתה מרגיש הקלה כשאתה מגלה שאותם בני אדם הם נסיינים שמקבלים תשלום או מכים באופן מקצועי אחר ברובוטים מסיבות תקפות בדרך כלל. הם מנסים לראות עד כמה הרובוט וה-AI שבבסיס הרובוט יכולים להתמודד עם התרחשויות מפריעות.

תארו לעצמכם שמישהו כתב תוכנית בינה מלאכותית כדי לעזור לרובוט ללכת או לזחול. באופן הגיוני הם היו רוצים לדעת כמה טוב הבינה המלאכותית עושה כשהרובוט שולל ומועד על משהו. האם הרובוט יכול לאזן את עצמו או לאזן מחדש לפי הצורך? אם יש בני אדם בקרבת מקום, ניתן לבדוק את הרובוטים על ידי דחיפה או דחיפה. הכל בשם המדע, כמו שאומרים.

ברגע שתבינו את האזהרה הזו לגבי הסיבה שבני האדם "מתעללים" ברובוטים, סביר להניח שתסירו את זעמכם. ייתכן שעדיין יש לך תהייה מתמשכת, שכן לראות מבנה דמוי אדם נפגע מזכיר פגיעה בבני אדם או בעלי חיים. עם זאת, אתה יודע שהרובוט לא "מרגיש" שום דבר, ובכל זאת הפעולות עדיין כואבות באופן אישי לצפייה (לתובנות נוספות לגבי תחושת הזיקה שיש לבני אדם למערכות בינה מלאכותית כמו רובוטים, כולל תופעה המכונה "המופלא" עמק, ראה את הדיון שלי ב קישור זה כאן).

העוסקים בתחום האתיקה של בינה מלאכותית בוחנים את החידה הפסיכולוגית המוסרית שאנו חווים כאשר מערכות בינה מלאכותיות מטופלות בחומרה. אחד החששות הגדולים ביותר הוא שאלו שמבצעים "התעללות" כזו עלולים לגרום לכולנו להיות פחות רגישים להתעללות מכל הסוגים, כולל ובאופן מסוכן למדרון החלקלק של נכונות להתעלל בבני אדם אחרים.

במחקר מחקר שפורסם לאחרונה ב- יומן AI ואתיקה בשם "הטיות חברתיות-קוגניטיביות באתיקה ושיח סיכונים עממי של בינה מלאכותית", מתארים החוקרים את העניין המפכח כך: "אותה תופעה יכולה להפוך לבעיה פסיכולוגית מוסרית בעידן של בינה מלאכותית ורובוטים. כאשר המציאות היומיומית שלנו מאוכלסת במערכות אינטליגנטיות שונות חסרות מעמד של סבלנות מוסרית, אנשים עלולים להתרגל לאכזריות ולאדישות. מכיוון שלפעמים אנו חושבים על רובוטים כאילו הם חיים ומודעים, אנו עשויים לאמץ באופן מרומז דפוסי התנהגות שעלולים להשפיע לרעה על היחסים שלנו עם אנשים אחרים" (המאמר נכתב בשיתוף מייקל לאקאסואו, וולו הרזון, סילבה פרנדר, מריאנה דרוזינו, ג'וקה Sundvall, Jussi Palomaki, ו-Aku Visala).

השורה התחתונה היא שאנו עלולים למצוא את עצמנו מקבלים ללא רחם שהתעללות היא די בסדר לבצע, בין אם כלפי אובייקט כמו רובוט מבוסס בינה מלאכותית או יצור אנושי חי נושם. אתה יכול להוסיף לרשימה זו את הפוטנציאל של התעללות גוברת גם כלפי בעלי חיים. בסך הכל, שערי ההצפה של התעללות עלולים להיות צונאמי סוער שיטביע בסכנה את כל מה שאנו עושים.

אינץ' אחר אינץ', נתרגל להתעללות במערכות בינה מלאכותית, וזה בתורו יצמצם סנטימטר אחר אינץ' את הדחייה שלנו מיחס לא נכון.

זו תיאוריית AI אתית שנבדקת מקרוב. זה מתקדם במיוחד כעת, מכיוון שמערכות הבינה המלאכותית שמתגבשות ומפותחות נראות ומתפקדות יותר מיכולות אנושיות מאי פעם. בינה מלאכותית נוטה להיראות כמו תחושות אנושיות, ולכן אנו עשויים לעבור בהמשך הספקטרום הנורא של התעללות.

כפי שאפרט בקרוב, יש לנו נטייה לאנתרופומורפיזציה של מערכות בינה מלאכותית. אנו מפרשים את הבינה המלאכותית הנראית דמוית אנוש כמשוווה להיבטים אנושיים, למרות העובדה שאין כיום שום בינה מלאכותית שחשה ואיננו יודעים עדיין אם אי פעם יגיעו לתחושה. האם אנשים ייפלו למלכודת נפשית של קבלת היחס הרע כלפי AI כאילו הוא אור ירוק כדי לאפשר קידום יחס לרעה כלפי בני אדם ובעלי חיים (כל היצורים החיים)?

יש הטוענים שאנחנו צריכים לקטוע את זה בעצמו.

ספר לאנשים שאסור להתעלל במערכות AI. אפילו אותם נסיינים עם הרובוטים ההולכים והזחילה עשו שירות רע בכך שהציגו לכאורה בשמחה את הסרטונים של מאמציהם. זוהי לבנה נוספת בחומת ההשקפות החברתיות הפוגעות בעניין התעללות. אל תתנו לכדור השלג להתחיל להתגלגל במורד הגבעה המושלגת הקודרת.

התעקש שנתייחס לכל דבר בכבוד הראוי, כולל חפצים וחפצים. ובמיוחד כאשר לאותם חפצים או חפצים יש קשר או דמיון לצורה אנושית. אם אנחנו לא יכולים לעצור את האנשים שרוצים לזרוק את הסמארטפון שלהם על קיר, שיהיה, אבל כשהם מבקשים לרסק רובוט או להתעלל דומה בכל מכשיר שיש לו הילה חזקה דמוית אנוש, עלינו להניח את הרגל. .

הוגוואש, חלק מגיבים בזלזול רב.

אין קשר בין האופן שבו אנשים מתייחסים למערכת בינה מלאכותית לבין הרעיון שהם ישנו איכשהו איך הם מתייחסים לבני אדם ובעלי חיים. אלו שני נושאים שונים. אל תערבבו ביניהם, נטען בטענת הנגד.

אנשים חכמים מספיק כדי להפריד בין הפעולות כלפי אובייקטים לעומת פעולותיהם כלפי יצורים חיים. אתה מניף ידיים על ידי ניסיון לחבר את הנקודות האלה. נראה שחשש דומה התעורר לגבי התבגרות באמצעות משחקי וידאו שאפשרו לשחקנים לצלם ולהרוס דמויות וידאו. במקרה כזה, יש להניח שזה היה גרוע יותר מפגיעה ברובוטים בינה מלאכותית, שכן משחק הווידאו היה מציג לפעמים דמויות וידאו שדומות לחלוטין לבני אדם.

הנגד לטענת הנגד ההיא היא שמשחקי וידאו אינם עוסקים בחפצים אמיתיים. השחקן יודע שהם שקועים בנוף חלומי. זה ממש רחוק מלזרוק סמארטפון על פני חדר או להכות רובוט זוחל עם מקל. חוץ מזה, יש מחקר שאכן תומך בחששות של איך משחקי וידאו יכולים לזלוג להתנהגויות בעולם האמיתי.

אתיקה של בינה מלאכותית בוחנת את המניעים של התנהגות אנושית וכיצד תושפע הופעתן של מערכות מבוססות בינה מלאכותית מתוחכמות יחסית, במיוחד לאור ההתעללות של בני אדם במערכות בינה מלאכותיות כאלה. אם כבר מדברים על נהיגה (כן, הכנסתי את זה לשם), זה מאפשר לי לעבור לנושא של מכוניות נהיגה עצמית אמיתיות מבוססות בינה מלאכותית, שישתלבו יפה בנושא הכולל הזה.

אתה מבין, בתפקידי כמומחה לבינה מלאכותית, כולל ההשלכות האתיות והמשפטיות, אני מתבקש לעתים קרובות לזהות דוגמאות מציאותיות המציגות דילמות של אתיקה של בינה מלאכותית, כך שניתן יהיה לתפוס בקלות רבה יותר את האופי התיאורטי משהו של הנושא. אחד התחומים המעוררים ביותר שמציגים בצורה חיה את התלבטות האתית הזו של בינה מלאכותית הוא הופעתן של מכוניות אמיתיות מבוססות בינה מלאכותית בנהיגה עצמית. זה ישמש מקרה שימוש שימושי או דוגמה לדיון נרחב בנושא.

אז הנה שאלה ראויה לציון שכדאי לחשוב עליה: האם הופעתן של מכוניות אמיתיות המבוססות על בינה מלאכותית בנהיגה עצמית מאירה משהו לגבי התעללות בחפצים או בחפצים?

תן לי רגע לפרוק את השאלה.

ראשית, שים לב שאין נהג אנושי המעורב במכונית נהיגה עצמית אמיתית. זכור שמכוניות אמיתיות בנהיגה עצמית מונעות באמצעות מערכת נהיגה בינה מלאכותית. אין צורך בנהג אנושי על ההגה, וגם אין הוראה לאדם שינהג ברכב. לסיקור הנרחב והמתמשך שלי על כלי רכב אוטונומיים (AVs) ובעיקר מכוניות אוטונומיות, ראה הקישור כאן.

ברצוני להבהיר יותר למה הכוונה כשאני מתייחס למכוניות עם נהיגה עצמית אמיתית.

הבנת רמות המכוניות בנהיגה עצמית

כהבהרה, מכוניות עם נהיגה עצמית אמיתית הן כאלה שה- AI מניע את המכונית לגמרי לבד ואין סיוע אנושי במהלך משימת הנהיגה.

כלי רכב אלה ללא נהג נחשבים לרמה 4 ורמה 5 (ראה ההסבר שלי ב קישור זה כאן), בעוד שמכונית שדורשת נהג אנושי לשתף פעולה במאמץ הנהיגה נחשבת בדרך כלל ברמה 2 או רמה 3. המכוניות המשותפות במשימת הנהיגה מתוארות כחצי אוטונומיות, ובדרך כלל מכילות מגוון של תוספות אוטומטיות המכונות ADAADA
S (מערכות סיוע לנהג מתקדמות).

אין עדיין מכונית נהיגה עצמית אמיתית ברמה 5, שאנחנו עדיין לא יודעים אם ניתן יהיה להשיג זאת, וגם לא כמה זמן ייקח להגיע לשם.

בינתיים, מאמצי הרמה 4 מנסים בהדרגה להשיג מתיחה על ידי ביצוע ניסויים ציבורים צרים וסלקטיביים מאוד, אם כי קיימת מחלוקת בשאלה האם יש לאפשר בדיקה זו כשלעצמה (כולנו חזירי ים חיים או מוות בניסוי. המתרחש בכבישים המהירים שלנו ובכבישים המהירים שלנו, חלקם טוענים, ראה את הסיקור שלי ב קישור זה כאן).

מכיוון שמכוניות אוטונומיות למחצה דורשות נהג אנושי, אימוץ סוגים אלה של מכוניות לא יהיה שונה באופן מובהק מאשר נהיגה ברכבים קונבנציונליים, כך שאין כל דבר חדש כשלעצמו שיכול לכסות עליהם בנושא זה (עם זאת, כפי שתראו לרגע, הנקודות הבאות הניתנות להחלה בדרך כלל).

עבור מכוניות אוטונומיות למחצה, חשוב שהציבור צריך להיזהר מהיבט מטריד שמתעורר לאחרונה, כלומר שלמרות אותם נהגים אנושיים שממשיכים לפרסם סרטונים של עצמם שנרדמים על ההגה של מכונית ברמה 2 או שלב 3 , כולנו צריכים להימנע מהטעיה באמונה שהנהג יכול לקחת את תשומת ליבם ממשימת הנהיגה בזמן שהוא נוהג במכונית אוטונומית למחצה.

אתה הצד האחראי לפעולות הנהיגה של הרכב, ללא קשר לכמה אוטומציה ניתן לזרוק לרמה 2 או רמה 3.

מכוניות בנהיגה עצמית ואיבה על ידי בני אדם

ברכבים 4 וברמה 5 רכבים אמיתיים לנהיגה עצמית, לא יהיה נהג אנושי המעורב במשימת הנהיגה.

כל הנוסעים יהיו נוסעים.

ה- AI מבצע את הנהיגה.

היבט אחד שיש לדון בו מייד טומן בחובו העובדה כי ה- AI המעורב במערכות הנהיגה של ה- AI של ימינו אינו רגיש. במילים אחרות, ה- AI הוא לגמרי קולקטיב של תכנות ואלגוריתמים מבוססי מחשב, ובוודאי שלא מסוגל לנמק באותו אופן שבני אדם יכולים.

מדוע הדגש הנוסף הזה לגבי הבינה המלאכותית לא רגיש?

מכיוון שאני רוצה להדגיש שכאשר דנים בתפקידה של מערכת הנהיגה המלאכותית, אינני מייחס תכונות אנושיות למדעי הבינה. לידיעתך, יש בימינו נטייה מתמשכת ומסוכנת לאנתרופומורפיזציה של AI. בעיקרו של דבר, אנשים מייעדים רגש דמוי אנושי לבינה מלאכותית של ימינו, למרות העובדה שאי אפשר להכחיש ובלתי ניתנת לערעור, שעדיין לא קיים AI כזה.

עם ההבהרה הזו, אתה יכול לחזות שמערכת הנהיגה של AI לא בדרך כלל "תדע" על היבטי הנהיגה. נהיגה וכל המשתמע מכך תצטרך להיות מתוכנת כחלק מהחומרה והתוכנה של המכונית הנהיגה העצמית.

בואו נצלול לשלל ההיבטים שמגיעים לשחק בנושא זה.

ראשית, חשוב להבין שלא כל המכוניות בנהיגה עצמית בינה מלאכותית זהות. כל יצרנית רכב וחברת טכנולוגיה לנהיגה עצמית נוקטת בגישה שלה לתכנן מכוניות בנהיגה עצמית. ככזה, קשה להצהיר הצהרות גורפות לגבי מה מערכות נהיגה בינה מלאכותית יעשו או לא.

יתר על כן, בכל פעם שמצהירים שמערכת נהיגה מלאכותית לא עושה דבר מסוים, מאוחר יותר זה יכול להיות עקוף על ידי מפתחים שלמעשה מתכנתים את המחשב לעשות את זה. צעד אחר צעד, מערכות הנהיגה של AI משופרות ומורחבות בהדרגה. מגבלה קיימת כיום עשויה שלא להתקיים עוד באיטרציה או גירסה עתידית של המערכת.

אני סומך על כך שמספק מספיק הסתייגויות כדי לבסס את מה שאני עומד להתייחס אליו.

אנחנו מוכנים כעת לעשות צלילה עמוקה לתוך מכוניות נהיגה עצמית ושאלות אתיות של AI סביב ההתעללות הפוטנציאלית שלנו כלפי אותם כלי רכב אוטונומיים מהודרים.

ראשית, אתה עשוי להניח באופן טבעי שאף אחד לא יתיחס לרעה במכונית בנהיגה עצמית מבוססת בינה מלאכותית.

זה נראה הגיוני. בדרך כלל אנו מקבלים את הרעיון שאחד היתרונות המרכזיים של רכבים בעלי נהיגה עצמית הוא שהם יהיו מעורבים בהרבה פחות תאונות דרכים מאשר מכוניות המונעות על ידי אדם. ה-AI לא ישתה וינהג. ה-AI לא יצפה בסרטוני חתולים בזמן ההגה. יש כ-40,000 הרוגים שנתיים בארצות הברית לבדה מדי שנה עקב תאונות דרכים, וכ-2.5 מיליון פציעות, שרבים מהם צפויים להפסיק להתרחש ברגע שיש לנו שכיחות של מכוניות בנהיגה עצמית על הכבישים שלנו.

מה לא לאהוב במכוניות בנהיגה עצמית, אולי אתה אומר לעצמך.

ובכן, הרשימה די נרחבת, ראה את הסיקור שלי ב קישור זה כאן, אבל בגלל אילוצי מקום כאן, אני רק אכסה כמה מההיבטים הלא רצויים המוצהרים יותר.

כפי שציינתי בעבר בטורים שלי, היו מקרים של אנשים שיידו אבנים על מכוניות חולפות בנהיגה עצמית, ולפי הדיווחים הניחו חפצי מתכת כמו מסמרים ברחוב כדי לנקב את הצמיגים של מכוניות בנהיגה עצמית. זה נעשה מסיבות נטענות שונות. האחת היא שהאנשים באזור שבו שוטטו המכוניות האוטומטיות היו מודאגות מכך שמערכות הנהיגה בינה מלאכותית אינן מוכנות לפריים טיים.

החשש היה שמערכת הנהיגה בינה מלאכותית עלולה להשתבש, אולי לדרוס ילד שרץ מעבר לרחוב או לפגוע בכלב מחמד אהוב שאולי מתפתל בכביש. לפי הנקודה הקודמת על כך שלכאורה התייחסו אלינו כאל שפני ניסיונות, האמונה הייתה שלא בוצעו בדיקות והכנה מספקות ושמכוניות בנהיגה עצמית משתחררות באופן לא הולם. הניסיונות לצמצם את הנסיונות נעשו כהפגנה פומבית של חרדה על כך שהמכוניות הנוהגות בעצמן הורשו על פי חוק להסתובב.

ייתכן שהיו סיבות אחרות מעורבות באירועים. לדוגמה, היו שהציעו שנהגים אנושיים המסתמכים על פרנסה באמצעות שיתוף נסיעות היו מודאגים מכך שבינה מלאכותית נמצאת על סף החלפתם. זה היה איום על פרנסתם. אתה בהחלט יודע שההופעה של מכוניות אמיתיות בנהיגה עצמית מבוססות בינה מלאכותית עדיין רחוקה ובעיית עקירת העובדים אינה מיידית. אם כן, נראה כי יידוי הסלע ותקריות אחרות היו ככל הנראה קשורות יותר לחששות בטיחותיים.

למטרותינו בנושא זה על התעללות בבינה מלאכותית, נשאלת השאלה האם הנכונות לנקוט במעשים הרסניים משהו נגד מכוניות בנהיגה עצמית מבוססות בינה מלאכותית היא אינדיקציה מוקדמת למדרון החלקלק מהתעללות בבינה מלאכותית להתעללות בבני אדם.

תחזיקי את המחשבה הזו.

זווית נוספת של התעללות שקולה במכוניות בנהיגה עצמית מבוססות בינה מלאכותית מורכבת מה"בריונות" שכמה נהגים אנושיים ואפילו הולכי רגל כיוונו אל אותם כלי רכב אוטונומיים, ראה את הניתוחים שלי ב- הקישור כאן ו הקישור כאן.

בקיצור, נהגים אנושיים שנוהגים ואולי נתקלים במכונית שנוהגת בעצמה בוחרים לפעמים לשחק טריקים הקשורים לנהיגה על מכוניות ללא נהג. התחבולות הזו נעשית לפעמים סתם בשביל הכיף, אבל יותר מכך, הבסיס נובע בדרך כלל מתסכולים ומרגיזים לגבי מערכות הנהיגה בינה מלאכותית של ימינו.

רוב מערכות הנהיגה בינה מלאכותית מתוכנתות לנהוג בצורה חוקית למהדרין. נהגים אנושיים אינם נוהגים בהכרח בצורה חוקית למהדרין. לדוגמה, נהגים אנושיים נוהגים לעתים קרובות מעל המהירות המותרת, ולעיתים עושים זאת בדרכים הבזויות ביותר. כאשר נהגים אנושיים עומדים מאחורי מכונית הנוהגת בעצמה, הנהג האנושי מוצא את עצמו מעוכב על ידי מערכת הנהיגה ה"איטית" של AI.

אנשים שמתגוררים באזורים המאוכלסים כיום היטב במכוניות בנהיגה עצמית, נוטים להתעצבן מיד כשהם רואים מכונית בנהיגה עצמית לפניהם. הם יודעים שהרכב האוטונומי יעשה את נסיעת הנהיגה שלהם ארוכה ממה שהוא צריך להיות. אז נהגים כאלה יבחרו להיות אגרסיביים כלפי המכונית הנוהגת בעצמה.

נהגים יודעים שהם יכולים לשוטט סביב המכונית הנוהגת בעצמם ולנתק אותה. מערכת הנהיגה בינה מלאכותית רק תאט את הרכב האוטונומי, והיא לא תגיב בשום צורה של זעם כביש. אם נהג אנושי ניסה לעשות את אותו המהלך האגרסיבי לנהג אנושי אחר, רוב הסיכויים שכמעט ודאי תתעורר גמול. במידה מסוימת, נהגים אנושיים ממתנים את הנהיגה האגרסיבית שלהם בהתבסס על ההבנה שהנהג הפגוע עלול להגיב.

האם סוג זה של התנהגות נהיגה אנושית כלפי מכוניות בנהיגה עצמית מבוססות בינה מלאכותית תפתח את קופסת פנדורה של התנהגויות נהיגה גרועות?

סיכום

שמנו על השולחן שני מקרים כלליים של אנשים שהתעללו לכאורה במכוניות בנהיגה עצמית מבוססות בינה מלאכותית. הדוגמה הראשונה כללה זריקת אבנים וניסיון לסכל את השימוש במכוניות בנהיגה עצמית בכבישים. הדוגמה השנייה כללה נהיגה אגרסיבית במכוניות בנהיגה עצמית.

זה מעלה לפחות את החששות האלה:

• האם הופעתה של התעללות כזו תתפשט גם למכוניות המונעות על ידי אדם?
• אם זה יימשך או יימשך עוד יותר, האם התעללות כזו תזלוג להיבטים אחרים של מאמצים אנושיים?

אחת התגובה היא שאלו רק תגובות זמניות למכוניות בנהיגה עצמית מבוססות בינה מלאכותית. אם הציבור יוכל להשתכנע שמכוניות בנהיגה עצמית פועלות בבטחה על הכבישים שלנו, יידוי הסלעים והמעשים המעיקים האלה די ייעלמו (שדרך אגב, נראה כל כך מתפוגג). אם ניתן לשפר את מערכות הנהיגה בינה מלאכותית כך שיהיו פחות צוואר בקבוק בכבישים שלנו, נהגים אנושיים בקרבת מקום עשויים להיות נוטים פחות להיות אגרסיביים כלפי מכוניות בנהיגה עצמית.

המוקד לאורך הדיון הזה היה שהתעללות מולידה כנראה התעללות. ככל שאתה מתעלל יותר, כמו התעללות בבינה מלאכותית, כך ההתעללות הופכת למקובלת ומתבצעת יותר, כגון נגד בני אדם ובעלי חיים.

תאמינו או לא, יש צד נוסף למטבע הזה, אם כי יש הרואים בכך תפנית מאושרת אופטימית בעניין.

זו ההצעה האופטימית הזו במיוחד: אולי טיפול נכון מוליד טיפול נכון.

הנה למה אני מתכוון.

כמה מבינים טוענים שמכיוון שמערכות נהיגה בינה מלאכותית מתוכנתות לנהוג בצורה חוקית וזהירה, יכול להיות שנהגים אנושיים ילמדו מזה ויחליטו לנהוג בצורה שפויה יותר. כאשר המכוניות האחרות מסביבך מצייתות למהירות המותרת, אולי גם אתה תעשה זאת. כשהמכוניות האלה בנהיגה עצמית עוצרות עצירה בסימני עצור ולא מנסות לרוץ ברמזור אדום, נהגים אנושיים יקבלו השראה דומה לנהוג בתשומת לב.

ספקן ימצא קו החשיבה הזה דק או אולי אפילו פעור עיניים מאושר ותמים באופן אבסורדי.

תקראו לי אופטימיסט, אבל אני אצביע בעד התפיסה החולמנית שלנהגים אנושיים תהיה מוטיבציה לנהוג בצורה נבונה יותר. כמובן, העובדה שמכוניות בנהיגה עצמית אמיתית מבוססות בינה מלאכותית ילכדו בווידאו ובחיישנים האחרים שלהן את התמרונים המטורפים של מכוניות אחרות המונעות על ידי אדם בקרבת מקום, ויכולות בהחלט לדווח לשוטרים על נהיגה לא חוקית באמצעות לחיצת כפתור בלבד. , עשוי לספק את ה"השראה" הדרושה לנהיגה אנושית טובה יותר.

לפעמים צריך גם גזר וגם מקל כדי לגרום להתנהגות האנושית להתיישר בצורה הרמונית.