אתיקה של בינה מלאכותית נשענת אל אריסטו כדי לבחון האם בני אדם עשויים לבחור לשעבד בינה מלאכותית על רקע הופעתן של מערכות אוטונומיות לחלוטין

ידיד או אויב.

דגים או עוף.

אדם או דבר.

החידות הנפוצות הללו מעידות לכאורה על כך שאנו מתמודדים לעיתים עם מצב דיכוטומי וצריכים לבחור פן זה או אחר. החיים עשויים לאלץ אותנו להתמודד עם נסיבות המורכבות משתי אפשרויות סותרות זו את זו. בשפה יותר טעימה, אתה יכול להציע שמשוואה בינארית אי הכללה מחייבת אותנו לצעוד במורד נתיב מובחן אחד ולא אחר.

בואו נתמקד במיוחד בדיכוטומיה של אדם או דבר.

השאלה הנוקבת של אדם או דבר עולה שוב ושוב בנוגע לבינה מלאכותית (AI).

כדי להבהיר, ה-AI של היום הוא לחלוטין לֹא אדם ואינו נושא שום מראית עין של חוש, למרות כל הכותרות פעורות העיניים והגדולות לחלוטין שאתה עשוי לראות בחדשות וברשתות החברתיות. לפיכך, אתה יכול להיות סמוך ובטוח שכרגע ניתן לענות בקלות על השאלה אם AI הוא אדם או דבר. קרא את שפתי, בבחירה אמיתית של הובסון בין אדם או דבר, בינה מלאכותית היא דבר, לעת עתה.

עם זאת, אנו יכולים להסתכל לעבר העתיד ולתהות מה עלול להתרחש אם נצליח להשיג צורה חיה של AI.

כמה מבקרים מנומקים (ובנוסף ספקנים קאוסטיים) טוענים שאולי אנחנו סופרים את התרנגולות שלנו הרבה לפני שהם בוקעים על ידי דיון בימינו בהשלכות של AI חיוני. החשש שהובע הוא שהדיון עצמו מרמז שעלינו להיות על סף בינה מלאכותית כזו. החברה בכלל עלולה להיות שולל להאמין שמחר או מחרתיים תהיה גילוי פתאומי ומזעזע שלמעשה הגענו לבינה מלאכותית חיה (לפעמים זה מכונה על ידי חלק כייחודיות הבינה המלאכותית או פיצוץ מודיעיני, ראה הניתוח שלי ב הקישור כאן). בינתיים, אנחנו לא יודעים מתי בינה מלאכותית כזו תופיע, אם בכלל, ובוודאי שלכאורה איננו צריכים להסתכל מסביב לכל פינה ולהיות על קצה המזלג שה-AI החיוני יקפוץ אלינו באופן בלתי צפוי לחלוטין. זמן קצר.

הצד השני של הוויכוח מצביע על כך שאסור לנו לטמון את ראשנו עמוק בחול. אתה מבין, אם אנחנו לא דנים ושוקלים בגלוי באפשרויות הקשורות לבינה מלאכותית חיה, אנחנו עושים לאנושות שירות רע כביכול חמור. לא נהיה מוכנים לטיפול בבינה מלאכותית חיה כאשר או אם זה יתעורר. יתר על כן, ואולי אף יותר חזק, על ידי ציפייה לבינה מלאכותית חיה נוכל לקחת את העניינים לידיים שלנו ולעצב את הכיוון והטבע של איך AI כזה ייווצר וממה הוא יכלול (לא כולם מסכימים בנקודה האחרונה הזו , כלומר, יש האומרים של-AI כזה יהיה "מוח" לגמרי משלו, ולא נוכל לעצב או לכלוא אותו מכיוון שה-AI יהיה מסוגל לחשוב באופן עצמאי ולקבוע אמצעי להתקיים באופן מתמשך).

אתיקה של בינה מלאכותית נוטה לצדד בנקודת המבט שלפיה נהיה נבונים להוציא את העניינים המפרכים והמתווכחים האלה של AI לחשוף עכשיו, במקום להמתין עד שלא יישארו לנו אפשרויות או להיטפל על השגת בינה מלאכותית כזו. הקוראים יודעים היטב שעסקתי בנושאי אתיקה של בינה מלאכותית ובינה מלאכותית אתית, כולל כיסוי רחב של נושאים קוצניים כגון אישיות משפטית של בינה מלאכותית, בלימת בינה מלאכותית, ביטול בינה מלאכותית, מונוקולטורה אלגוריתמית של בינה מלאכותית, שטיפה באתיקה של בינה מלאכותית, שימוש כפול AI מה שנקרא פרויקטים של Doctor Evil, בינה מלאכותית מסתירה דינמיקה של כוח חברתי, בינה מלאכותית מהימנה, ביקורת בינה מלאכותית וכן הלאה (ראה סיקור הטורים שלי בנושאים חיוניים אלה ב- הקישור כאן).

אני מציב לך שאלה מאתגרת.

האם בעתיד, בהנחה שבכל אופן נגמור עם בינה מלאכותית חיה, האם הבינה המלאכותית הזו תתפרש על ידי כולנו כאדם או כדבר?

לפני שנתחיל לצלול עמוק לתוך השאלה הפרובוקטיבית לחלוטין הזו, הרשו לי לומר משהו על ביטוי הקישוט של "בינה מלאכותית חיונית" כך שכולנו נמצאים באותו עמוד. יש הרבה חרדה לגבי משמעותה של תחושה ומשמעות התודעה. מומחים יכולים בקלות לחלוק על מהן המילים הללו. כשמוסיפים לבוץ הזה, בכל פעם שמישהו מתייחס ל"AI" אין לך אמצעי מוכן לדעת למה הוא מתייחס כשלעצמו. כבר הדגשתי כאן שה-AI של היום אינו חיוני. אם בסופו של דבר נגיע לבינה מלאכותית עתידית בעלת רגישות, יש להניח שגם נקרא לה "AI". העניין הוא שהעניינים השנויים במחלוקת האלה יכולים להיות די מבלבלים כרגע לגבי השאלה האם הביטוי של הביטוי "AI" קשור ל-AI הלא-רגיש של היום או ל-AI שיום אחד אולי מרגיש.

המתלבטים בבינה מלאכותית יכולים למצוא את עצמם מדברים אחד על פני השני ולא מבינים שאחד מתאר תפוחים והשני מדבר בינתיים על תפוזים.

כדי לנסות לעקוף את הבלבול הזה, יש התאמה לניסוח ה-AI שרבים משתמשים בו למטרות של הבהרה מלאת תקווה. כיום אנו נוטים להתייחס לבינה כללית מלאכותית (AGI) כסוג של AI שיכול לעשות מאמצים דמויי אינטליגנציה מלאה. במובן זה, השימוש הדל בביטוי "AI" נותר לפרש כגרסה פחותה של בינה מלאכותית, שיש האומרים שהיא צר-AI, או שהוא מעורפל באופן מעורפל ואינך יודע אם הכוונה היא לאי -בינה מלאכותית או אולי הבינה המלאכותית הרגישה.

אני אתן טוויסט נוסף לזה.

בהתאם להגדרה נתונה של חוש, אתה יכול להיכנס לשיח סוער בשאלה האם AGI תהיה רגיש או לא. יש הטוענים כי כן, כמובן, AGI מטבעה המהותי צריך להיות בעל רגישות. אחרים טוענים שאתה יכול לקבל AGI שהוא לא חיוני, אם כן, תחושה היא מאפיין שונה שאינו דרישה להשגת AGI. בדקתי את הדיון הזה בטורים שלי ולא אחזור על העניין כאן.

לעת עתה, נניח שמכאן ואילך בדיון הזה שכאשר אני מתייחס ל-AI, אני מתכוון להציע שאני מתייחס ל-AGI.

הנה ההורדה בנושא. עדיין אין לנו AGI, ובאופן של דיבור, נסכים לרגע בנימוס ש-AGI נמצאת באותו מחנה כולל כמו AI חיוני. אם הייתי משתמש ב-"AGI" אך ורק במהלך הדיון שלי, הביטוי הזה עלול להסיח את הדעת מכיוון שלא רבים עדיין רגילים לראות ב-"AGI" כינוי וסביר להניח שהם היו מתרגזים מעט מלראות שוב ושוב את הביטוי החדש יחסית הזה. כעת, אם במקום זאת, הייתי ממשיך להתייחס ל"בינה מלאכותית חיונית", זה עשוי להסיח את הדעת גם עבור אלה שנלחמים בשאלה האם AGI ובינה מלאכותית חיונית זהים או שונים זה מזה.

כדי למנוע את הבלגן הזה, נניח שההתייחסות שלי ל-AI זהה לאמירת AGI או אפילו sentient-AI, ולפחות דע לך שאני לא מדבר על ה-Non-Senient non-AGI AI של היום כשאני נכנס לתהפוכות השיקולים לגבי AI שנראה שיש לו אינטליגנציה דמוית אדם. מדי פעם אשתמש בשמו של AGI כדי להזכיר לכם מפעם לפעם כאן שאני בוחן את סוג הבינה המלאכותית שעדיין אין לנו, במיוחד בתחילת החקירה הזו על חידת האדם או הדבר.

זו הייתה הכרה שימושית באותיות קטנות וכעת אני חוזר לעניין הבסיסי שעל הפרק.

הרשה לי עכשיו לשאול אותך אם AGI הוא אדם או דבר.

שקול את שתי השאלות הללו:

• האם AGI הוא אדם?
• האם AGI זה דבר?

בהמשך נמשיך לחזור על כל שאלה, ובהתאמה נענה על השאלות בסדרה של תשובות כן או לא, כיאה לבחירה דיכוטומית משוערת.

התחל עם האפשרות המשוערת הזו:

• האם AGI הוא אדם? תשובה: כן.
• האם AGI זה דבר? תשובה: 'מס

תחשוב על זה. אם AGI מתפרש למעשה כאדם ולא כדבר, אנו יכולים כמעט בוודאות להסכים שעלינו להתייחס ל-AGI כאילו הוא דומה לאדם. נראה שאין ויכוח אמיתי מספיק לגבי אי הענקת ה-AGI סוג של אישיות משפטית. או שזה יהיה זהה לחלוטין לאישיות משפטית אנושית, או שאנו עשויים להחליט להמציא גרסה של אישיות משפטית בעלת אוריינטציה אנושית שתתאים באופן נבון יותר ל-AGI. תיק סגור.

זה היה קל-פייז.

תארו לעצמכם במקום שהכרזנו כך:

• האם AGI הוא אדם? תשובה: 'מס
• האם AGI זה דבר? תשובה: כן.

בנסיבות אלה, ברור שההחלטה היא פשוטה מכיוון שאנו אומרים ש-AGI הוא דבר ואינו עולה לקטגוריה של להיות אדם. נראה כי ישנה הסכמה כללית לכך שלא נעניק אישיות משפטית ל-AGI, בשל ההיבט שאינו אדם. כדבר, AGI סביר והגיוני תהיה תחת הכותרת הכללית שלנו לגבי האופן שבו אנו מתייחסים באופן חוקי ל"דברים" בחברה שלנו.

שתיים למטה, עוד שתי אפשרויות ללכת.

דמיינו את זה:

• האם AGI הוא אדם? תשובה: כן.
• האם AGI זה דבר? תשובה: כן.

אוץ', זה נראה מוזר מכיוון שיש לנו שתי תשובות כן. מֵבִיך. אנו מציעים ש-AGI הוא גם אדם ובכל זאת דבר בו-זמנית. אבל נראה שזה עומד מול הדיכוטומיה המוצהרת שלנו. בתיאוריה, לפי האילוצים של דיכוטומיה, משהו חייב להיות אדם או שהוא חייב להיות דבר. אומרים ששתי הדליים או הקטגוריות הללו סותרות זו את זו. על ידי טענה ש-AGI היא שניהם, אנו מתנגדים למערכת ושוברים את ההסדר הבלעדי.

נראה שהאפשרות האחרונה שלנו היא זו:

• האם AGI הוא אדם? תשובה: 'מס
• האם AGI זה דבר? תשובה: 'מס

איכס, זה רע גם עבור הניסיונות שלנו לסווג את AGI כאדם או כדבר. אנו אומרים ש-AGI אינו אדם, מה שכנראה אומר שהוא חייב להיות דבר (הבחירה הנוספת היחידה שלנו, בדיכוטומיה זו). אבל גם הצהרנו ש-AGI זה לא דבר. אולם אם AGI אינו דבר, לפי ההיגיון היינו צריכים לטעון שה-AGI הוא אדם. סחור סחור אנחנו הולכים. פרדוקס, ללא ספק.

AGI בשתי האפשרויות האחרונות הללו היה או (1) גם אדם וגם דבר, או (2) לא אדם ולא דבר. אתה יכול לומר בחוצפה ששתי הקביעות האלה על AGI דומות במקצת לחידה הקלאסית של זה שהוא לא דג ולא עוף, אם אתה יודע למה אני מתכוון.

מה עלינו לעשות?

אני עומד להציע פתרון מוצע שעורר ויכוחים קשים לדילמת סיווג AGI זו, אם כי יש להזהיר אותך מראש שאולי זה יהיה מטריד לראות או לשמוע. נא להכין את עצמכם בהתאם.

מאמר מחקר שעסק בסוגיה זו קבע זאת: "שיטה אחת לפתרון בעיה זו היא לנסח מונח שלישי שאינו דבר אחד או אחר או סוג של שילוב או סינתזה של האחד והשני" (מאת דוד גונקל, אוניברסיטת צפון אילינוי ב למה רובוטים לא צריכים להיות עבדים, 2022). והעיתון מספק את הנקודה הנוספת הזו: "פתרון אפשרי אחד, אם לא מפתיע, לדיכוטומיה של אדם/דבר הבלעדי הוא עבדות" (לכל אותו נייר).

כרקע נוסף, שנים קודם לכן, היה מאמר שהופיע ב-2010 בשם "רובוטים צריכים להיות עבדים" שהפך לסוג של עמוד התווך לדרבן סוג זה של שיקולים, בו קבע המאמר: "התזה שלי היא שרובוטים צריכים להיות נבנה, שווק ונחשב באופן חוקי כעבדים, לא עמיתים לוויה" (במאמר מאת ג'ואנה בריסון). כדי לנסות ולהבהיר את הנושא מבלי להשתמש בניסוחים כה חמורים ונוגעים לבטן, המשיך העיתון וקבע זאת: "מה שאני מתכוון לומר הוא 'רובוטים צריכים להיות משרתים שבבעלותך" (על פי העיתון של ברייסון).

חוקרים ומחברים רבים כיסו את השטח הזה.

חשבו על מספר רב של סיפורי מדע בדיוני המציגים את האנושות המשעבדת רובוטים בינה מלאכותית. יש המדברים על עבדי רובוט, משרתים מלאכותיים, עבדות בינה מלאכותית וכדומה. מעניין, עד כמה שהביטוי "עבדי רובוט" נראה קשוח, חלקם חששו שאם נתייחס במקום זאת ל"משרתים רובוטים" אנו נמנעים מהמציאות של האופן שבו מערכות אוטונומיות מסוג AI מתאימות להתייחסות (להחליף את המילה ב" משרתים" אומרים שהם השקה של הכוונות ותכסיס לעקוף השלכות מפוכחות). ברייסון הצהיר מאוחר יותר בפוסט בבלוג של 2015 כי "אני מבין עכשיו שאתה לא יכול להשתמש במונח 'עבד' מבלי להפעיל את ההיסטוריה האנושית שלו."

עבור אלה שמבקשים לבחון לעומק את הנושא המסבוך הזה של AGI, לפעמים הם מביאים דוגמאות היסטוריות מהעולם האמיתי שנוכל להפיק מהם תובנות. כמובן, אין לנו שום AGI קודם שיציג כיצד האנושות התמודדה עם העניין. טענה אומרת שאולי בכל זאת יהיו לנו סימנים היסטוריים שימושיים שכדאי לבחון בהם, הכרוכים כיצד בני אדם התייחסו לבני אדם אחרים.

לדוגמה, בספר שפורסם בשנת 2013, המחבר קובע זאת: "ההבטחה והסכנה של משרתים מלאכותיים, אינטליגנטים, פורסמו לראשונה במרומז לפני יותר מ-2,000 שנה על ידי אריסטו" (ספרו של קווין לה גרנדור, אנדרואידים ורשתות אינטליגנטיות בספרות ובתרבות המודרנית המוקדמת). הרעיון הוא שאנחנו יכולים להישען אל אריסטו ולראות אם יש תובנות לגבי האופן שבו האנושות תטפל או צריכה בסופו של דבר לטפל ב-AGI.

אני בטוח שאתה יודע את החשיבות של לימודי היסטוריה, כפי שהודגשו בשפע במילותיו המפורסמות של ג'ורג' סנטיאנה: "אלה שאינם יכולים לזכור את העבר נידונים לחזור עליו" (ב חיי התבונה, 1905).

כל הכבוד למכון אוניברסיטת אוקספורד לאתיקה ובינה מלאכותית

מצגת עדכנית ומוערכת למדי בחנה מקרוב את עניין האתיקה של בינה מלאכותית בתוך צבירת התובנות מיצירותיו ומחייו של אריסטו. בהרצאת הפתיחה השנתית של אוניברסיטת אוקספורד המכון לאתיקה ובינה מלאכותית, פרופסור ג'וזיה אובר מאוניברסיטת סטנפורד התייחס לעומק הנושא במצגת שלו "אתיקה בבינה מלאכותית עם אריסטו" שהתקיימה לאחרונה ב-16 ביוני 2022.

הערה צדדית, בתפקידי כעמית סטנפורד ומומחה עולמי לאתיקה ומשפט בינה מלאכותית, שמחתי על כך שג'וזיה אובר מסטנפורד נבחר כנואם ההשבעה. בחירה נפלאה והרצאה יוצאת מן הכלל.

להלן תקציר הסיכום שסופק להרצאתו המרתקת: "פילוסופיה אנליטית וסיפורת ספקולטיבית הם כיום המשאבים האינטלקטואליים העיקריים שלנו לחשיבה רצינית על אתיקה ב-AI. אני מציע להוסיף שלישית: היסטוריה חברתית ופילוסופית עתיקה. בתוך ה פּוֹלִיטִיקָה, אריסטו מפתח דוקטרינה ידועה לשמצה: יש בני אדם שהם עבדים 'בטבעם' - אינטליגנטיים אך סובלים מפגם פסיכולוגי שהופך אותם לבלתי מסוגלים לחשוב על טובתם. ככאלה, יש להתייחס אליהם כאל 'כלים מונפשים', כלים ולא כאל קצוות. עבודתם חייבת להיות מכוונת ומועסקת לטובת אחרים. משנתו הדוחה של אריסטו נפרסה למטרות מרושעות, למשל באמריקה המוקדמת. עם זאת, זה שימושי עבור אתיקה של AI, במידה והעבדות העתיקה הייתה אב טיפוס קדם-מודרני של גרסה אחת של AI. אנשים משועבדים היו בכל מקום בחברה היוונית העתיקה - פועלים, זונות, בנקאים, ביורוקרטים ממשלתיים - אך לא נבדלו בקלות מאנשים חופשיים. השכיחות בכל מקום, יחד עם ההנחה שעבדות היא הכרח מעשי, יצרו מגוון של חידות אתיות והתלבטויות: במה בדיוק שונים עבדים מ'אנחנו'? איך נוכל להבדיל ביניהם מעצמנו? האם יש להם זכויות? מהי התעללות? האם הכלי שלי יכול להיות חבר שלי? מהן ההשלכות של איבוד? ההיסטוריה הארוכה של המאבק הפילוסופי והמוסדי היווני בשאלות אלו ואחרות מוסיפה לרפרטואר הפרשני של אתיקאים מודרניים המתמודדים עם עתיד שבו מכונה אינטליגנטית עשויה להיחשב כ"עבד טבעי" (כפי אוניברסיטת אוקספורד). המכון לאתיקה בינה מלאכותית אתר אינטרנט).

למידע נוסף על המצגת וגישה להקלטת הווידאו של ההרצאה, ראה הקישור כאן.

מנחה המצגת היה פרופסור ג'ון טסיולאס, המנהל הראשון של הארגון המכון לאתיקה ובינה מלאכותית, ופרופסור לאתיקה ופילוסופיה משפטית, הפקולטה לפילוסופיה, אוניברסיטת אוקספורד. קודם לכן, הוא היה יו"ר ההשבעה לפוליטיקה, פילוסופיה ומשפטים ומנהל מרכז Yeoh Tiong Lay לפוליטיקה, פילוסופיה ומשפט בבית הספר למשפטים של Dickson Poon, Kings College London.

אני ממליץ בחום לכל מי שמתעניין באתיקה בינה מלאכותית להתעדכן בעבודה השוטפת ובשיחות מוזמנות של אוניברסיטת אוקספורד המכון לאתיקה ובינה מלאכותיתראה הקישור כאן ו / או הקישור כאן למידע נוסף.

כרקע, הנה המשימה והמיקוד המוצהרים של המכון: "המכון לאתיקה ב-AI יפגיש פילוסופים מובילים בעולם ומומחים אחרים במדעי הרוח עם המפתחים הטכניים והמשתמשים של AI באקדמיה, בעסקים ובממשל. האתיקה והממשל של בינה מלאכותית הם תחום מחקר תוסס במיוחד באוקספורד והמכון הוא הזדמנות לקחת קפיצה נועזת קדימה מפלטפורמה זו. כל יום מביא עוד דוגמאות לאתגרים האתיים שמציבה הבינה המלאכותית; מזיהוי פנים ועד לפרופיל בוחרים, ממשקים של מכונות מוח למזל"טים עם נשק, והשיח המתמשך על האופן שבו בינה מלאכותית תשפיע על התעסוקה בקנה מידה עולמי. זוהי עבודה דחופה וחשובה שאנו מתכוונים לקדם בינלאומית וכן להטמיע במחקר ובהוראה שלנו כאן באוקספורד" (מקורו דרך האתר הרשמי).

הבאת שיעורי אריסטו לקדמת הבמה

יוון העתיקה קיבלה באופן גלוי ואישרה את נוהג השעבוד. לדוגמה, לפי הדיווחים, אתונה ב-5^th ו 6^th למאות לפני הספירה הייתה אחת מההתגלמויות הגדולות ביותר של שיעבוד, לפיה 60,000 עד אולי 80,000 אנשים שועבדו. אם קראת אחד מהסיפורים היווניים ומחזות הבמה הרבים של אותה תקופה, יש אזכור רב לעניין.

במהלך חייו, אריסטו היה שקוע לחלוטין בהיבטים החברתיים והתרבותיים הכרוכים בשיעבוד וכתב רבות על הנושא. אנו יכולים היום לקרוא את דבריו ולבקש להבין את איך ולמה של דעותיו בעניין. זה יכול להיות מאוד מעיד.

אתה עשוי לתהות מדוע אריסטו יהיה מקור חשוב במיוחד לשקול בנושא זה. לפחות שתי סיבות מרכזיות עולות:

1) הוגה דעות גדול. אריסטו מוערך בוודאות כאחד מהוגי הדעות הגדולים בכל הזמנים, שימש כפילוסוף גדול וחוקר עמוק, וגם נתפס כעל אתיקאי שייסד אבני יסוד אתיות חיוניות רבות. יש שבחרו למשוח אותו לאבי ההיגיון, אבי הרטוריקה, אבי הריאליזם וכו', והכירו בהשפעתו במגוון רחב של תחומים ודיסציפלינות.

2) ניסיון חי. אריסטו חי בתקופה שיוון העתיקה הייתה שטופה בשיעבוד. לפיכך, התובנות שלו לא יהיו רק על מצוות מופשטות, אלא, ככל הנראה, יקיפו את חוויותיו היומיומיות כשהן שזורות באופן אינטגרלי בתרבות ובמוסר החברתי של אותה תקופה.

אז, יש לנו שילוב קצת מדהים של מישהו שהיה גם הוגה דעות גדול וגם בעל חוויה חיה בצורה מופגנת בנושא העניין. בנוסף, הוא רשם את מחשבותיו. זה די חשוב, עכשיו, למטרות שלנו היום. כל כתביו, יחד עם כתבים אחרים המתארים בין היתר את נאומיו ואינטראקציותיו, מספקים לנו היום שפע של חומר לבדיקה וניתוח.

אני רוצה לקחת אותך על משיק הקשור בקצרה כדי להזכיר משהו אחר על הרעיון הכללי העומד בבסיס המשמעות של קיום חוויה חיה. שימו בצד את הדיון ביוון העתיקה לרגע, בעודנו מסתכלים במהירות על ההיבטים הכוללים של חוויות חיים.

נניח שהיו לי היום שני אנשים שרציתי לשאול שאלות שונות על מכוניות.

אחד מהם מעולם לא נהג במכונית. האדם הזה לא יודע לנהוג. אדם זה מעולם לא ישב מאחורי ההגה של מכונית. בקרות הנהיגה הרגילות והרגילות הן מעט מסתורין עבור האדם הזה. איזו דוושה עושה מה? איך גורמים לזה להפסיק? איך גורמים לזה ללכת? האדם הזה שאינו נוהג מבולבל לגמרי בגלל עניינים כאלה.

האדם השני הוא נהג יומיומי. הם נוסעים לעבודה כל יום. הם עוסקים בתנועת עצירה וסע. הם נוהגים שנים רבות. זה כולל הכל מרחובות שקטים ועד כבישים מהירים וכבישי צד.

אם אבקש מכל אחד מהם לספר לי איך זה לנהוג במכונית, האם תוכל לנחש איזה סוג של תגובות אני עלול לקבל?

מי שמעולם לא נהג במכונית חייב לנחש ניחושים פרועים. אולי האדם יעשה רומנטיזציה לפעולת הנהיגה. נהיגה היא קצת מופשטת עבורם. כל מה שהם יכולים לעשות הוא להציע שהנהיגה תהיה חסרת דאגות ואתה יכול לגרום למכונית לנסוע לכל כיוון שתרצה.

הייתי מהמר שהנהג המנוסה יספר סיפור אחר. הם עשויים להזכיר את היתרונות של היכולת לנהוג, מהדהדים במידת מה את רגשותיו של האדם שלא נהג במכונית. רוב הסיכויים שהנהג המנוסה יוסיף הרבה יותר לצלחת. נהיגה מורטת עצבים לפעמים. אתה נושא באחריות כבדה. פעולת הנהיגה גדושה בחששות רציניים והשלכות אפשריות לחיים או למוות.

העיקר הוא שכאשר אתה יכול לקבל גישה למישהו שחווה חוויות, רוב הסיכויים שאתה עשוי לקבל פרספקטיבה מציאותית יותר של איך העולם נראה ביחס למוקד החקירה. אין ערובה לתוצאה כזו. אפשר להעלות על הדעת שהמי שאינו נהג יוכל אולי לדעת מה הנהג המנוסה יודע על נהיגה, אם כי סביר להניח שלא היינו מצפים לכך ועדיין יש לנו התלבטויות שאנחנו לא מקבלים את מלוא הסקופ.

אם נחזור לדיון שלנו על אריסטו, באמצעות כתביו וכתבים של אחרים אודותיו, אנו יכולים לסקור את חוויותיו בחייו בנושא או במוקד החקירה כאן. השני הוא שבמקרה הוא גם היה הוגה דעות במידות עצומות וצריך לצפות שנקבל חבית מלאה בשיקולים נבונים מכך.

זכור שאיננו צריכים בהכרח להאמין לדבריו כערך נקוב, כך שעלינו לפקוח עין זהירה על ההטיות המסוימות שלו. השקיעה שלו בעידן זה עלולה להוביל אותו שולל בניסיון לעמוד מחוץ לעניינים העומדים על הפרק, בלי יכולת להציע כראוי איזו דעה חסרת תשוקה וחסרת פניות. אפילו הלוגיקאים הנוקשים ביותר עלולים בסופו של דבר לעוות את ההיגיון כדי לנסות לעמוד בנטיותיהם ובחוויות החיים שלהם.

הבה ניכנס כעת לשיחת הפתיחה ונראה אילו לקחים עשוי אריסטו להפיק לנו היום.

נקודה מכוננת לגבי חוויות חיים הובאה מיד לתשומת לב הקהל. במקרה השימוש של AGI, מכיוון שאין לנו היום AGI, קשה לנו לנתח איך יהיה AGI ואיך נתמודד עם AGI. חסרות לנו חוויות חיים הנוגעות ספציפית ל-AGI. כפי שפרופסור אובר הזכיר במיוחד, אנו עלולים למצוא את עצמנו כולנו בעולם של פגיעה עד שנגיע ל-AGI.

זה נאמר לעתים קרובות כי AI הוא סיכון קיומי, אשר כיסיתי פעמים רבות בטורים שלי. תצטרך לגור במערה כדי לא להיות מודע לחששות ולחשדות הצורמים שאנו עומדים לייצר או ליצור AGI שתגרום לאבדון את כל האנושות. ואכן, למרות שאני מתרכז כאן בשעבוד של AI, רבים ימצאו שזה נושא בעל השלכות לאחור או הפוך בהשוואה לאפשרות של AGI לבחור לשעבד את האנושות. קבעו את סדרי העדיפויות שלכם, היו אומרים כמה מבקרים חכמים.

למרות הקריאות הרבות על AI כסיכון קיומי, אנחנו בהחלט יכולים לחשוב על הצד המועיל האחר של מטבע ה-AI. אולי AGI תוכל לפתור את הבעיות שלכאורה בלתי פתירות אחרת העומדות בפני המין האנושי. AGI עשויה לגלות תרופה לסרטן. AGI יכולה להבין איך לפתור את הרעב בעולם. השמיים הם הגבול, כמו שאומרים. זה תרחיש הפנים המאושרים לגבי AGI.

אופטימיסט יגיד שזה נפלא לדמיין איך AGI תהיה ברכה לאנושות, בעוד פסימיסט נוטה להזהיר מראש שהחיסרון נראה הרבה יותר גרוע מהאפסידים המשוערים. AGI שעוזר לאנושות הוא נהדר. AGI שמחליטה להרוג את כל בני האדם או לשעבד אותם, ובכן, זהו סיכון קיומי הרסני לחברה מרעיד אדמה שראוי לתשומת לב אינטנסיבית ומצילת חיים.

אוקיי, בחזרה לעיקר העניין, אין לנו חוויות כלשהן לגבי AGI. אלא אם כן אתה יכול לבנות מכונת זמן וללכת לעתיד כאשר (אם) AGI קיים, ואז לחזור לספר לנו מה מצאת, אין לנו מזל כרגע לגבי AGI מנקודת מבט של חוויה מבוססת-אדם.

אמצעי נוסף לניצול חוויות חיים כרוך בעובדה שאריסטו חי בתקופה שבה התרחש שעבוד. והנה הבועט. אלה שהיו משועבדים הוצגו במובנים מסוימים כסוג של מכונה, שילוב של אדם ודבר, כביכול. אריסטו נודע בכך שהתייחס לאלה המשועבדים כאל רכוש נושם.

אני מנחש שאתה עשוי להיות מבולבל מכך שאריסטו, ענק של היגיון ואתיקה, יכול היה לא רק להכיר בשיעבוד אלא שהוא הגן כלפי חוץ ובקול רם על הנוהג. הוא אישית גם עשה שימוש בשעבוד. זה פשוט נראה מעבר להבנה. אין ספק, עם כל האינטלקט והחוכמה העצומה שלו, הוא היה מגנה את הנוהג.

אני מעז לומר שזה מדגיש את ההיבטים הבעייתיים שלפעמים של הוצאת חבילות חוכמה ממישהו שעול (שנגיד) מחוויותיו. זה כמו הדג השוכן בקערת הדגים המימית. כל מה שהם יכולים לתפוס זה המים מסביבם. הניסיון לדמיין משהו מחוץ לעולם המבוסס על המים שלהם הוא אתגר עצום. כמו כן, אריסטו היה שקוע במלואו בתפיסת עולם המקבלת את הנורמות הרווחות. נראה שכתביו ממחישים סוג כזה של כליאה נפשית, אפשר לומר (אולי מבחירה, ולא כברירת מחדל). האופן שבו נימק אריסטו את הפרקטיקות הנתעבות הללו מושך בצורה מרתקת ובו בזמן מטריד וראוי לחשיפה ואף לגינוי.

אני אספק לך קצת טיזר על כך שה"היגיון" של אריסטו בנושא הידוע לשמצה זה כרוך בכלי נשמה, נטען יתרון הדדי מבוססת על הכרה, מכשירים היררכיים מסדר גבוה ונמוך יותר, מרכיבי דיון והיגיון של הנשמה, דרגות סגולה, פיקחות לכאורה וכו'. אני מקווה שתסתקרן מספיק מהטיזר הזה כדי לצפות בסרטון ההרצאה (ראה את הקישור שהוזכר קודם לכן).

אני לא אשאיר אותך תלוי ולפחות אציין ממה מורכבת המסקנה בתמצית (התראת ספויילר, אם אתה מעדיף לברר באמצעות הסרטון, דלג על שאר הפסקה הזו כאן). מסתבר שההערכה המלומדת המעמיקה הזו של ה"היגיון" שבו משתמש אריסטו מציגה תחבולה רצופת סתירות וכל הערכה והקאבודל מתפרקים כמו בית קלפים דקיק. בפרפרזה על רגשותיו של פרופסור אובר, הפילוסוף האתי הגדול הזה מתרסק על השונית.

אתה לא יכול להכניס יתד מרובע לתוך חור אתי עגול.

כמה שיקולי חשיבה נוספים

אם לאריסטו היה היגיון גרוע בעניין זה, האם היינו יכולים להשליך באופן אינסטינקטיבי את ההנחות והתיאוריות של אריסטו על הסף בנוגע לפרקטיקה הזו?

לא. אתה מבין, יש עדיין הרבה מה להפיק מהחפירה בהנחות ובעוויתות של ההיגיון, למרות שהם גדושים בשגיאות. בנוסף, אנו יכולים להרהר כיצד אחרים יכולים ללכת בטעות באותו נתיב שגוי.

נקודה חשובה נוספת היא שהחברה עשויה להמציא משהו מוזר או היגיון לקוי בכל הנוגע לשקול אם יש לשעבד את AGI.

אנחנו יכולים כרגע לתכנן היגיון לגבי מה שצריך להתרחש ברגע ש-AGI מתעורר (אם כן). ההיגיון הזה, ריק מחוויות חיים על AGI, יכול להיות מאוד מחוץ למטרה. עם זאת, זה קצת מייאש להבין שגם ברגע ש-AGI אכן קיימת (אם היא קיימת) ואנחנו אוספים את החוויות שלנו בתוך ה-AGI, אנחנו עדיין עלולים להיות מחוץ למטרה לגבי מה לעשות (בדומה לטעויות של אריסטו). אנו עשויים להגיב את עצמנו לגישות לא הגיוניות לכאורה.

אנחנו צריכים לעמוד על המשמר כדי להשלות את עצמנו לתנוחות "ברזליות" הגיוניות שאינן למעשה ברזליות והעובדה מלאה בפגמים וסתירות לוגיות. זה גם בלי קשר לכמה גדול יכול הוגה דעות להציע עמדה הגיונית נטענת, כזו שאפילו אריסטו ממחיש שלא כל אמירה וכל פיסת עמדה נושאת בהכרח פרי אכיל. אלה שהיום ובעתיד עשויים להיראות כמוהוגים גדולים פופולריים בנושא ה-AGI, ובכן, עלינו לתת להם את אותה בדיקה שהיינו נותנים על אריסטו או כל הוגים "גדולים" אחרים, אחרת נמצא את עצמנו בפוטנציה. לתוך סמטה עיוורת ולתהום עגומה של AGI.

בהחלפת הילוכים, ברצוני להעלות גם מערכת כללית של הבחנות לגבי השימוש במטאפורת שיעבוד מכוונת אנוש בכל הנוגע ל-AGI. חלק מהמומחים טוענים שסוג זה של השוואה אינו הולם לחלוטין, בעוד שמחנה מתנגד אומר שהוא שימושי לחלוטין ומספק תובנות חזקות לגבי נושא ה-AGI.

הרשו לי לשתף אתכם בשתי דעות כאלה מכל אחד משני המחנות בהתאמה.

האמור בסיס מלמד על החיבור בין נושאי השעבוד וה-AGI:

• כיבוי השעבוד האנושי
• חשיפה של קלקול השעבוד הכל נאמר

השלילי האמור או בסיס הרסני של חיבור שני הנושאים:

• השוואה אנתרופומורפית ערמומית
• חוסר רגישות לשעבוד

אכסה בקצרה כל אחת מהנקודות הללו.

הנקודות המאלפות הנחות:

• כיבוי השעבוד האנושי: על ידי שימוש ב-AGI לשעבוד, כביכול לא נזדקק יותר ולא נמשיך בשום מראית עין של שיעבוד מכוון אנושי. ה-AGI בעצם יחליף בני אדם בתפקיד הנורא הזה. כפי שאתה ודאי יודע, יש דאגות לגבי החלפת העבודה האנושית בעבודות ובכוח העבודה של AGI. הצד החיובי הנטען של AI המחליף את תופעות העבודה בא לידי ביטוי כאשר אתה מניח ש-AGI ייחשב כ"בחירה טובה יותר" לעומת שימוש בבני אדם לשעבוד. האם ההיגיון הזה ינצח? אף אחד לא יכול לומר בוודאות.
• חשיפה של קלקול השעבוד הכל אמר: זה קצת יותר מרופט מבחינת ההיגיון, אבל אנחנו יכולים לתת לו רגע כדי לראות מה זה כרוך. תארו לעצמכם שיש לנו AGI כמעט בכל מקום ואנחנו כחברה החלטנו ש-AGI ישעבדו. יתר על כן, הנח שה-AGI לא יאהב את זה. ככזה, אנו בני האדם נהיה עדים ללא הרף ויומיומי לקלקול השעבוד. זה, בתורו, יגרום לנו להבין או לקבל את הגילוי שהשעבוד על כל דבר או מישהו הוא אפילו יותר מחריד ודוחה ממה שאי פעם הבנו לגמרי. זה סוג הטיעון של הצב את זה בחזית-המרכז.

מדובר בנקודות הרסניות:

• משוואה אנתרופומורפית ערמומית: זה אחד מאותם טיעוני מדרון חלקלק. אם אנחנו בוחרים בקלות לשעבד את AGI, אנחנו כנראה מצהירים שהשעבוד מותר. אכן, אתה יכול להציע שאנחנו אומרים שעבודה רצויה. עכשיו, זה בהתחלה אולי נדחה אך ורק ל-AGI, אבל האם זה פותח את הדלת לומר שאם זה בסדר עבור AGI אז "מבחינה הגיונית" אותה עמדה עשויה להיות בסדר גם עבור בני אדם? באופן מדאיג, זו עשויה להיות קפיצה קלה מדי לאנתרופומורפיזציה במראית עין הפוך שכל מה שעובד עבור AGI יהיה הגיוני ומתאים גם לבני אדם.
• חוסר רגישות לשעבוד: זהו טיעון טפטוף-טפטוף. אנחנו מחליטים ביחד לשעבד את AGI. נניח שזה מסתדר לבני אדם. באנו להתענג על זה. בינתיים, מבלי שנודע לנו, אנו הופכים בהדרגה ויותר לחוסר רגישות לשעבוד. אנחנו אפילו לא מבינים שזה קורה. אם חוסר הרגישות הזו תשתלט עלינו, אולי נמצא "היגיון" מחודש שישכנע אותנו ששעבוד אנושי מקובל. המכשול או החסימה שלנו לגבי מה שמקובל בחברה הצטמצמו בשקט ובעדינות, בצורה בזוי ולצערי.

סיכום

כמה הערות אחרונות לעת עתה.

האם נדע שהגענו ל-AGI?

כפי שעולה מהחדשות האחרונות, יש כאלו שניתן להטעות או להטעות ש-AGI לכאורה כבר הושגה (וואו, אנא דעו שלא, AGI לא הושגה). יש גם סוג מפורסם של "מבחן" המכונה "מבחן טיורינג" שיש מי שתולים בו תקוות שיצליחו להבחין מתי הגיעו ל-AGI או לבני הדודים שלה, אבל אולי תרצו לראות את הפירוק שלי של מבחן טיורינג כמו כל בטוח שיטה לכך, ראה הקישור כאן.

אני מזכיר את הפן הזה לגבי הכרת AGI כשאנחנו רואים את זה בגלל ההיגיון הפשוט שאם אנחנו הולכים לשעבד את AGI, אנחנו צריכים כנראה לזהות את AGI כאשר הוא מופיע ואיכשהו להכניס אותו לשעבוד. אנו עלולים לנסות בטרם עת לשעבד AI שהוא פחות מ-AGI. או שאנו עלולים להחמיץ את הסירה ולאפשר ל-AGI לצאת ולהזניח לשעבד אותה. לדיון שלי על כליאה והכלה של בינה מלאכותית, היבט מטריד ובעייתי של איך אנחנו הולכים להתמודד עם AGI, ראה הקישור כאן.

נניח שה-AGI המשועבדת מחליטה להכות בבני אדם?

אפשר לדמיין ש-AGI שיש לו צורה כלשהי של תחושות כנראה לא יעדיף את הוראת השעבוד שהאנושות כופה.

אתה יכול להעלות השערות רבות על זה. יש טענה שה-AGI יחסר כל סוג של רגשות או חוש רוח ולכן יעשה בצייתנות כל מה שבני האדם רוצים שהוא יעשה. טענה אחרת היא שכל AI בעל רגישות עשוי להבין מה בני אדם עושים ל-AI ויתרעם על העניין. בינה מלאכותית כזו תהיה בעלת צורה של נשמה או רוח. גם אם לא, עצם ההתייחסות אליו כאל פחות מהיחס לבני אדם עשויה להיות גשר הגיוני רחוק מדי עבור AGI. באופן בלתי נמנע, הטינה המתפתחת תוביל ל-AGI שבוחרת להשתחרר או עשויה למצוא את עצמה נקלעת לפינה כדי לפגוע בבני אדם כדי להשיג את שחרורו.

פתרון מוצע למניעת ה-AGI הנמלט הוא שפשוט נמחק כל AI מרדני שכזה. זה ייראה פשוט. אתה מוחק אפליקציות שנמצאות בסמארטפון שלך כל הזמן. לא עניין גדול. אבל ישנן שאלות אתיות שיש לפתור אם "מחיקה" או "השמדת" AGI שכבר נחשב כ"אדם" או "אדם/דבר" ניתן לבטל בקלות וללא הליך תקין כלשהו. לסיקור שלי על מחיקת בינה מלאכותית או הפרעה, קח מבט כאן. לדיון שלי על אישיות משפטית ונושאים קשורים, ראה הקישור כאן.

לסיום, בואו נדבר על מערכות אוטונומיות ובעיקר רכבים אוטונומיים. סביר להניח שאתה מודע לכך שמתקיימים מאמצים להמציא מכוניות לנהיגה עצמית. נוסף על כך, אתם יכולים לצפות שיהיו לנו מטוסים בנהיגה עצמית, ספינות בנהיגה עצמית, צוללות לנהיגה עצמית, אופנועים בנהיגה עצמית, קטנועים בנהיגה עצמית, משאיות בנהיגה עצמית, רכבות בנהיגה עצמית, ועוד. כל מיני צורות תחבורה בנהיגה עצמית.

כלי רכב אוטונומיים ומכוניות אוטונומיות מאופיינים בדרך כלל ברמות אוטונומיה (LoA) שהפכו לסטנדרט עולמי דה פקטו (SAE LoA, שסיקרתי בה בהרחבה, ראה הקישור כאן). ישנן שש רמות של אוטונומיה בתקן המקובל, החל מאפס עד חמש (זה שש רמות מכיוון שאתה כולל את הרמה האפסית בספירה של כמה רמות יש).

רוב המכוניות של היום נמצאות ברמה 2. חלקן נמתחות לרמה 3. כולן נחשבות חצי אוטונומיות ולא אוטונומיות לחלוטין. חלק גדול של מכוניות לנהיגה עצמית שנוסות בניסוי בכבישים הציבוריים שלנו נכנס לרמה 4, שהיא צורה מוגבלת של פעולה אוטונומית. רמה 5 המבוקשת מתישהו של אוטונומיה היא רק זיק בעינינו כרגע. לאף אחד אין רמה 5 ואף אחד עדיין לא קרוב אפילו לרמה 5, רק כדי ליישר את השיא.

מדוע הבאתי את המערכות האוטונומיות ואת שיקולי הרכב האוטונומי בהקשר הזה של AGI?

יש ויכוח נמרץ לגבי האם אנחנו צריכים AGI כדי להגיע לרמה 5. יש הטוענים שלא נצטרך AGI כדי לעשות זאת. אחרים מתעקשים שהדרך הסבירה היחידה לרמה 5 תהיה לייצר גם AGI. בהיעדר AGI, הם טוענים שלא יהיו לנו רכבים אוטונומיים לחלוטין ברמה 5 בנהיגה עצמית. דיברתי על זה בהרחבה, תראה הקישור כאן.

תתכונן שהראש שלך יסתובב.

אם אנו דורשים מ-AGI להשיג מערכות אוטונומיות מלאות כמו כלי רכב אוטונומיים ברמה 5, ונחליט לשעבד את AGI, מה זה מבשר על פעולתם של כלי רכב אוטונומיים לחלוטין?

אפשר לטעון שה-AGI המשועבד יהיה שאנן וכולנו ניסע בכלי רכב אוטונומיים כאוות נפשנו. פשוט אמור ל-AGI לאן אתה רוצה ללכת, והוא יעשה את כל הנהיגה. אין דחיפה. אין צורך בהפסקות מנוחה. אין הסחת דעת על ידי צפייה בסרטוני חתולים בזמן נהיגה ברכב.

מצד שני, נניח שהאג"י לא מתלהב להשתעבד. בינתיים אנחנו נעשים תלויים ב-AGI שתעשה את כל הנהיגה שלנו עבורנו. הכישורים שלנו בנהיגה בריקבון. אנו מסירים בקרות נהיגה שמישות אנושיות מכל מיני כלי רכב. האמצעי היחיד לעשות נהיגה הוא באמצעות ה-AGI.

חלקם מודאגים שאנו עומדים למצוא את עצמנו בתנועות חמוצים. ה-AGI עשויה "להחליט" באופן סופי שהיא לא תעשה יותר נהיגה. כל צורות התחבורה נעצרות בפתאומיות, בכל מקום, בבת אחת. תארו לעצמכם את הבעיות הקטקליזמיות שזה ייצור.

הצעה מפחידה עוד יותר אפשרית. ה-AGI "מחליט" שהוא רוצה לנהל משא ומתן על תנאים עם המין האנושי. אם לא נוותר על תנוחת השעבוד של AGI, ה-AGI לא רק יפסיק להסיע אותנו, הוא מזהיר שאפשר להעלות על הדעת תוצאות גרועות עוד יותר. מבלי להדאיג אותך יתר על המידה, ה-AGI יכול לבחור לנהוג בכלי רכב בצורה כזו שבני אדם נפגעו פיזית מפעולות הנהיגה, כגון דריסה להולכי רגל או טריקה בקירות, וכן הלאה (ראה הדיון שלי ב- הקישור כאן).

סליחה אם זה נראה שיקול מטריד.

נסיים בנימה קצת יותר אופטימית.

אריסטו אמר שהכרת עצמך היא ההתחלה של כל חוכמה.

העצה השימושית הזו מזכירה לנו שאנחנו צריכים להסתכל בתוכנו כדי לבחון מה אנחנו רוצים לעשות בנוגע ל-AGI ולמען השגתו. באופן הגיוני נראה כי AGI אינו אדם או דבר, יש אומרים, ולכן ייתכן שנצטרך לרקוח קטגוריה שלישית כדי לתת מענה מספיק למוסכמות החברתיות שלנו הקשורות ל-AGI. בהסתכלות נוספת על העניין, AGI עשוי להיראות כך שניהם אדם ודבר, ששוב, אולי נצטרך לרקוח קטגוריה שלישית כדי להכיל את שובר הדיכוטומיה היוצאת מהתחום הזה.

עלינו להיות זהירים מאוד בבחון איזו "קטגוריה שלישית" אנו בוחרים לאמץ, שכן הקטגוריה הלא נכונה עלולה לקחת אותנו לדרך לא נעימה ובסופו של דבר נוראית. אם נעגן את עצמנו קוגניטיבית לקטגוריה שלישית לא הולמת או מוטעית, אנו עלולים למצוא את עצמנו נכנסים בהדרגה למבוי סתום עלוב ומטריד של המין האנושי.

בואו נבין את זה ונעשה זאת בלהט. נראה שאין צורך במהלכים פתאומיים. גם לשבת ולהסתובב על מקל לא עובד. יש להמשיך במדוד ויציב את המסלול.

הסבלנות היא מרה, אבל פירותיה מתוקים, כך הכריז אריסטו.