אתיקה של בינה מלאכותית והשאלה הכמעט הגיונית האם בני אדם יחיו בחיים בינה מלאכותית

יש לי שאלה אליכם שנראה כי זוכה להרבה ויכוחים סוערים בימים אלה.

האם אתה מוכן?

האם בני אדם יחיו יותר מבינה מלאכותית?

תחשוב על זה.

אני הולך לפרק את השאלה ולבחון מקרוב את התשובות וכיצד הובהרו התשובות. הכוונה העיקרית שלי היא להדגיש כיצד השאלה עצמה והשיח שמסביב נטועים באופן בלתי נמנע ובלתי נמנע ב אתיקה של AI.

למי שחושב בביטול שהשאלה אינה ניתנת לתשובה מטבעה או בזבוז זמן ונשימה, הייתי מציע בנימוס שהפעולה של ניסיון לענות על השאלה מעלה כמה שיקולים חיוניים של AI אתיקה. לפיכך, גם אם אתה רוצה לדחות על הסף את השאלה אולי מגוחכת או לא מציאותית, אני אומר שהיא עדיין מעוררת ערך כלשהו ככלי או מנגנון שמדגיש את מצוות AI אתיות. לסיקור המתמשך והנרחב שלי על אתיקה של בינה מלאכותית ובינה מלאכותית אתית, ראה הקישור כאן ו הקישור כאן, רק כדי שם כמה.

עם הנחת היסוד האמורה, אנא הרשה לי לחזור שוב על השאלה השנויה במחלוקת ולאפשר למוח שלנו לשוטט במשמעות השאלה.

האם בני אדם יחיו יותר מבינה מלאכותית?

אם אתה לא מרגיש בנוח עם הביטוי המסוים הזה, אתה מוזמן לנסח מחדש את השאלה כדי לשאול אם הבינה המלאכותית תאריך ימים יותר מבני אדם. אני לא בטוח אם זה מקל על התשובה לשאלה, אבל אולי זה נראה פחות מטריד. אני אומר את זה בגלל שהרעיון של AI שחי יותר מבני אדם עשוי להרגיש קצת יותר תמים. זה יהיה כמעט כאילו שאלתי אותך אם מבנים גדולים ומונומנטים שנעשו על ידי אדם עשויים לחיות יותר מבני האדם.

אין ספק שזה נראה אפשרי ולא מאיים במיוחד. אנו מייצרים את הדברים הגדולים הללו במהלך חיינו ובדומה לפירמידות, המבנים האדירים הללו יחזיקו מעמד יותר ממי שיצרו אותם. זה לא ממש שווה להתמיד אחרי סוף האנושות, כמובן, מכיוון שבני האדם עדיין כאן. אף על פי כן, זה נראה הגיוני למדי ואפשרי שהמבנים שאנו יוצרים יכולים להחזיק מעמד לאורך כל קיומנו.

ההבחנה הבולטת היא שמבנים שונים כמו גורדי שחקים גבוהים ופסלים מפוארים אינם חיים. הם אינרטיים. לעומת זאת, כששואלים על בינה מלאכותית, ההנחה היא שבינה מלאכותית היא בעצם "חיה" במובן של צורה כלשהי של אינטליגנציה ויכולת לפעול בדרכים שבני אדם עושים. זו הסיבה שהשאלה לגבי חיים ארוכים יותר מרתיעה, מכופפת את המוח, ובסך הכל חידה שראוי לתמיהה עליה.

לאורך כל דבריי כאן, אני הולך לדבוק בשאלה שמנוסחת האם בני אדם יחיו בחיים בינה מלאכותית. זה רק למען הדיון והקלת ההתבוננות. אני מתכוון לא לזלזל בשאילתה האלטרנטיבית של האם בינה מלאכותית תאריך ימים יותר מבני אדם. בסך הכל, הניתוח הזה מכסה את שני הניסוחים, ואני אולי מגלה שהשאלה של בני אדם שחיים בחיים מבינה מלאכותית נראית חביבה יותר בעניינים הקוצניים האלה.

אוקיי, אני אשאל את זה שוב:

נראה שיש לך שתי תשובות פוטנציאליות, או שהברזל כן, בני אדם יחיו את הבינה המלאכותית, או שאתה יכול להיות בצד השני של המטבע ותתעקש בלהט שלא, בני אדם לא יחיו את הבינה המלאכותית. לפיכך, השאלה הנעלה והחרדה הזו מסתכמת בעיבוד פשוט של כן או לא.

תעשה את הבחירה שלך.

אני מבין שהתשובה הזעומה היא שלא כן ולא לא ישים.

אני שומע אותך.

בעוד שהשאלה בהחלט נראית ניתנת לתשובה בצורה בינארית מובהקת, כלומר רק כן או לא, אודה לך שניתן להעלות טענה נגדית באופן הגיוני שהתשובה היא משהו אחר.

הבה נחקור בקצרה חלק מהבסיס לאי רצון לומר רק כן או לא לשאלה זו.

ראשית, אתה עשוי לדחות את המילה "לאורך חיים" בהקשר של השאלה שהועלתה.

הניסוח המסוים הזה אולי מרמז שה-AI חי. השאלה לא אמרה "לאורך זמן" ובמקום זאת היא שואלת האם בני אדם יחיו בחיים בינה מלאכותית. האם תוחלת החיים חלה רק על החלק האנושי של השאלה, או שהיא חלה גם על החלק ה-AI של השאלה? יש שינסו לטעון שההילה שנמשכה זמן רב חלה גם על מנת הבינה המלאכותית. במקרה כזה, הם היו סובלים מצרבת באומרם שבינה מלאכותית היא יצור חי. עבורם, בינה מלאכותית עומדת להיות דומה לבניינים גבוהים ומבנים אחרים. זה לא חי באותו אופן דיבור שבני אדם חיים.

אם כן, בנקודת המבט הנגדית הנלהבת הזו, השאלה מנוסחת בצורה שגויה.

ייתכן שאתה מכיר במעורפל שאלות שיש להן הנחות שווא או מטעות. אחת הדוגמאות המפורסמות ביותר היא האם מישהו הולך להפסיק להכות את אשתו (אמרה ישנה שכמובן צריך לשים בצד). בדוגמה הידועה לשמצה ההיא, אם תינתן התשובה של כן, המשמעות היא שהאדם כבר עשה זאת. אם הם אומרים לא, המשמעות היא שהם היו וממשיכים לעשות זאת.

במקרה של שואלים אם בני אדם יחיו בחיים בינה מלאכותית, אנו יכולים בסופו של דבר להיקבר בבטן בשאלה האם בינה מלאכותית נחשבת לפן חי. כפי שאסביר לרגע, אין לנו היום בינה מלאכותית שהיא חושית. אני חושב שרוב האנשים הסבירים יסכימו שבינה מלאכותית שאינה תודעתית איננה יצור חי (טוב, לא כולם מסכימים, אבל אני אקבע זאת לעת עתה - ראה את הסיקור שלי על אישיות משפטית עבור AI ב- הקישור כאן).

התמצית של הבסיס הראשון הזה לאי תשובה לשאלה האם בני אדם יחיו בחיים בינה מלאכותית היא שניתן לפרש את המילה "ארוך בחיים" כך שהיא מרמזת שבינה מלאכותית חיה. עדיין אין לנו AI מסוג זה. אם אנחנו מייצרים או איכשהו יש לנו בינה מלאכותית שמתעוררת, יהיה לך קשה לטעון שהוא לא חי (אם כי יש שינסו לטעון טיעון כזה). אז המפתח כאן הוא שהשאלה מציגה משהו שלא קיים ואנחנו רק משערים לגבי עתיד לא ידוע ומעורפל למראה.

אנחנו יכולים לקחת את הבלגן הזה ולבקש להרחיב אותו לביטוי אקספרסיבי יותר. נניח שאנו שואלים זאת במקום זאת:

• האם בני אדם כיצורים חיים ימשיכו להתגבר על בינה מלאכותית שהיא (1) לא חיה, או (2) ישות חיה אם זה יקרה מתישהו?

זכור את הנוסח המורחב הזה ובקרוב נחזור אליו.

בסיס שני לאי רצון לענות על השאלה המקורית שהוצגה האם בני אדם יחזיקו מעמד בחיים בינה מלאכותית הוא שהוא מניח מראש שאחד הדברים יחיה את אחד הדברים האחרים. אבל נניח ששניהם חיים לנצח בעצם? או נניח ששניהם פוקעים או יוצאים מקיימים בו זמנית?

אני בטוח שאתה יכול להבחין בקלות איך זה גורם לניסוח כן או לא להתפרק.

נראה שאנחנו צריכים תשובה שלישית אפשרית המורכבת מ"אף אחד" או תגובה דומה.

יש שלל תמורות הקשורות ל"שניהם". לדוגמה, אם מישהו מאמין שבני אדם ישמידו את עצמם באמצעות בינה מלאכותית, ובמקביל בני אדם מצליחים להרוס את ה-AI, המאמין הזה לא יכול לענות בכנות על השאלה מי יצליח להאריך ימים יותר מהאחר בתשובה לא גמישה של כן או לא. התשובה, במקרה המלוכלך והעצוב הזה, תהיה יותר בכיוון שאף אחד מהם לא יחיה את השני.

אותו הדבר יהיה נכון אם מטאור ענק יפגע בכדור הארץ וימחק כל דבר על הפלנטה, כולל בני אדם וכל בינה מלאכותית שנמצאת בסביבה (בהנחה שכולנו מוגבלים לכדור הארץ ולא חיים כבר בנוסף על מאדים). שוב, התשובה של "אף אחד" נראית יותר מתאימה מאשר להציע שבני האדם האריכו את ה-AI או שה-AI האריך את בני האדם (שכן שניהם הושמדו בו זמנית).

אני לא רוצה ללכת רחוק מדי כאן, אבל אולי נרצה לקבוע כמה פרמטרים לגבי העיתוי של ההישארות. נניח שמטאור פוגע בכדור הארץ ובני אדם נמחקים כמעט מיד. בינתיים, נניח שה-AI ממשיך לזמן מה. תחשוב על זה כאילו יש לנו כבר מכונות פעילות במפעלים שממשיכה לזמזם עד שבסופו של דבר, המכונות נעצרות כי אין בני אדם ששומרים על המכונות במצב פועל.

תצטרכו לומר שבני אדם ארכו או האריכו ימים על ידי המכונות הללו. לכן, התשובה היא "לא" לגבי האם בני אדם שרדו זמן רב יותר. התשובה הזו נראית מעורפלת. המכונות נעצרו בהדרגה ובלתי נמנעת, ככל הנראה בשל היעדר המין האנושי סביבן. האם זה נראה הוגן לטעון שהמכונות היו מסוגלות להחזיק מעמד זמן רב יותר מבני האדם?

בטח רק לאלה שהם קפדניים ותמיד רוצים לדייק בצורה מעצבנת.

לאחר מכן נוכל להוסיף איזשהו אלמנט הקשור לזמן לשאלה. האם בני אדם יחיו יותר מיום בינה מלאכותית? ליותר מחודש? ליותר משנה? במשך יותר ממאה שנה? אני מבין שזה למרבה הצער פותח את תיבת פנדורה.

מהי מסגרת הזמן הנעימה שמעבר לה נהיה מוכנים להודות שה-AI אכן האריך ימים או האריך ימים יותר מבני אדם? נראה שהתשובה המדויקת היא שגם אם זה קורה לננו-שנייה (מיליארדית השנייה) או קצר יותר, הבינה המלאכותית מנצחת בסופו של דבר ובני האדם מפסידים בעניין הזה. מתן אפשרות לקווי רוחב באמצעות יום או שבוע או חודש עשוי להיראות הוגן יותר, אולי. לתת לזה להימשך שנים או מאות שנים נראה כמו הנחה אפשרית. עם זאת, אם אתה מסתכל על העולם בקנה מידה של מיליוני שנים, הרעיון של בינה מלאכותית שחי יותר מבני אדם או מחזיק מעמד במשך לא יותר מכמה מאות שנים נראה לא מרשים במיוחד ואנחנו עשויים להכריז ששניהם יצאו מקיומה בערך באותו זמן (על בסיס מעוגל).

בכל מקרה, בואו נודה שממגוון סיבות סבירות למדי, לשאלה שהועלתה מותר להכיל שלוש תשובות אפשריות:

• כן, בני אדם יחיו בחיים בינה מלאכותית
• לא, ובכך טוענים שבני אדם יעשו זאת לֹא לחיות בחיים AI
• לא כן ולא לא ישים (דרוש הסבר, אם תרצה)

אני מזכיר שאם אתה בוחר ב"אף אחד" אתה צריך לספק גם הסבר לתשובתך. זאת על מנת שנוכל לדעת מדוע אתה מאמין ש"אף אחד מהם" אינו ישים וגם מדוע אתה דוחה את השימוש ב-כן או לא. כדי להפוך את החיים להוגנים יותר עבור כולם, אני מניח שעלינו להתעקש במידת מה או לפחות לעודד שגם אם תענה בכן או לא, אתה עדיין צריך להציע הסבר. מתן תשובה פשוטה של ​​כן או לא לא מגלה במיוחד את ההיגיון שלך מדוע אתה עונה כמו שאתה. מבלי לספק גם הסבר, נוכל גם להטיל מטבע. המטבע לא יודע למה הוא נחת על ראשים או זנבות (אלא אם כן אתה מאמין שלמטבע יש נשמה או מגלם איזו יד גורלית כל כך, אבל לא נלך עם זה בינתיים).

אנו מצפים מבני אדם שעונים על שאלות לספק איזשהו הסבר להחלטות שלהם. שימו לב שאני לא אומר שההסברים יהיו בהכרח בעלי אופי הגיוני או הגיוני, ואכן הסבר יכול להיות ריק לחלוטין ולא להוסיף ערך מיוחד. אף על פי כן, אנו יכולים לקוות בכנות שהסבר יהיה מאיר עיניים.

במהלך הדיון הזה, הייתה הנחה לא מוצהרת שמסיבה כזו או אחרת אחד מהדברים הללו אכן יחיה את השני.

מדוע עלינו להאמין למצב מרומז שכזה?

התשובה לשאלה המשנית הזו כמעט מובנת מאליה.

הנה העסקה.

אנו יודעים שכמה מגידי עתידות ואינטלקטואלים בולטים העלו תחזיות נועזות ומפושטות למדי לגבי האופן שבו הופעתה או הגעתו של בינה מלאכותית חיה עומדת לשנות באופן קיצוני את העולם כפי שאנו מכירים אותו היום (להזכירך, אין לנו בינה מלאכותית חיה היום) .

הנה כמה ציטוטים מפורסמים שדווחו שמדגישים את ההשפעות שמשנות חיים של AI חיוני:

• סטיבן הוקינג: "ההצלחה ביצירת בינה מלאכותית תהיה האירוע הגדול ביותר בהיסטוריה האנושית."
• ריי קורצווייל: "תוך כמה עשורים, אינטליגנציה מכונות תעלה על האינטליגנציה האנושית, מה שיוביל ל-The Singularity - שינוי טכנולוגי כה מהיר ועמוק שהוא מייצג שבר במרקם ההיסטוריה האנושית."
• ניק בוסטרום: "אינטליגנציה של מכונה היא ההמצאה האחרונה שהאנושות תצטרך אי פעם לעשות."

הטענות הללו אופטימיות בשקיפות.

העניין הוא שאנחנו צריכים לשקול גם את הבטן המכוערת כשמדובר בהתמודדות עם AI חיוני:

• סטיבן הוקינג: "הפיתוח של בינה מלאכותית מלאה יכול לאיית את סופו של המין האנושי."
• אילון מאסק: "אני יותר ויותר נוטה לחשוב שצריך להיות פיקוח רגולטורי כלשהו, ​​אולי ברמה הלאומית והבינלאומית, רק כדי לוודא שאנחנו לא עושים משהו מאוד טיפשי. כלומר עם בינה מלאכותית אנחנו מזמנים את השד".

בינה מלאכותית חשה צפויה להיות הנמר הפתגמי שתפסנו בזנב. האם נקניק את האנושות קדימה באמצעות מינוף AI חיוני? או שבאופן טיפשי ניצור את המוות שלנו על ידי AI חיוני שבוחר להרוס או לשעבד אותנו? לניתוח שלי של חידת AI דו-שימושית זו, ראה הקישור כאן.

הטיעון הבסיסי לגבי השאלה אם בני אדם יחיו בחיים בינה מלאכותית היא שאולי אנו מייצרים פרנקנשטיין שבוחר לחסל את האנושות. בינה מלאכותית הופכת למנצחת. יש הרבה סיבות אפשריות לכך שבינה מלאכותית תעשה לנו את זה. אולי הבינה המלאכותית היא רעה ופועלת בהתאם. אולי בינה מלאכותית נמאסה מבני אדם ומבין שיש לה את הכוח להיפטר מהמין האנושי. אפשר להניח שזה יכול להתרחש גם בטעות. ה-AI מנסה להציל את האנושות ובתוך כך, אופס, הורג את כולנו על הסף. לפחות המניע היה נקי.

אולי תמצא לעניין רלוונטי חידת בינה מלאכותית מפורסמת המכונה בעיית מהדק הנייר, שעליה כיסיתי הקישור כאן.

בקיצור, מתישהו מתבקש בינה מלאכותית חיה ליצור אטבים. AI מקובע לזה. כדי להבטיח שיצירת מהדק הנייר תתבצע במלואה עד לרמה האולטימטיבית, הבינה המלאכותית מתחילה לזלול את כל המשאבים הפלנטריים האחרים כדי לעשות זאת. זה מוביל לפטירתה של האנושות מכיוון שה-AI צרכה את כל המשאבים הזמינים עבור המטרה היחידה שניתנה לה על ידי בני אדם. מהדקים גורמים להרס שלנו אם תרצו. בינה מלאכותית שמתוכננת בצורה מצומצמת וחסרת כל מראית עין של שכל ישר היא סוג הבינה המלאכותית שאנו צריכים לחשוש ממנה במיוחד.

לפני שנקפוץ הלאה לשאלה האם בני אדם יחיו בחיים בינה מלאכותית, שימו לב שאני ממשיך להעלות את העניין של בינה מלאכותית חיה לעומת בינה מלאכותית לא. אני עושה זאת מסיבות חשובות.

אנחנו יכולים להעלות השערות בפראות לגבי AI חיוני. אף אחד לא יודע בוודאות מה זה יהיה. אף אחד לא יכול לומר בוודאות אם מתישהו נשיג AI חיוני. כתוצאה מנסיבות לא ידועות ועדיין בלתי ידועות, ניתן להסיק כמעט כל סוג של תרחיש. מישהו יכול לומר שבינה מלאכותית חיונית תהיה רעה. מישהו יכול לומר שבינה מלאכותית תחושות תהיה טובה ומיטיבה. אתה יכול להמשיך עוד ועוד, לפיו לא ניתן לספק "הוכחה" שתחזק את הקביעה הנתונה לכל ודאות או הבטחה.

זה מביא אותנו לתחום האתיקה של AI.

כל זה קשור גם לחששות המתעוררים באופן מפוכח לגבי הבינה המלאכותית של היום, ובמיוחד השימוש ב- Machine Learning (ML) ו-Deep Learning (DL). אתה מבין, ישנם שימושים ב-ML/DL הנוטים לכרוך באנתרופומורפיזציה של הבינה המלאכותית על ידי הציבור הרחב, מתוך אמונה או בחירה להניח שה-ML/DL הוא בינה מלאכותית או קרובה אליו (לא כך).

זה עשוי להיות שימושי קודם כל להבהיר למה אני מתכוון כשמתייחסים ל-AI באופן כללי וגם לספק סקירה קצרה של למידת מכונה ולמידה עמוקה. יש הרבה מאוד בלבול לגבי המשמעות של בינה מלאכותית. אני גם רוצה להציג בפניכם את מצוות האתיקה של AI, שיהיו חלק בלתי נפרד במיוחד בהמשך השיח הזה.

ציון הרשומה על AI

בואו נוודא שאנחנו באותו עמוד לגבי אופי ה-AI של היום.

אין כיום AI שהוא בעל רגישות.

אין לנו את זה.

אנחנו לא יודעים אם AI חיוני יהיה אפשרי. אף אחד לא יכול לנבא בצורה הולמת אם נשיג בינה מלאכותית חיה, וגם לא אם בינה מלאכותית חיה תתעורר באופן ספונטני בדרך כלשהי בצורה של סופרנובה קוגניטיבית חישובית (המכונה בדרך כלל הסינגולריות, ראה סיקור שלי ב- הקישור כאן).

הבינו שבינה מלאכותית של היום אינה מסוגלת "לחשוב" בשום צורה בהשוואה לחשיבה האנושית. כאשר אתה מקיים אינטראקציה עם אלקסה או סירי, יכולות השיחה עשויות להיראות דומות ליכולות האנושיות, אבל המציאות היא שהיא חישובית וחסרת הכרה אנושית. העידן האחרון של AI עשה שימוש נרחב ב- Machine Learning וב-Deep Learning, הממנפים התאמת דפוסים חישוביים. זה הוביל למערכות בינה מלאכותית שיש להן מראה של נטיות דמויות אדם. בינתיים, אין היום בינה מלאכותית שיש לה מראית עין של שכל ישר, וגם אין שום תמיהה קוגניטיבית של חשיבה אנושית איתנה.

חלק מהנושא הוא הנטייה שלנו לאנתרופומורפיזציה של מחשבים ובעיקר AI. כשנדמה שמערכת מחשב או AI פועלים בדרכים שאנו מקשרים להתנהגות אנושית, ישנו דחף כמעט מוחץ לייחס למערכת תכונות אנושיות. זוהי מלכודת נפשית נפוצה שיכולה לתפוס אפילו את הספקן הבלתי מתכוון לגבי הסיכויים להגיע לגזרה. לניתוח מפורט שלי של עניינים כאלה, ראה הקישור כאן.

במידה מסוימת, זו הסיבה שהאתיקה של AI ובינה מלאכותית אתית היא נושא כה מכריע.

מצוות האתיקה של AI גורמות לנו להישאר ערניים. טכנולוגים בינה מלאכותית יכולים לפעמים להתעסק בטכנולוגיה, במיוחד באופטימיזציה של ההייטק. הם לא בהכרח שוקלים את ההשלכות החברתיות הגדולות יותר. קיום חשיבה של אתיקה בינה מלאכותית ועושה זאת באופן אינטגרלי לפיתוח ותחום בינה מלאכותית היא חיונית להפקת בינה מלאכותית מתאימה, כולל ההערכה של האופן שבו אתיקה של בינה מלאכותית מאומצת על ידי חברות.

מלבד שימוש במצוות האתיקה של בינה מלאכותית באופן כללי, ישנה שאלה מקבילה האם צריכים להיות לנו חוקים שישלטו על שימושים שונים בבינה מלאכותית. חוקים חדשים מתגבשים ברמה הפדרלית, המדינתית והמקומית הנוגעים לטווח והטבע של האופן שבו יש לתכנן AI. המאמץ לנסח ולחוקק חוקים כאלה הוא הדרגתי. אתיקה של בינה מלאכותית משמשת כפסקה נחשבת, לכל הפחות, וכמעט בוודאות תשולב במידה מסוימת ישירות באותם חוקים חדשים.

שים לב שיש הטוענים נחרצות שאיננו זקוקים לחוקים חדשים המכסים בינה מלאכותית וכי החוקים הקיימים שלנו מספיקים. הם מזהירים מראש שאם נחוקק חלק מחוקי הבינה המלאכותית האלה, נהרוג את אווז הזהב על ידי פגיעה בהתקדמות בבינה מלאכותית שמעניקה יתרונות חברתיים עצומים.

בטורים קודמים, כיסיתי את המאמצים הלאומיים והבינלאומיים השונים ליצור ולחוקק חוקים המסדירים בינה מלאכותית, ראה הקישור כאן, לדוגמה. כיסיתי גם את העקרונות וההנחיות השונות של AI אתיקה שאומות שונות זיהו ואימצו, כולל למשל את המאמץ של האומות המאוחדות כגון קבוצת האתיקה של AI של אונסק"ו שכמעט 200 מדינות אימצו, ראה הקישור כאן.

הנה רשימה מועילה של אבן מפתח של קריטריונים או מאפיינים אתיים של בינה מלאכותית לגבי מערכות בינה מלאכותית שחקרתי מקרוב בעבר:

• שקיפות
• צדק והגינות
• אי זדון
• אַחֲרָיוּת
• פרטיות
• תועלת
• חופש ואוטונומיה
• סומך
• קיימות
• כָּבוֹד
• סולידריות

עקרונות האתיקה של בינה מלאכותית אמורים להיות מנוצלים על ידי מפתחי בינה מלאכותית, יחד עם אלה שמנהלים את מאמצי פיתוח בינה מלאכותית, ואפילו אלו שבסופו של דבר מתמחים ומבצעים תחזוקה במערכות בינה מלאכותית. כל בעלי העניין לאורך כל מחזור החיים של הפיתוח והשימוש בבינה מלאכותית נחשבים במסגרת של ציות לנורמות הקיימות של בינה מלאכותית אתית. זהו גולת הכותרת חשובה מכיוון שההנחה הרגילה היא ש"רק קודנים" או אלו שמתכנתים את ה-AI כפופים לעמידה במושגי האתיקה של AI. כפי שהודגש כאן קודם לכן, נדרש כפר כדי לתכנן ולהשיג בינה מלאכותית, ועבורו על כל הכפר להיות בקיא ולציית למצוות האתיקה של בינה מלאכותית.

בואו נשאיר את העניינים על הקרקע ונתמקד ב-AI החישובי הלא-רגיש של היום.

ML/DL הוא סוג של התאמת דפוסים חישוביים. הגישה הרגילה היא שאתה אוסף נתונים על משימת קבלת החלטות. אתה מזין את הנתונים לדגמי המחשב ML/DL. מודלים אלה מבקשים למצוא דפוסים מתמטיים. לאחר מציאת דפוסים כאלה, אם כן, מערכת הבינה המלאכותית תשתמש בדפוסים הללו כאשר היא נתקלת בנתונים חדשים. עם הצגת נתונים חדשים, הדפוסים המבוססים על הנתונים ה"ישנים" או ההיסטוריים מיושמים כדי לתת החלטה עדכנית.

אני חושב שאתה יכול לנחש לאן זה מוביל. אם בני אדם שקיבלו את ההחלטות לפי הדפוס שילבו הטיות לא רצויות, רוב הסיכויים שהנתונים משקפים זאת בדרכים עדינות אך משמעותיות. התאמת דפוסים חישוביים של Machine Learning או Deep Learning פשוט ינסו לחקות מתמטית את הנתונים בהתאם. אין מראית עין של שכל ישר או היבטים רגישים אחרים של דוגמנות שנוצרו בינה מלאכותית כשלעצמה.

יתר על כן, ייתכן שגם מפתחי ה-AI לא יבינו מה קורה. המתמטיקה האפלולית ב-ML/DL עשויה להקשות על שחרור ההטיות הנסתרות כעת. בצדק היית מקווה ומצפה שמפתחי הבינה המלאכותית יבחנו את ההטיות שעלולות להיות קבורות, אם כי זה מסובך יותר ממה שזה נראה. קיים סיכוי מוצק שאפילו עם בדיקות מקיפות יחסית שיהיו הטיות עדיין מוטמעות בתוך המודלים של התאמת הדפוסים של ה-ML/DL.

אתה יכול להשתמש במקצת באימרה המפורסמת או הידועה לשמצה של זבל-אין אשפה החוצה. העניין הוא שזה דומה יותר להטיות שמתקבלות בצורה ערמומית כשהטיות שקועות בתוך הבינה המלאכותית. קבלת ההחלטות באלגוריתם (ADM) של בינה מלאכותית הופכת בצורה אקסיומטית עמוסה באי-שוויון.

לא טוב.

אני מאמין שכעת הכנתי את הבמה כראוי לבחון עוד יותר האם בני אדם יחזיקו מעמד לאחר AI.

בני אדם ובינה מלאכותית הם חברים, אויבים או אויבים

הכרזתי קודם לכן שכל תשובה לשאלה האם בני אדם יחיו בחיים בינה מלאכותית צריכה להיות מלווה בהסבר.

נסתכל על יש תשובה. אני אספק רשימה קצרה של הסברים. אתה מוזמן לאמץ כל אחד מההסברים האלה. מעודדים אותך גם לגזור הסברים אחרים, שאפשר להעלות על הדעת הרבה מהם.

כן, בני אדם יחיו בחיים בינה מלאכותית כי:

• בני אדם כיוצרים: בני אדם הם היוצרים והמחזקים של בינה מלאכותית, כך שללא בני אדם אז הבינה המלאכותית תפסיק לפעול או להתקיים
• רוח האדם המולדת: לבני אדם יש רוח בלתי ניתנת לשליטה כלפי חיים בעוד שבינה מלאכותית לא, כך שבני אדם ישרדו בדרך זו או אחרת, אך בינה מלאכותית ללא ספק תיפול בצד עקב היעדר חיזוק מולד להישרדות
• בני אדם כמנצחים: בני אדם לא יתנו לבינה מלאכותית להאריך ימים יותר מבני אדם בכך שבני אדם יבחרו לנצח לחלוטין את הבינה המלאכותית אם בני האדם היו בסכנה על ידי בינה מלאכותית או ייכחדו בדרך אחרת
• אחר

נסתכל על התשובה לא (לא כן). אני אספק רשימה קצרה של הסברים. אתה מוזמן לאמץ כל אחד מההסברים האלה. מעודדים אותך גם לגזור הסברים אחרים, שאפשר להעלות על הדעת הרבה מהם.

בני אדם לא יחיו בינה מלאכותית בגלל:

• בינה מלאכותית מסוגלת להתמיד בעצמה: גם אם בני אדם הם היוצרים והתחזקים של בינה מלאכותית, הבינה המלאכותית תתכנת או תיוכנן על ידי בני אדם כדי להתמיד בהיעדר בני אדם או שה-AI ימצא את אמצעי ההתמדה שלה (אולי מבלי שבני האדם יבינו זאת)
• רוח מלאכותית בינה מלאכותית: גם אם לבני אדם יש רוח בלתי ניתנת לשליטה כלפי חיים, אנו יודעים שגם לבני אדם יש רוח של הרס עצמי; בכל מקרה, ניתן לתכנת את הבינה המלאכותית עם רוח מלאכותית, אם תרצו, כך שה-AI מבקש לשרוד ו/או הבינה המלאכותית תראה מראית עין של התחדשות מולדת בתנאים שלה.
• AI מנצח מנצחים: גם אם בני אדם לא רוצים לתת לבינה מלאכותית להאריך ימים יותר מבני אדם, בינה מלאכותית עשויה להיות מתוכנתת לתמרן את מאמצי ההשתלטות האנושית או עשויה להפיק מעצמה כיצד לעשות זאת (ואולי אולי תבחר להביס בני אדם בהתאם, או לא)
• אחר

אנו מחויבים באותה מידה להעיף מבט ב"אף אחד" (לא יש, לא לא) תשובה. אני אספק רשימה קצרה של הסברים. אתה מוזמן לאמץ כל אחד מההסברים האלה. מעודדים אותך גם לגזור הסברים אחרים, שאפשר להעלות על הדעת הרבה מהם.

בני אדם אינם חיים יותר מבינה מלאכותית ובינתיים, בינה מלאכותית אינה מחזיקה מעמד בבני אדם, בגלל:

• בני אדם ובינה מלאכותית קיימים בלבביות לנצח: מסתבר שבני אדם ובינה מלאכותית נועדו להיות אחד עם השני, לנצח. אולי יהיו מהמורות בדרך. החדשות הטובות או הפנים המאושרות הן שכולנו מסתדרים.
• בני אדם ובינה מלאכותית קיימים בשנאה לנצח: וואו, בני אדם ובינה מלאכותית באים לשנוא זה את זה. תרחיש פנים עצוב. העניין הוא שיש קיפאון בפתח. AI לא יכול לגבור על בני אדם. בני אדם לא יכולים לגבור על AI. משיכת חבל של מצב נצחי.
• בני אדם ובינה מלאכותית הורסים זה את זה: שני כבדי משקל בסופו של דבר מפילים אחד את השני מהזירה ומחוץ מהעולם הזה. בני אדם מנצחים על בינה מלאכותית, אבל הבינה המלאכותית הצליחה לגבור גם על בני אדם (אולי הגדרת יום הדין)
• בני אדם ובינה מלאכותית נמחקים בגלל דרישה כלשהי: בני אדם ובינה מלאכותית נמחקים על ידי מטאור פוגע או אולי חייזר מכוכב אחר שמחליט שזה אסור בהחלט לבני אדם ובינה מלאכותית שמקורה במין האנושי (אפילו לא מעוניין לגנוב מאיתנו את הבינה המלאכותית המדהימה שלנו)
• אחר

ישנן כמה מהסיבות הנפוצות ביותר לתשובות של כן, לא וגם לא לשאלה האם בני אדם יחיו בחיים בינה מלאכותית.

סיכום

אתה אולי זוכר שקודם לכן הצעתי את הגרסה המורחבת הזו של שאלת בני האדם שחיים על AI:

• האם בני אדם כיצורים חיים ימשיכו להתגבר על בינה מלאכותית שהיא (1) לא חיה, או (2) ישות חיה אם זה יקרה מתישהו?

התשובות שהוזכרו לעיל מתמקדות בדרך כלל בחלק האחרון של השאלה, כלומר הנסיבות המערבות בינה מלאכותית מזן חיוני. כבר ציינתי שזה ספקולטיבי מאוד מכיוון שאיננו יודעים אם AI חיוני עומד להתרחש. יש שיטענו שכמקרה רק במקרה, אנו נבונים בצדק לשקול מראש מה עלול להתעורר.

אם זה נראה לך מאוד לא מציאותי, אני מזדהה שכל זה די היפותטי ומלא בהנחות על גבי הנחות. זו חבית מלאה בהנחות. תצטרך לברר את הערך שאתה חושב שמאמצים ספקולטיביים כאלה מספקים.

אם נגיע יותר לנקודות הפליז, כביכול, נוכל לשקול את הסוג הלא-חי או הלא-רגיש של AI.

קצר את השאלה לזה:

• האם בני אדם יחיו בחיים את הבינה המלאכותית הלא חיה הלא חיה?

תאמינו או לא, זו שאלה ראויה מבחינה מהותית.

אולי אינך בטוח מדוע הבינה המלאכותית הלא-חיה הזו, שאינה חיה, יכולה להיות בכל מקום במגרש הכדורים של היכולת איכשהו להאריך ימים יותר מהמין האנושי.

קחו בחשבון את המצב הכרוך במערכות נשק אוטונומיות, בו דיברתי הקישור כאן. אנחנו כבר רואים שמערכות נשק חמושים ב-AI, מה שמאפשר לנשק לעבוד באופן אוטונומי במידה מסוימת. בינה מלאכותית שאינה חיה זו אינה חיה, אין לה מראית עין של חשיבה, אין מראית עין של שכל ישר וכו'.

דמיינו את אחד מהמצבים האפוקליפטיים האלה. כמה מדינות החדירו את הבינה המלאכותית הזו בקליבר נמוך לנשק ההשמדה המונית שלהן. בשוגג (או, מתוך כוונה), מערכות הנשק האוטונומיות הללו המופעלות על ידי בינה מלאכותית משוגרות או משוחררות. אין מספיק בטיחות כשל כדי לעצור אותם. המין האנושי מושמד.

האם ה-AI יחזיק מעמד יותר מבני אדם בתרחיש כזה?

ראשית, אולי לא אכפת לך במיוחד. במילים אחרות, אם כל האנושות נמחקה, דאגה או אכפתיות אם הבינה המלאכותית עדיין מזמזמת נראית קצת כמו להזיז את כיסאות הנוח האלה על הטיטאניק. האם זה משנה שה-AI עדיין פועל?

דבק עשוי לטעון שזה עדיין משנה. בסדר, אנחנו נבדר את המדבקה. ייתכן שה-AI פועל בעצמו באמצעות פאנלים סולאריים וצורות אחרות של אנרגיה שיכולות להמשיך לתדלק את המכונות. ייתכן שהמצאנו גם מערכות בינה מלאכותיות שמתקנות ותחזקות מערכות בינה מלאכותיות אחרות. שימו לב שזה לא מצריך AI חיוני.

בסך הכל, אתה יכול להעלות תרחיש שבו פג תוקפו של המין האנושי וה-AI עדיין עובד. אולי הבינה המלאכותית ממשיכה לפעול רק לפרק זמן קצר. אף על פי כן, לפי הדיון הקודם על דיוק מדוייק בדאגות תזמון, AI למעשה החזיק מעמד זמן מה בבני אדם (לזמן מה).

מחשבה אחרונה על הנושא הזה, לעת עתה.

הדיון בשאלה אם בני אדם יחיו בחיים בינה מלאכותית חיה הוא כמעט כמו כפית הסוכר הפתגמית (איך זה יכול להיות, אתם בטח תוהים, ובכן, תחזיקו את הכובע ואני אספר לכם).

אתה מבין, אנחנו בהחלט צריכים להכניס לראש שלנו שלבינה מלאכותית שאינה חשה יש גם פוטנציאל אדיר וכבד להשתתף במחיית האנושות ולנצח אותנו. לא במיוחד בגלל שה-AI "רצה להחזיק מעמד אותנו" אלא פשוט בידינו ביצירת בינה מלאכותית שאינה זקוקה להתערבות אנושית כדי להמשיך לתפקד. יש שיטענו בתוקף שבינה מלאכותית שמתוכננת להיות נצחית במידת מה יכולה להוות השפעה מערערת יציבות שעלולה לגרום לכמה בני אדם לרצות לעשות צעד ראשון בהשמדת בני אדם אחרים, ראה את ההסבר שלי ב- הקישור כאן.

החלק של בני אדם שנותרו בחיים אינו עיקרי מדוע השאלה ראויה לחשיבות כזו כיום. במקום זאת, הזרם התת-קרקעי הנסתר לגבי האופן שבו אנו יוצרים את הבינה המלאכותית של היום וכיצד אנו מכניסים את הבינה המלאכותית לשימוש הוא הבועט האמיתי כאן. אנחנו צריכים לחשוב בשפע על ההשלכות האתיקה של AI ועל ההשפעות החברתיות של AI של ימינו.

אם השאלה המעט מטופשת לגבי האם בני אדם יחזיקו מעמד בחיים בינה מלאכותית תעלה על השולחן את נושאי הכאן ועכשיו של בינה מלאכותית עכשווית, מצבנו יהיה טוב יותר. לפי שיקול זה, היבטי הבינה המלאכותית החושים של בני אדם שחיים בחיים מבינה מלאכותית היא כפית הסוכר שבתקווה מורידה את התרופה לגבי התמודדות עם הבינה המלאכותית כאן ועכשיו.

רק כף סוכר עוזרת לתרופה לרדת, לפעמים. ובדרכים המענגות ביותר. או לפחות בצורה מרתקת שמושכת את תשומת הלב שלנו ומשאירה אותנו מרותקים למה שאנחנו צריכים לדאוג לגביו.

כפי שאומרת עוד, כמו רובין שנוצות את הקן שלו, יש לנו מעט מאוד זמן לנוח.