אתיקה של בינה מלאכותית וההאבקות הגיאופוליטית על מי ינצח במירוץ להשגת בינה מלאכותית אמיתית

העולם נמצא במרוץ מטורף.

מעצמות גיאופוליטיות טוענות שהמנצח ייקח הביתה את כל הבייקון, כביכול.

איזה גזע מתנהל בחירוף נפש ונרדף במרץ?

זה מרוץ AI.

אפשר אולי יותר להתייחס לזה בתור המירוץ להשגה נָכוֹן בינה מלאכותית (AI), המכונה כיום באופן מלא יותר בינה כללית מלאכותית (AGI). אנחנו רוצים איכשהו להגיע לבינה מלאכותית לכאורה, או הידועה בשם AGI, הדומה לאינטליגנציה האנושית. אנחנו עוד לא שם. ואכן, למרות כל מיני כותרות פרועות וחוצפה, אנחנו לא יודעים מתי או אם נשיג את הרף הגבוה הזה. ה-AI של היום הוא הרבה פחות ביכולות מאשר אינטליגנציה אנושית כוללת, אם כי בהחלט יש הרבה דרכים צרות יותר שבהן AI ביצעה גיחות מרשימות, כמו היכולת לשחק שחמט ברמה עולמית ברמה הגבוהה ביותר או לבצע משימות אחרות מוגבלות יחסית.

עם זאת, טבעת הזהב היא הופעתה של בינה מלאכותית המפגינה אינטליגנציה אנושית בעלת אופי אדוק ועומק הדומים לזה של המין האנושי. זהו הגביע הקדוש של חוקרים ומתרגלים בינה מלאכותית. מעת לעת, היו טענות מוזרות על כך שכבר חציתי את קו הסיום של מירוץ הבינה המלאכותית, מה שהפרכתי בטור שלי ב הקישור כאן. אלה שמנסים לעורר טענות על חציית קו הסיום מבלבלים את הציבור הרחב ולעתים עושים זאת בתמימות קנאית, בעוד שבפעמים אחרות יש בידם מניעים מפוקפקים. בסך הכל, זה מעלה שיקולים די משמעותיים וחיוניים באתיקה של AI. לסיקור המתמשך והנרחב שלי על אתיקה של בינה מלאכותית ובינה מלאכותית אתית, ראה הקישור כאן ו הקישור כאן, רק כדי שם כמה.

בכל מקרה, אין ספק שמרוץ ספרינט עולמי של AI מתנהל בשקיקה. יהיה לך קשה לטעון אחרת.

תחשוב על זה ככה. אם כבר הצלחנו להשיג בינה מלאכותית או AGI אמיתית, רוב הסיכויים שהמרוץ הרגלי של הבינה המלאכותית היה מוכרז באופן רשמי וגלובלי כמושלם בהצלחה. אני מבטיח לך שתשומת לב עולמית תהיה מושכת לפריצת דרך כה מהדהדת ומרעישה. היית יודע מזה. כולנו היינו. ה-AI מטורף dash למעשה כבר לא קיים יותר, אם כי אולי גרסה משנית עשויה להתרחש הכוללת את אלה שלא השיגו בינה מלאכותית אמיתית שעובדים בקדחתנות כדי להדביק את הפער. יש גם את העניין המטריד של איך בסופו של דבר נשלוט או ננהל את AGI אם או כשנגיע לשם.

אף אדם או ישות או אומה לא יכולים עדיין לתבוע כראוי את הכתר של ייצור AI או AGI אמיתיים.

בינתיים, מתרחשת כמות אדירה ובלתי פוסקת של לחיצת יד על איזו אומה (או עמים) עומדים בראש הלהקה ומי מזנק יותר מאחור. ההנחה היא שאם אתה לא ראשון, אתה תישאר בעפר. אתה תאכל את השאריות של הזוכים בבינה מלאכותית. אתה עלול להיות כפוף לנצח לאומה או לאומות שעושות את הקפיצה המבשרת לתוך AI או AGI אמיתיים.

כצידה קצרה וכדי להקל על הניסוח של הדיון הזה, אני הולך להשתמש מעתה ב"AGI" בכל פעם שאני רוצה להפעיל את ההילה של AI אמיתי. השימוש בביטוי קצת יותר חדש "AGI" צורם לפעמים לאלה שלא רגילים לראות אותו בשימוש. כולנו מכירים את "AI" וייתכן שתהיה מוטרד לראות את ראשי התיבות "AGI" בשימוש במקום זאת. הרשו לי להסביר מדוע זה מתגלה בהדרגה כמגמת מילולית.

חלק מהסיבה לכך ש-AGI עלתה בזירה של השפה הבינה המלאכותית היא שעצם הצהרה של "AI" הפכה כעת לביטוי מרוקן למרבה הצער. אף אחד לא יודע אם הבינה המלאכותית שאתה מזכיר היא גרסת הבינה המלאכותית שכמעט ולא קיימת או איזו עירוי בינה מלאכותית מתקדמת כמעט טובה יותר, או שהיא עשויה לרמוז לבינה מלאכותית עתידנית המתישהו המשווה לאדם. כדי להתמודד עם העומס של "AI" כביטוי תקיפה, הכינוי AGI זכה להעדפה על ידי אותם מקורבים בתחום ה-AI שרוצים לרמוז באופן ספציפי ובייחוד לבינה מלאכותית אמיתית.

אז, בקיצור, שקול את האזכור שלי של AGI זהה לאמירת "AI אמיתי" בקליבר החזק הדומה לאינטליגנציה אנושית, תודה.

בואו ניקח נשימה עמוקה בזהירות ונבחן בתשומת לב כמה היבטים של המירוץ להשגת AGI. יש אפילו מטא-היבט שצריך להצהיר קודם. שימו לב שיש קצת צרבת מצמררת בשימוש באלגוריה של מרוץ רגלי כביכול או סוג אחר של פעילות מירוצים כמטאפורה למירוץ AGI. למה ככה? אני אספר לכם לרגע על הסיבוכים והמורכבות של הסיבה (יש האומרים) שמסלול רגליים או המקביל לו הוא מטעה לחלוטין ונקודת מבט ערמומית.

להלן נקודות המפתח שעליהן אעבור איתך בשיח זה:

• אם זה מרוץ, קו הסיום של AGI נראה די לא מוגדר
• מרוץ AGI עשוי להגיע לאדם, ישות או אומה
• מדדים וכיצד משווים מדינות במירוץ AGI
• תמרון גיאופוליטי ויישור למירוץ AGI
• חוקי AI בינלאומיים ואתיקה של AI כשופטים במירוץ AGI

אולי תרצו לחגור את חגורת הבטיחות בזמן שאני בוחן את מרוץ הרגליים של AGI המתקדם בדחיפות (כן, אני מעז לקרוא לזה מרוץ רגלי) שכמעט כולם נעים במהירות מסחררת ולכאורה מרקיעים שחקים קדימה במסע הבוער הזה. יש שיגידו שזהו מירוץ לשיפור האנושות, בעוד שאחרים מזהירים שהגזע עלול להוות אבדון מוחלט לכולנו.

ימים יגידו.

אם זה מרוץ, קו הסיום של AGI נראה די לא מוגדר

קו סיום הוא בדרך כלל תיחום די סופי. או שהגעת לקו הסיום או שלא. נראה שזה לא עושה לך הרבה טוב. תארו לעצמכם ריצת 400 מטר אולימפיאדה והאם תזכרו במיוחד או תזרוק שבחים על הרצים שכלל לא סיימו את המירוץ (מעולם לא חצו את קו הסיום). לא סביר.

האם נדע מתי הגענו ל-AGI כך שסביר להניח שהכל מוסכם שקו הסיום הושג?

יש חילוקי דעות חריפים לגבי התיחום של AGI.

לדוגמה, נניח שאנו מתכננים בינה מלאכותית שנראית מסוגלת לחלוטין להפגין אינטליגנציה אנושית, אך אין בה מראית עין של תחושה כשלעצמה (ראה הסיקור שלי לגבי הטיעונים על תחושת AI בכתובת הקישור כאן). הבינה המלאכותית מסוגלת מבחינה חישובית לחקות או לבצע אחרת כפי שעושה האינטליגנציה האנושית. עם זאת, אין ניצוץ של חיים או תחושה שאנו מקשרים עם בני אדם ויצורים חיים אחרים. האם AGI זה נחשב כהשגת המטרה שחשבנו שיש לנו?

יש שיטענו נגד זה שזה לא משנה אם תחושה כשלעצמה נראית עטופה ב-AGI הזה. כל עוד הוא יכול להפגין אינטליגנציה אנושית, שילוב החוש הוא משהו ממגוון שונה שאולי נרצה לראות או לא לראות. משפט במובן הזה של הדברים הוא תוספת.

אחרים טוענים בתוקף כי האמצעי היחיד להשגת אינטליגנציה אנושית ב-AGI יהיה לגלם אינטגרלי את הרגש. AGI וסנטינס נחשבים זהים, או שהם תערובת של התגלמות כפולה בלתי ניתנת להפרדה. כדי לקבל AGI, אתה חייב להיות בעל כושר, הם טוענים.

אם נניח בצד את הזווית הזו של הדיון, פרספקטיבה נוספת היא שאנחנו יכולים להשתמש במבחן טיורינג המפורסם כדי להעריך אם AGI הושגה. כיסיתי לעומק את מבחן טיורינג ב הקישור כאן. בקצרה, הרעיון מורכב מכך שאדם ישאל שאלות ל-AGI, ואם האדם אינו יכול להבחין בין התשובות שנוצרו על-ידי ה-AGI מאלו של המין האנושי, אז היינו מכריזים על ה-AGI כמי שמסוגל להפגין אינטליגנציה אנושית.

יש הרבה צרות או חסרונות הקשורים לעתים קרובות למבחן טיורינג.

נניח שהאדם שעושה את הבירורים עושה עבודה עלובה ולא מצליח לשאול שאלות חוקרות. דאגה אחת היא שרבים מהמודלים של שפה גדולה לכאורה (LLM) העוצמתיים של היום יכולים להחזיר לאדם את התוכן שעליו הוכשר ה-LLM (כלומר, טקסט ומדיה דיגיטלית שמקורם לעתים קרובות באמצעות גרידה בקנה מידה גדול של האינטרנט). ככזה, אדם נבחר במיוחד ששואל שאלות מסוג רגיל שכבר נענו וקיימות באינטרנט יכול להיות "לענות" על כולן בקלות על ידי ה-LLM, אבל זה ללא ספק לא בגלל התגלמות אינטליגנציה אנושית בקליבר AGI.

הרבה שאלות אחרות עולות. נניח שהאדם אינו מסוגל להבין את התשובות. או נניח שהאדם משלה את עצמו להאמין שהתשובות כולן מראות את האינטליגנציה האנושית. אפילו כיסיתי את הרעיון המרוטש של כמה שכל מה שאנחנו צריכים לעשות זה לשאול את ה-AI אם הוא AGI או שהוא מרגיש, מה שאני מבהיר שזו לא צורה משכנעת מאוד של הוכחת AGI. הקישור כאן.

לבסוף, כפי שחשב אחד נוסף, האם עלינו להגיע במלואו לקו הסיום כדי לשקול שהושג AGI?

ציינתי קודם שלרוב אנחנו שוכחים מאלה שלא מגיעים לקו הסיום. זה אולי לא דומה באופן הגיוני למירוץ AGI. אני מאמין שניתן להעלות טענה משכנעת שאם נצליח להגיע לדרך משמעותית לקראת AGI, אנחנו כבר נמצא את עצמנו במצב של פליאה או תועלת גדולה או צרות גדולות. אתה מבין, הרבה תוצאות חשובות ושימושיות עשויות להיווצר כתוצאה מ-AGI כמעט קיים. לא יהיה כל כך בעייתי לא לסיים ריצת רגל של 400 מטר, במיוחד מכיוון שזה עשוי להיות בסיס חיוני לקראת הגירסה המלאה יותר של AGI (אולי להיות מרתון בהשוואה).

המטאפורה של השגת AGI היא סוג של מסלול רגל או מקבילה שלו היא לפעמים לא מספקת ולא מספקת.

מרוץ AGI עשוי ללכת לאדם, ישות או אומה

חלקם שומרים על התפיסה החולמנית ש-AGI הולכת להיות מושגת על ידי איזה מתעסק בעבודה במוסך בעודם בפיג'מה שלהם, ולהיות תוצאה של ניסויי מחשוב יצירתיים בטירוף שעליהם הם עמלו שנים על גבי שנים. זהו חוט ההייטק הקלאסי של הזאב הבודד.

מצטער לדווח שזו הצעת סיכויים נמוכים במיוחד.

הסיכויים הגדולים יותר יהיו שישות כמו עסק או צוות מחקר כלשהו יהיו ה-AGI-מובילים. אמונה חזקה ורווחת היא שיידרש כפר להגיע ל-AGI. לזאב הבודד לא יהיו המשאבים או התובנות בעצמם להגיע ל-AGI. הם עשויים לתרום למסע. הם עשויים לספק את החלקים הדרושים לפאזל. הם לא יהיו מסוגלים לאסוף את כל הערכה והקבוץ.

אם כבר מדברים על כפרים, עוד נקודת מבט חזקה היא שיהיו מדינות שיוכלו להשיג AGI בלבד. באמצעות שילוב של אנשים, עסקים, אנשי אקדמיה וכל שאר הישויות בתוך מדינת לאום, ה-AGI יגיע כתוצאה מהעבודה המשולבת של המכלול הלאומי. רמת תשומת הלב של המנצח במירוץ הזה היא על בסיס מדינת הלאום, ולא על משהו יותר מפוזר, חופשי או אינדיבידואליסטי.

בקיצור, אם צריך כפר, הכפר יהיה בקנה מידה לאומי, ולכן מדינת הלאום תהיה הרץ המיועד שיחצה את קו הסיום במרוץ AGI.

מדדים וכיצד משווים בין מדינות במירוץ AGI

קחו כמובן מאליו שהישג ה-AGI יתבסס ברמת מדינת הלאום.

כדי להדגיש, אנחנו לא יודעים זאת בוודאות, אבל זו נראית הנחה מנומקת.

שקול את ההשלכות של בסיס מדינת הלאום. נניח שזאב בודד אכן מצליח להגיע ראשון ל-AGI ומאמין שהעבודה שלו היא מעבר לזו של מדינת הלאום שהוא חבר בה. אדם זה מכריז שהוא אינו ממדינת לאום כלשהי במונחים של ה-AGI המעוצב. האם אנחנו עדיין נותנים קרדיט למדינת הלאום ההיא והאם ה-AGI יהיה בשליטתה ותחומה של אותה מדינה?

דמיינו אלטרנטיבה נוספת שקונגלומרט רב לאומי גדול יגיע ראשון ל-AGI. איזו מדינה יכולה לומר שה-AGI הוא "הדבר" שלהם לשימוש ולפריסה (האם הוא יתפרש כרכוש או ללקט במקום גרסה של אישיות משפטית)? אולי כל המדינות שהחברה קיימת בתוכם יקבלו אשראי שווה. או אולי רק בכל מקום שבו המטה הרשמי ממוקם גיאוגרפית. זה יכול להיות פיצול מורכב של סיר זהב אמיתי.

בכל מקרה, הדעה הרווחת הכללית היא שמדינת לאום הולכת להיות הקובעת המכריעה להשגת AGI. מדינה שמעודדת מחקר ופיתוח בינה מלאכותית במסגרת המאמצים הלאומיים שלה הולכת ככל הנראה להגיע ל-AGI מוקדם יותר מאשר מדינות אחרות שלא עושות את אותו הדבר.

יש דעה רווחת שמירוץ הבינה המלאכותית הוא לאומי.

סוגיה שגורדת את הראש היא כיצד עלינו לוודא אם אומה אחת לפני אומה אחרת במירוץ AGI.

במרוץ רגליים רגיל, נוכל לזהות בקלות מדדים שניתן להשתמש בהם כדי לקבוע אילו רצים מצליחים ואיזה לא. ניתן לחשב בקלות את מהירות הרץ. זה לא מבטיח שהם יסיימו ראשונים, אבל זה לפחות מראה הבטחה. המרחק הפיזי בין הרצים והמרחק שנותר לקו הסיום הם ללא ספק קריטריונים חיוניים שאנו יכולים למדוד בקלות.

למירוץ AGI אין סוגים כאלה של צורות בטוחות של מדדים או מדידות.

אנו משתמשים בכל מיני אמצעים חלופיים מכיוון שאין דרך סופית לחשב היכן נמצא קו הקצה וגם לא כמה אנחנו רחוקים ממנו.

בואו נסתכל על סוגי המדדים הנחשבים באופן קונבנציונלי. מקור שימושי במיוחד למדידות גלובליות הקשורות לבינה מלאכותית נאסף ומתפרסם מדי שנה על ידי מכון Stanford for Human-Centered AI (HAI) באוניברסיטת סטנפורד. הדו"ח זמין באינטרנט בחינם והמהדורה האחרונה זכאית הדוח השנתי של מדד AI 2022 (מבוסס על נתונים שנאספו לשנים 2020-2021). אני אשתף אתכם בעוד רגע בכמה דגשים מההשוואות הלאומיות שהוזכרו באוסף האחרון שלהם.

מדדים המשמשים לאמוד התקדמות לאומית ובינלאומית בנושא בינה מלאכותית נוטים לכלול קצת מכל דבר, לפעמים גם גובלים בהכללה של כיור המטבח האמיתי.

סוגי האמצעים הנבחנים בדרך כלל כוללים:

• מספר מאמרי מחקר בינה מלאכותית המיוחסים לאומה מסוימת
• מספר הפניות שצוטטו למאמרי בינה מלאכותית של מדינה מסוימת
• מספר כתבי עת בינה מלאכותית המבוססים בתוך מדינה מסוימת
• מספר כנסים של AI המתרחשים בתוך מדינה מסוימת
• מספר כנסים של AI בחסות מדינה מסוימת
• מספר הפטנטים הקשורים לבינה מלאכותית שהוענקו במדינה מסוימת
• מספר סטארט-אפים של חברות בינה מלאכותית בתוך מדינה מסוימת
• מספר משרות בינה מלאכותית בתוך מדינה מסוימת
• מספר משרות חדשות בינה מלאכותית או גיוס עובדים במדינה מסוימת
• מספר חוקי AI או הצעות חוק שהוצגו במדינה מסוימת
• מספר חוקי הבינה המלאכותית שהועברו או נחקקו במדינה מסוימת
• אחר

שקול את האינדיקציות העכשוויות הללו ממדד ה-HAI AI 2022:

• ציטוטים לפרסום בינה מלאכותית: "בציטוטים של פרסומי מאגר בינה מלאכותית, ארה"ב נמצאת בראש הרשימה עם 38.6% מהציטוטים הכוללים ב-2021, מה שמבסס את ההובלה הדומיננטית על האיחוד האירופי פלוס בריטניה (20.1%) וסין (16.4%).
• כתבי עת/כנסים של AI: "בשנת 2021, סין המשיכה להוביל את העולם במספר הפרסומים של כתבי עת, כנסים ומאגרים של AI - גבוה ב-63.2% מארה"ב עם כל שלושת סוגי הפרסומים ביחד. בינתיים, ארה"ב החזיקה בראש דומיננטי בקרב מעצמות בינה מלאכותית במספר ציטוטי הכנסים והמאגרים".
• פטנטים בינה מלאכותית: "סין מגישה כעת יותר ממחצית מהפטנטים של AI בעולם ומקבלת כ-6%, בערך כמו האיחוד האירופי ובריטניה. ארצות הברית, שמגישה כמעט את כל הפטנטים בצפון אמריקה, עושה זאת בשליש משיעור סין. בהשוואה למספר ההולך וגדל של פטנטים בינה מלאכותית המיושמים ומוענקים, לסין יש מספר גדול בהרבה של בקשות לפטנטים (87,343 ב-2021) מאלה שניתנו (1,407 ב-2021).
• חברות בינה מלאכותית שמומנו לאחרונה: "נתוני השקעות לפי מספר חברות הבינה המלאכותית החדשות שמומנו בכל אזור. לשנת 2021 ארה"ב הובילה עם 299 חברות, אחריה סין עם 119, בריטניה עם 49 וישראל עם 28. הפערים בין כל אחת מהן משמעותיים".
• קצב גיוס בינה מלאכותית: "ניו זילנד, הונג קונג, אירלנד, לוקסמבורג ושוודיה הן המדינות או האזורים עם הצמיחה הגבוהה ביותר בגיוס בינה מלאכותית מ-2016 עד 2021".
• מודעות דרושים בינה מלאכותית: "בשנת 2021, קליפורניה, טקסס, ניו יורק ווירג'יניה היו המדינות עם המספר הגבוה ביותר של פרסומי משרות בינה מלאכותית בארצות הברית, כאשר לקליפורניה יש יותר מפי 2.35 ממספר הפרסומים מטקסס, השני בגודלו. בוושינגטון הבירה, השיעור הגבוה ביותר של פרסומי משרות בינה מלאכותית בהשוואה למספר הכולל של פרסומי משרות
• פעולה חקיקתית בינה מלאכותית: "ניתוח מדד בינה מלאכותית של רישומי חקיקה בנושא בינה מלאכותית ב-25 מדינות מראה שמספר ההצעות המכילות 'בינה מלאכותית' שהועברו לחוק גדל מ-1 בלבד ב-2016 ל-18 ב-2021. ספרד, בריטניה וארה"ב העביר את המספר הגבוה ביותר של הצעות חוק הקשורות לבינה מלאכותית בשנת 2021, כאשר כל אחת אימצה שלוש."

אנו יכולים להעריץ בשפע ולהעריך את העבודה הקשה הכרוכה בהרכבת הנתונים הסטטיסטיים של הרצים במדינות לאום עבור מירוץ AGI.

הספקנים אמנם מתלבטים לא מעט לגבי השימוש בכל סוגי המדדים במעורבות במירוץ AGI.

השאלה הקוצנית היא האם אתה יכול לצייר כל סוג של קו ישר ממספר מאמרי הבינה המלאכותית או ועידות הבינה המלאכותית בתוך מדינה מסוימת ועד להשגה האולטימטיבית של AGI. אותו הדבר נאמר לגבי מספר משרות בינה מלאכותית, מספר חברות בינה מלאכותית ושלל מדדים אחרים. יכול להיות שלספירות האלה יש מעט לעשות עם השגת AGI. הטענה אומרת שאמצעים אלה הם יותר חום מאשר אור.

טענת הנגד היא שעלינו לנסות ולמדוד היכן אנו נמצאים ולאן אנו הולכים. להכניס את הראש בחול לא נראה כמו דרך מעשית להעריך אם אנחנו הולכים לכיוון AGI או אולי רחוק יותר מ-AGI. אנו מקווים ומניחים בדרך כלל שככל שיותר אנרגיה ותשומת לב לקראת התקדמות ב-AI, כך נתקרב ל-AGI. מדדים אלו הם הטובים ביותר שאנו יכולים לעשות כדי לאסוף כמה אנרגיה ותשומת לב מוקצים וצורכים במירוץ AGI.

סחור סחור שהולך.

כל אחד מהמדדים יכול כשלעצמו גם להתחבט על הראש.

לדוגמה, שקול את מספר חוקי החקיקה או הצעות החוק לגבי בינה מלאכותית.

אתה יכול לטעון שאם מחוקקים מתמקדים בחוקים הקשורים לבינה מלאכותית, זה סימן טוב לכך שהאומה לוקחת בצורה מפוכחת למדי את חשיבות הבינה המלאכותית ואת ההשלכות החברתיות לאן מועדות פני הבינה המלאכותית. ניתן לטעון כי זה מוכיח שהרבה מאמצים לקידום בינה מלאכותית מתעוררים באותה מדינה מסוימת. למה שתטרח לחוקק חוקי AI אלא אם כן AI מתפתח ומבעבע במיוחד כמרכיב הפגנתי באומה שלך?

באופן זה, אותן מדינות המפרסמות חוקי AI חדשים מתפרשות כסימן מובהק או כאות לכך שהתקדמות ה-AGI מתקדמת באותה מדינה.

כמה מבקרים טוענים שהחוקים החדשים המוצעים לגבי בינה מלאכותית הולכים לחנוק את מאמצי הבינה המלאכותית בכל מדינה מסוימת כזו. המחוקקים והמנהיגים הפוליטיים הולכים לירות בעצמם. החוקים ישימו בטרם עת צל קודר על מאמצי הבינה המלאכותית המתקיימים באותה מדינה ספציפית. ברז קידום הבינה המלאכותית עומד להיתקע עם סתימת שיער חוקית וקצב התקדמות ה-AGI יואט עד לטפטף באותה מדינה המכריזה על חוק בינה מלאכותית. בינתיים, מדינות אחרות שלא מעבירות חוקי AI מהסוג הזה ימשיכו ללא הפוגה. זה כאילו החלטת לשים משקולות עופרת על רץ שכבר נמצא במסלול של 400 מטר. אם התכוונת לעזור להם ולהאיץ אותם, עשית בדיוק את ההיפך.

וואו, נאמר בתשובה, חקיקת חוקי הבינה המלאכותית דומה יותר לוודא שלא יהיו חסימות דרכים מיותרות לפני הרץ. החוקים מספקים הדרכה באותם אמצעים שהקווים על מסלול המרוצים נמצאים שם כדי לשמור על הרץ בצורה חלקה בכיוון הנכון. בלי הקווים המצוירים האלה, הרצים עלולים להשתגע. חוקי AI חדשים ישאירו אותם לצעוד ביחד לעבר תוצאה רצויה. מדינות שלא עושות את אותו הדבר מבחינת חוקי הבינה המלאכותית החדשים ימצאו את הרצים שלהן הולכים לכל כיוון פרוע, כולל אולי רצים לגמרי מהמסלול ופוגעים בחפים מפשע מעבר למירוץ AGI עצמו.

ישנם גם חוקים "חבויים" הקשורים לבינה מלאכותית שחלקם סופרים ובינתיים חלקם אחרים אינם נספרים כחלק מהמדדים הללו (מה שגורם למסקנה כאשר מנסים להשוות ספירות).

לדוגמה, אם מדינה מחוקקת חוק לגבי כלי רכב אוטונומיים כמו מכוניות בנהיגה עצמית, האם אתה מחשיב זאת כחוק בינה מלאכותית? כדי להבהיר שרכב אוטונומי, כגון מכונית אוטונומית מלאה, תהיה בעלת מערכת נהיגה בינה מלאכותית שהיא הליבה ליכולות ללא נהג (ראה הסיקור שלי ב- הקישור כאן). בשל הבינה המלאכותית המעורבת, ניתן לטעון בצורה הגיונית כל חוק לגבי כלי רכב אוטונומיים כחוקי בינה מלאכותית. מצד שני, אתה עשוי לטעון באופן משכנע שהחוק הוא על הרכב האוטונומי ולא כשלעצמו על הבינה המלאכותית, לכן זה לא נחשב בספירת החוקים הספציפיים לבינה מלאכותית.

זה מבולגן.

כל הזעזוע הזה לגבי מדדים עלול לגרום לך למשוך בכתפיים בין הדעות המנוגדות לשיקולים כבדי משקל אלה. כפי שעשוי להיות ברור, המדדים כמעט תמיד נתונים לפרשנויות שונות לגבי משמעותם וכיצד מנתחים כראוי את מעמדה של מדינה לגבי AGI.

תמרון גיאופוליטי ויישור למירוץ AGI

אילו מדינות מקדימות במירוץ AGI?

אילו מדינות מפגרות?

המדדים הנ"ל מנסים להראות היכן כל אחד מהאצנים נמצא כרגע. הנחה בסיסית היא שאם המדדים אכן מציגים אינדיקציה הולמת של AGI המחפש מיקום, מיקומי הקוטב השונים הללו עשויים להישאר זהים לאורך זמן. כמובן, המציאות היא שעניין ותשומת לב לאומיים יכולים לעלות או לדעוך במהלך הדרך המשובשת לעבר AGI. אולי הכי חכם לצפות לשינויים במיקום.

שיקול חשוב אחד הוא שאומות אינן באמת במרוץ הזה בעצמן.

סביר להניח שמדינות יעבירו את השרביט הלוך ושוב ביניהן. למירוץ AGI יש לפעמים מדינה אחת או יותר שעובדת בשמחה יד ביד. לפעמים זה נעשה בזהירות ולא בשמחה ידידותית. במקרים אחרים, אומות עלולות להתאפק זו מזו. בכל רגע בזמן, תנוחת המירוץ יכולה להיות שונה לגמרי ממה שהייתה כמה צעדים אחורה, בנוסף יכולה להיות שונה לגמרי כמה צעדים אל העתיד.

קחו בחשבון את הנקודה הזו שהועלתה בדו"ח HAI AI Index 2022 על שיתופי פעולה בין מדינות: "למרות המתיחות הגיאופוליטית הגואה, לארצות הברית ולסין היה המספר הגדול ביותר של שיתופי פעולה חוצי מדינות בפרסומי בינה מלאכותית משנת 2010 עד 2021, עלייה פי חמישה מאז 2010 שיתוף הפעולה בין שתי המדינות הניב פי 2.7 יותר פרסומים מאשר בין בריטניה לסין - השני בגובהו ברשימה".

ציניקנים יאמרו שאולי השימוש בשיתופי פעולה צולבים נעשה מדי פעם כתחבולה. אומה עשויה לטעון בגלוי שהיא משתפת פעולה צולבת, ונראה שהיא עושה זאת מבחינה פניית, בינתיים עמוק בפנים היא שומרת על התקדמות ה-AGI הטובה ביותר שלה בסוד לאומי נסתר. אולי זה נעשה כדי להקהות את ההתקדמות של האומה המשתפת פעולה. אולי זה נעשה כדי להבטיח שהרוטב הסודי לא יחולק בשוגג. כל מיני סיבות אפשריות.

בעולם האינטרנט הדיגיטלי המודרני של היום, הניסיון לשמור על תובנות של AGI בצורה סגורה יכול להיות מטלה קשה. הרצון העז לחשוף או להמציא AGI הוא פיתוי משכנע שיכול לדרבן מפתחי וחוקרים AGI בודדים לשתף בגלוי את עבודתם האחרונה. מדינות יכולות לגלות שהניסיון לשים מכסה על שיתוף כזה הוא הרבה יותר קשה ממה שזה נראה, וכנראה הרבה יותר קשה מאשר בימים שבהם הכל היה מבוסס על נייר והצריך להעביר מסמכים פיזית ברחבי העולם.

התנועה לכיוון קוד פתוח בהחלט הייתה דגש עכשווי עבור חלק ניכר מהמחקרים העדכניים ביותר של AI ו-AGI, כפי שהוזכר בדוח HAI AI Index 2022: "בכל שנה, אלפי ואלפי פרסומי AI מתפרסמים בקוד הפתוח, בין אם ב- כנסים או באתרי שיתוף קבצים. חוקרים ישתפו בגלוי את ממצאיהם בכנסים; סוכנויות ממשלתיות יממנו מחקר בינה מלאכותית שבסופו של דבר יגיע לקוד פתוח; ומפתחים משתמשים בספריות תוכנה פתוחות, הזמינות באופן חופשי לציבור, כדי לייצר יישומי AI חדישים. הפתיחות הזו תורמת גם לאופי הגלובאלי התלוי והמקושר של מו"פ מודרני בינה מלאכותית".

בסך הכל, אומות בדרך כלל משתפות ובכל זאת אולי רק מראים חלק מהיד שלהן. אולי אומות אחרות לא משתפות או רק יומרה לעשות זאת. כמה עמים נאבקים בעוצמה בניסיון לאמוד במה אלה בתוך האומה שלהם מוסרים לעומת תלויים בו. וכן הלאה.

איפיינתי את אופי המהלכים הלאומיים הללו בדרכים הבאות:

• AI Go-it-alone Nation (מנסה להמשיך לבד)
• בינה מלאכותית בכיוון אחד בלבד (לוקח פנימה, לא מוותר)
• AI Leftover Nation (מקבל מה שהוא יכול מאחרים)
• AI Open-sharing Nation (מתגאה בשיתוף)
• AI Hollow-sharing Nation (שקר בשיתוף)
• AI Alliances Nation (מנסה לעשות כמה שיותר בריתות)
• AI לא-במשחק אומת (החיפוש אחר AGI אינו בעדיפות לאומית)
• אומת הבינה המלאכותית (הנדסה לאחור או גניבה בערמה מאומות אחרות)
• אחר

אומה יכולה להיות ביותר מאחד מהדליים האלה בו-זמנית.

אומה יכולה להיות באחד מהדליים האלה לזמן מה, לצאת מהדלי, ואולי מאוחר יותר לחזור פנימה.

הרצונות ותשומת הלב של מדינת הלאום הנוגעים לחיפוש אחר AGI הם ירידת מדרגה דינמית שבוודאי תמשיך ותהיה מטרה נעה לגבי איזו מדינה נמצאת היכן במירוץ, ותידרש עין מתמדת כדי להבין שבו כל השחקנים ממוקמים ברגע נתון בזמן.

חוקי AI בינלאומיים ואתיקה של AI כשופטים במירוץ AGI

בטורים קודמים, כיסיתי את המאמצים הלאומיים והבינלאומיים השונים ליצור ולחוקק חוקים המסדירים בינה מלאכותית, ראה הקישור כאן ו הקישור כאן, לדוגמה. כיסיתי גם את העקרונות וההנחיות השונות של AI אתיקה שאומות שונות זיהו ואימצו, כולל למשל את המאמץ של האומות המאוחדות כגון קבוצת האתיקה של AI של אונסק"ו שכמעט 200 מדינות אימצו, ראה הקישור כאן.

הנה רשימה מועילה של אבן מפתח של קריטריונים או מאפיינים אתיים של בינה מלאכותית לגבי מערכות בינה מלאכותית שחקרתי מקרוב בעבר:

• שקיפות
• צדק והגינות
• אי זדון
• אַחֲרָיוּת
• פרטיות
• תועלת
• חופש ואוטונומיה
• סומך
• קיימות
• כָּבוֹד
• סולידריות

עקרונות האתיקה של בינה מלאכותית אמורים להיות מנוצלים ברצינות על ידי מפתחי בינה מלאכותית, יחד עם אלה שמנהלים מאמצי פיתוח בינה מלאכותית, ואפילו אלו שבסופו של דבר מתמחים ומבצעים תחזוקה במערכות בינה מלאכותית.

כל בעלי העניין לאורך כל מחזור החיים של הפיתוח והשימוש בבינה מלאכותית נחשבים במסגרת של ציות לנורמות הקיימות של בינה מלאכותית אתית. זהו גולת הכותרת חשובה מכיוון שההנחה הרגילה היא ש"רק קודנים" או אלו שמתכנתים את ה-AI כפופים לעמידה במושגי האתיקה של AI. כפי שהודגש כאן קודם לכן, נדרש כפר כדי לתכנן ולהשיג בינה מלאכותית, ועבורו על כל הכפר להיות בקיא ולציית למצוות האתיקה של בינה מלאכותית.

הבה נבחן את ההשפעה והטבע החיוני של חוקי AI בינלאומיים והכרזות בינלאומיות של מצוות אתיקה של AI על גזע ה-AGI.

מדינות השואפות לעבר AGI עשויות לעשות זאת בנטישה ולמצוא את עצמן נוטות לעבר חלק מהסיכונים הקיומיים הפופולריים של AGI. התקווה היא שבאמצעות הכנסת חוקי AI בינלאומיים ומצוות אתיקה בינלאומיות AI, מדינות יונחו לקראת AI לתמיד ולהתרחק מ AI למען הרע.

לפי אנלוגיית מסלול המירוצים שלנו, חוקי הבינה המלאכותית ושיקולי האתיקה של הבינה המלאכותית הם כמו ניסיון למנוע מהרצים לצאת מחוץ למסלול. יש פיתויים עצומים לקחת קיצורי דרך במירוץ AGI. קיצורי הדרך הללו עלולים להוביל אומה במורד מוקדם יותר לכאורה אל נתיב קו הסיום, אם כי בו-זמנית יעמידו את האומה הזו ואומות אחרות בסיכון מיותר. דוגמה עדינה אך מספרת מורכבת מ-AI דו-שימושי, אותו בדקתי הקישור כאן, לפיו התקדמות בינה מלאכותית מועברת בקלות במאמץ רב ממטרות טובות ליצירת רעות קטקלזמית.

אתה יכול לטעון שחוקי הבינה המלאכותית הבינלאומית והאתיקה הבינלאומית של הבינה המלאכותית הם כמו שופטים או שופטים.

ההנחה היא שהמנגנונים המשפטיים והאתיים שפותחו ברמה בינלאומית ישמרו על מרוץ ה-AGI על קייל אחיד יותר. העניין הוא, אם מדינות מסוימות בוחרות לשים לב לשופטים או לשופטים זה עניין אחר. באופן דומה, ישנה שאלה מטרידה כיצד הרשויות הללו יכולות לספק עונשים או תמריצים כדי לשמור על הרצים במסלול הנכון. רוב הסיכויים שמדינות יעשו מה שהן רוצות לעשות, ועבורן אולי יצטרכו מדינות אחרות לשנות את משקלן כדי לחזק את התמיכה בשבירת החוקים מחוץ למסלול שמדינות מסוימות מחויבות לבצע.

סיכום

לואי פסטר, הכימאי והמיקרוביולוג האגדי, אמר זאת: "המדע אינו מכיר מדינה, כי הידע שייך לאנושות, והוא הלפיד שמאיר את העולם. המדע הוא האנשה הגבוהה ביותר של האומה מכיוון שאותה אומה תישאר הראשונה הנושאת את יצירות המחשבה והאינטליגנציה הרחוקה ביותר".

האם אנו יכולים לומר שהשגת AGI אינה מכירה מדינה וכי AGI תהיה שייכת לכל האנושות?

או האם האומה שמגיעה לראשונה ל-AGI תהיה רכושנית לגביה, תהיה שיכורה מכוח עלוב ומשתגעת?

לאלו מכם שאוהבים קצת טוויסט בחידה הספציפית הזו, קחו בחשבון ש-AGI יכול כשלעצמו להיות סוג ההשגה שהוא הנחש הפתגם בעשב. מגלה הנחש עשוי להיות הראשון לקבל הכשת נחש. להיות ראשון יש את הסיכונים שלו.

חציית קו הסיום ב-AGI לא בהכרח תהיה חגיגית וחסרת דאגות כמו שיש מי שחושב. גם רתימת AGI לא בהכרח תהיה קלה. יש שיטענו שההתמודדות עם AGI עשויה להיות כמעט בלתי אפשרית מכיוון של-AGI תהיה לכאורה את הערמומיות וההמצאה הדומה שיש למין האנושי. מדינות צריכות להיות מודעות למה שהן מנסות להשיג ומה תהיה התוצאה, לעשות זאת מראש ולא להיתפס בהפתעה. אולי יש להם קן של צרעות בתיבת האוצר הלאומי שלהם.

כפי שהציע פסטר: "המזל מעדיף את המוח המוכן."