AI Shake-Up בתור גורו בינה מלאכותית מציע "מחשבי תמותה" מכופפים תודעה, מה שמביא גם את האתיקה של בינה מלאכותית וחוקי הבינה המלאכותית.

הנה משהו שכנראה עוד לא חשבתם עליו: מחשבים בני תמותה.

אבל אולי אתה צריך להיות.

הנושא המלהיב עלה בכנס השנתי האחרון ובסך הכל די בולט בנושא בינה מלאכותית, המתמקד במיוחד בהופעת רשתות עצביות ולמידת מכונה, כלומר הכנס על מערכות עיבוד מידע עצביות (הידוע על ידי מקורבים בשם NeurIPS). דובר מרכזי מוזמן וגורו AI נחשב ותיק ג'פרי הינטון העלה את הטענה המסקרנת ואולי השנויה במחלוקת שאנחנו צריכים לחשוב על מחשבים בהקשר בן תמותה ואלמוות.

אתייחס לקביעה הבולטת ואעשה זאת בשתי דרכים שבהתחלה לא בהכרח ייראו קשורות, אם כי לאחר קצת הסבר נוסף הן יהפכו להיות קשורות יותר בבירור זה לזה באשר לטענות בני תמותה לעומת בני אלמוות.

שני הנושאים הם:

1) חיבור אינטגרלי של החומרה והתוכנה עבור מיכוני בינה מלאכותית במקום להיות בעלי ברית נפרדים ונפרדים

2) העברה או זיקוק של ניסוחי למידת מכונה ממודל AI אחד לאחר שעושה זאת מבלי לדרוש או בהכרח לרצות (או אפילו אפשרי אחרת) העתקה גזעית מלאה ישר קדימה

לכל זה יש שיקולים גדולים עבור AI והכיוון העתידי של פיתוח AI.

יתר על כן, יש שלל דאגות קוצניות מאוד של אתיקה וחוק בינה מלאכותית שעולות. סוגים אלה של התקדמות טכנולוגית שנחזתה בינה מלאכותית נקשרת בדרך כלל על בסיס טכנולוגי גרידא הרבה לפני שיש הבנה שאולי יהיו לה השלכות ראויות לציון בינה מלאכותית וחוק AI. במובן מסוים, בדרך כלל, החתול כבר יצא מהשק, או שהסוס יצא מהאסם, לפני ההתעוררות שיש לתת השתתפות בגילוי נאות.

ובכן, בוא נשבור את מעגל המחשבה המאוחרת הזה ונכנס לקומת הקרקע על זה.

לאלו מכם המעוניינים בסך הכל בתובנות האחרונות העומדות בבסיס אתיקה של בינה מלאכותית וחוק בינה מלאכותית, אולי תמצאו את הסיקור המתמשך והנרחב שלי בכתובת אינפורמטיבית ומעוררת השראה. הקישור כאן ו הקישור כאן, רק כדי שם כמה.

אני הולך כאן תחילה לכסות את הנקודה לעיל לגבי החיבור בין חומרה ותוכנה. דיון וניתוח של הנושא יתקיימו יד ביד. לאחר מכן, אגע בעניין של העתקה או יש לומר זיקוק המרכיבים החיוניים של מערכת בינה מלאכותית למידת מכונה מ-AI אחד ל-AI חדש כמטרה.

בואו נתחיל.

חיבור של חומרה ותוכנה עבור AI

אתם בטח יודעים שבגדול העיצוב של מחשבים הוא כזה שיש את הצד החומרה של הדברים ובנפרד יש את הצד התוכנה של הדברים. כאשר אתה קונה מחשב נייד או שולחני יומיומי, הוא מתפרש כמכשיר מחשוב לשימוש כללי. ישנם מיקרו-מעבדים בתוך המחשב המשמשים לאחר מכן להפעיל ולהפעיל תוכנה שאולי תרכוש או תכתוב בעצמך.

בלי שום תוכנה למחשב שלך, מדובר בחתיכה של מתכת ופלסטיק שבעצם לא יעשה לך הרבה טוב, מלבד לשמש כמשקולת נייר. יש שיגידו שהתוכנה היא המלך ושולטת בעולם. כמובן, אם אין לך חומרה להפעיל את התוכנה, התוכנה לא תעשה הרבה טוב. אתה יכול לכתוב כמה שורות קוד שתרצה, אך עד לשימוש בתוכנה דרך המחשב, קוד המקור המנוסח הוא דקיק וחסר מעוף כמו יצירת שירה יפהפייה או רומן בלשי של ריגוש בדקה.

הרשו לי לעבור לרגע לשדרה אחרת שעלולה להיראות רחוקה (זה לא יהיה).

לעתים קרובות אנו מנסים לצייר אנלוגיות בין אופן פעולתם של מחשבים לבין אופן פעולתו של המוח האנושי. הניסיון הזה לעשות הקבלות מושגיות הוא שימושי. עם זאת, אתה צריך להיות זהיר מהגזמת האנלוגיות האלה מכיוון שההשוואות נוטות להתקלקל כאשר אתה מתקרב לפרטים הבשרניים.

בכל מקרה, לשם הדיון, הנה אנלוגיה המשמשת לעתים קרובות.

המוח עצמו מכונה לעתים באופן לא רשמי כלי לחות. זו דרך קליטה לנסח דברים. אנחנו יודעים שמחשבים מורכבים מחומרה ותוכנה, אז זה חכם להשתמש בחלק "הכלים" של ההטבעה כדי לתאר למה מסתכם המוח. המוח האדיר והמסתורי, השוכן בתנועותינו, נמצא מרחף, מחשב נפש את כל מעשינו (חלקם טובים, בעוד שחלק מהמחשבות שלנו בהחלט לא מלאות בטוב).

במשקל ממוצע של בערך שלושה פאונד בלבד, המוח הוא איבר יוצא דופן. איכשהו, ואנחנו עדיין לא יודעים איך, המוח מסוגל להשתמש בזה בסדר גודל של 100 מיליארד נוירונים ואולי בכל מקום בין 100 ל-1,000 טריליון חיבורים או סינפסות כדי לעשות את כל החשיבה שלנו עבורנו. כיצד התכונות הביולוגיות והכימיות של המוח יוצרות אינטליגנציה? אף אחד לא יכול לומר בוודאות. זהו מסע של דורות.

אני שואל אותך את זה, האם המוח הוא לכאורה חומרה בלבד, או שזה גם חומרה וגם תוכנה משולבים?

נודל על הטיזר המוח הזה.

אולי תתפתו לטעון שהמוח הוא פשוט חומרה (במובן הכללי). זה איבר של הגוף. באופן דומה, אפשר לומר שהלב הוא חומרה, שלפוחית ​​השתן היא חומרה וכן הלאה. כולם מכניזציה דומים כשאנחנו מדברים על חפצים שיש להם צורה פיזית ועושים פעולות הקשורות פיזית.

איפה אם כן התוכנה שמפעילה בני אדם?

הייתי מעז להציע שכולנו די מסכימים ש"התוכנה" של המין האנושי שוכנת איכשהו במוח. השלבים הנדרשים לבישול ביצה או לתיקון תקר בצמיג הם הוראות שמגולמות במוח שלנו. באמצעות האנלוגיה הממוחשבת שצוינה קודם לכן של חומרה ותוכנה, המוח שלנו הוא חתיכת חומרה כביכול, שעבורה אנו לומדים על העולם וההוראות של מה לעשות "פועלות" ו"מאוחסנות" בתוך המוח שלנו.

במחשב, אנו יכולים להצביע בקלות על החומרה ולומר שזו חומרה. אנחנו יכולים לקבל רשימה של קוד המקור ולהצביע על הרישום כתוכנה. כיום, אנו מורידים תוכנה מקוונת באופן אלקטרוני ומתקינים אותה במחשבים הניידים והסמארטפונים שלנו. בימי קדם, השתמשנו בתקליטון וכרטיסי ניקוב כדי לאחסן את התוכנה שלנו לטעינה על החומרה של המחשב.

אני מכניס אותך לחידה חשובה.

לאחר שלמדת משהו והידע קיים במוח שלך, האם אתה עדיין יכול להבחין בין ה"חומרה" של המוח שלך לבין ה"תוכנה" המשוערת של המוח שלך?

עמדה מתווכחת אחת היא שהידע במוח שלך אינו ניתן להפרדה במיוחד מהתפיסות של חומרה ותוכנה. האנלוגיה לפיכך לאופי המחשבים מתקלקלת, יש שיטענו בלהט. הידע במוח שזור ובלתי נפרד מהחומרה של המוח שלך. התכונות הביולוגיות והכימיות משלבות את הידע שיש לך נפשית.

תבשיל על זה לקצת הרהור מחשבתי.

אם נקווה לתכנן מתישהו מחשבים שעולים בקנה אחד עם האינטליגנציה האנושית, או אפילו עולים על האינטליגנציה האנושית, אולי נוכל להשתמש במבני המוח ובפעולותיו הפנימיות כמדריך למה שעלינו לעשות כדי להשיג מטרה כה נעלה. עבור חלק מהתחום של בינה מלאכותית, ישנה אמונה שככל שאנו יודעים יותר על אופן פעולת המוח, כך גדלים הסיכויים שלנו להמציא בינה מלאכותית אמיתית, המכונה לעיתים בינה כללית מלאכותית (AGI).

אחרים ב-AI פחות מתלהבים מהצורך לדעת איך המוח עובד. הם מדגישים שאנחנו יכולים להמשיך במהירות ביצירת בינה מלאכותית, בלי קשר לשאלה אם אנחנו מסוגלים לפתוח את פעולתו הפנימית הסודית של המוח. אל תתנו למסתורין של המוח לעכב את מאמצי הבינה המלאכותית שלנו. בטח, המשיכו לנסות לפענח ולפענח את המוח האנושי, אבל אנחנו לא יכולים לשבת ולחכות שהמוח יעבור הנדסה לאחור. אם זה מתישהו ניתן לביצוע, חדשות נפלאות, אם כי אולי זה בלתי אפשרי או יתרחש עידנים מעכשיו.

אני מוכן לשתף אתכם כעת בוויכוח המחשב בן התמותה והאלמוות. אנא ודא שאתה יושב ומוכן לחשיפה הגדולה.

מחשב שיש בו הפרדה ברורה בין החומרה לתוכנה יכול להיטען כ"אלמותי" בכך שהחומרה יכולה להתמיד לנצח (בגבולות, כמובן), בעוד שהתוכנה יכולה להיכתב ולשכתב שוב ושוב. אתה יכול לשמור על מחשב קונבנציונלי כל עוד אתה יכול לבצע תיקונים בחומרה ולהשאיר את המכשיר מסוגל להפעיל. אתה עדיין יכול לעשות שימוש היום במחשבים הביתיים הגסים משנות ה-1970 שהיו מגיעים בערכות להרכבה, למרות שהם כמעט בני חמישים בערך (הרבה זמן ב שנות מחשב).

אם כי נניח שבחרנו ליצור מחשבים שבהם החומרה והתוכנה פעלו ללא הפרדה (אני אספר על כך עוד מעט). שקול זאת על אותו בסיס שציינתי קודם לכן שלמוח יש אולי הרכב אינטגרלי של חומרה ותוכנה. אם זה היה המקרה, אפשר היה להציע שהמחשב של הדום הזה כבר לא יהיה בן אלמוות. זה יתפרש כ"בן תמותה" במקום זאת.

לפי ההערות שנאמרו בכנס NeurIPS על ידי הדובר המרכזי המוזמן וגורו הבינה המלאכותית הראויה לציון ג'פרי הינטון, וכפי שנאמר במאמר המחקר הנלווה שלו:

• "מחשבים דיגיטליים למטרות כלליות נועדו לעקוב בנאמנות אחר ההוראות, כי ההנחה הייתה שהדרך היחידה לגרום למחשב למטרות כלליות לבצע משימה ספציפית היא לכתוב תוכנה שציינה בדיוק מה לעשות בפרטי פרטים. זה כבר לא נכון, אבל קהילת המחקר איטה להבין את ההשלכות ארוכות הטווח של למידה עמוקה על הדרך שבה מחשבים בנויים. ליתר דיוק, הקהילה דבקה ברעיון שעל התוכנה להיות ניתנת להפרדה מהחומרה, כך שניתן להפעיל את אותה תוכנית או אותה קבוצת משקלים על עותק פיזי אחר של החומרה. זה הופך את הידע הכלול בתוכנית למות או את המשקולות לאלמוות: הידע לא מת כשהחומרה מתה" (כפי שנכלל במאמר המחקר שלו "האלגוריתם קדימה-קדימה: כמה חקירות מקדימות", הדפסה מוקדמת זמינה באינטרנט) .

שימו לב שסוג המחשוב המסוים הנדון בסוג זה של AI עושה שימוש ברשתות עצביות מלאכותיות (ANNs).

בואו נסדר את העניינים בעניין הזה.

ישנם נוירונים ביולוגיים בעולם האמיתי במוחנו. אתה משתמש בהם כל הזמן. הם מחוברים ביולוגית וכימית לרשת ב-noggin שלך. לפיכך, אנו יכולים להתייחס לזה כאל א רשת עצבית.

במקומות אחרים, נגיד יש "נוירונים" מזויפים שאנו מייצגים מחשבתית במחשבים למטרות יצירת בינה מלאכותית. אנשים רבים ב-AI מתייחסים לאלה כאל רשתות עצביות. אני מאמין שזה קצת מבלבל. אתה מבין, אני מעדיף להתייחס אליהם כאל מלאכותי רשתות עצביות. זה עוזר להבחין מיד בין התייחסות ל-in-head רשתות עצביות (הדבר האמיתי, כביכול), ואלה מבוססי מחשב (מלאכותי רשתות עצביות).

לא כולם נוקטים בעמדה הזו. הרבה אנשים ב-AI פשוט מניחים שכולם ב-AI "יודעים" שכאשר מתייחסים לרשתות עצביות הם כמעט תמיד מדברים על ANNs - אלא אם כן נוצר מצב שבו מסיבה כלשהי הם רוצים לדון בתאי עצב אמיתיים וברשתות עצביות אמיתיות מוֹחַ.

אני סומך על כך שהבנת את הסחף שלי. רוב הזמן, אנשי בינה מלאכותית יאמרו "רשתות עצביות" שעשויות להיות מעורפלות מכיוון שאינך יודע אם הן מתכוונות לאלו האמיתיות בראש שלנו או לאלו החישוביות שאנו מתכנתים במחשבים. אבל מכיוון שאנשי בינה מלאכותית עוסקים בגדול עם מופעים מבוססי מחשב, ברירת המחדל הם בהנחה שאתה מתכוון לרשתות עצביות מלאכותיות. אני אוהב להוסיף את המילה "מלאכותי" לקצה הקדמי של הניסוח כדי להיות ברור יותר לגבי הכוונות.

אם נמשיך הלאה, אתה יכול לשקול במידת מה את הנוירונים המלאכותיים החישוביים האלה כהדמיה מתמטית או חישובית של מה שאנו חושבים שעושים נוירונים פיזיים ביוכימיים בפועל, כמו שימוש בערכים מספריים כגורמי שקלול שבאופן אחר מתרחשים ביוכימית במוח. כיום, הסימולציות הללו אינן מורכבות כמעט כמו נוירונים אמיתיים. ANNs נוכחיים הם ייצוג מתמטי וחישובי גס במיוחד.

בדרך כלל, ANNs הם לעתים קרובות אלמנט הליבה עבור למידת מכונה (ML) ולמידה עמוקה (DL) - אנא שים לב שיש הרבה יותר פרטים על זה, ואני קורא לך להסתכל על הסיקור הנרחב שלי של ML/DL בְּ- הקישור כאן ו הקישור כאן, למשל.

אם נחזור לסוגי המחשבים האלמותיים לעומת בני התמותה, הנה עוד על מה להרהר לפי החוקר:

• "ההפרדה בין תוכנה לחומרה היא אחד היסודות של מדעי המחשב ויש לה יתרונות רבים. זה מאפשר ללמוד את המאפיינים של תוכניות מבלי לדאוג להנדסת חשמל. זה מאפשר לכתוב תוכנית פעם אחת ולהעתיק אותה למיליוני מחשבים. עם זאת, אם נהיה מוכנים לנטוש את האלמוות אמור להיות אפשרי להשיג חיסכון עצום באנרגיה הנדרשת לביצוע חישוב ובעלות ייצור החומרה שמבצעת את החישוב. אנו יכולים לאפשר וריאציות גדולות ולא ידועות בקישוריות ובאי-ליניאריות של מופעים שונים של חומרה שנועדו לבצע את אותה משימה ולהסתמך על הליך למידה כדי לגלות ערכי פרמטר שעושים שימוש יעיל במאפיינים הלא ידועים של כל מופע מסוים של החומרה. ערכי פרמטרים אלו שימושיים רק עבור מופע החומרה הספציפי הזה, כך שהחישוב שהם מבצעים הוא בן תמותה: הוא מת עם החומרה" (שם).

עכשיו התוודעתם לאופן שבו משתמשים בני אלמוות ובני תמותה בהקשר זה.

תן לי לפרט.

ההצעה היא שאפשר לתכנן מחשב שמיועד על בסיס ANN כך שהחומרה והתוכנה ייחשבו בלתי נפרדים. ברגע שהחומרה מתישהו כבר לא מתפקדת (מה שכמובן, אנחנו אומרים שמערבבת באופן אינטגרלי את התוכנה), נראה שסוג המחשב הזה כבר לא שימושי ולא יפעל יותר. אומרים שזה בן תמותה. אתה יכול באותה מידה לקבור את המחשב מבוסס ANN מכיוון שזה לא יעשה לך טוב מעתה והלאה לאחר שהחומרה והתוכנה הבלתי ניתנות להפרדה כבר לא יעבדו באופן קיומי כצוות.

אם היית רוצה לנסות ולקשר את זה לאנלוגיה של מוח אנושי, אולי אתה יכול לדמיין את המצב העגום של מוח אנושי שמתדרדר לחלוטין או שנפגע איכשהו באופן בלתי הפיך. אנו מקבלים את התפיסה שאדם הוא בן תמותה והמוח שלו בסופו של דבר ובהכרח יפסיק לעבוד. הידע שהם הכילו במוח שלהם כבר לא זמין. אלא אם כן במקרה ניסו לספר לאחרים או לרשום את מה שהם ידעו, הידע שלהם נעלם לעולם כולו.

ללא ספק שמעתם או ראיתם דיווחים על ניסיונות לשמר מוחות, כמו להכניס אותם למצב קפוא, תחת התיאוריה שאולי בני אדם יכולים יום אחד להיות בני אלמוות או לפחות להאריך מעבר לחייהם המקובלים. המוח שלך עשוי לחיות, גם אם לא בגוף שלך. הרבה סרטי מדע בדיוני וסיפורים העלו השערות על רעיונות כאלה.

כעת אנו מוכנים להסתכלות מפורטת - ראה את המחשב בן התמותה ואת המחשב האלמותי כמושג ואת מה שהוא מנבא.

דיון מודע וניתוח מתחשב

לפני שצולל לתוך הקרביים של ניתוח זה של הגישה המשוערת, כדאי להזכיר כמה אזהרות חשובות ונקודות נוספות.

החוקר הדגיש שהטבעה מחשבים בני תמותה לא יחליף במיוחד או ידחיק את קיומו של מחשבים אלמותיים שהיום אנו מתייחסים אליהם כאל מחשבים דיגיטליים רגילים. יהיה דו קיום של שני סוגי המחשבים. אני אומר את זה כי התגובה של חלקם הייתה שהקריאה לסדר הייתה טענה גורפת את כל מחשבים בהכרח הם או ילכו לקראת הטיפוס בן התמותה.

זו לא הייתה טענה שהועלתה.

במהלך שיחתו, הוא הזכיר כי אלה התמחו בעל אוריינטציה נוירומורפית מחשבים יבצעו עבודת חישוב המכונה חישובי תמותה: "אנחנו הולכים לעשות את מה שאני מכנה חישוב תמותה, שבו הידע שהמערכת למדה והחומרה אינם ניתנים להפרדה" (כפי שצוטט במאמר ZDNET מאת Tiernan Ray ב-1 בדצמבר 2022).

ובמיוחד: "זה לא יחליף מחשבים דיגיטליים" (שם).

כמו כן, סוגים חדשים של מחשבים אלה בהחלט לא יהיו בקרוב בחנות המחשבים המקומית שלך או זמינים לרכישה מקוונת מיד, כפי שנאמר במהלך המצגת שלו: "מה שאני חושב זה שאנחנו הולכים לראות סוג אחר לגמרי של מחשב, לא לכמה שנים, אבל יש את כל הסיבות לחקור את סוג המחשב השונה לגמרי הזה". גם השימושים יהיו שונים: "זה לא יהיה המחשב שאחראי על חשבון הבנק שלך ויודע בדיוק כמה כסף יש לך."

טוויסט נוסף הוא שלכאורה המחשבים בני התמותה יגדלו במקום להיות מפוברקים כפי שאנו עושים היום לייצור מעבדי מחשב ושבבי מחשוב.

במהלך תהליך הצמיחה, המחשב בן התמותה יגדל ביכולתו בסגנון של התבגרות חישובית. לפיכך, מחשב בן תמותה נתון עשוי להתחיל כמעט ללא יכולת ולהתבגר למה שהוא שואף להיות. לדוגמה, נניח שרצינו ליצור טלפונים סלולריים באמצעות שימוש במחשבים בני תמותה. תתחיל עם גרסה פשוטה של ​​מחשב בן תמותה שעוצב בתחילה או זרע למטרה זו. לאחר מכן הוא יבשיל לגרסה המתקדמת יותר שחיפשת. בקיצור: "תחליף את זה בכל אחד מהטלפונים הסלולריים האלה יצטרך להתחיל בתור טלפון סלולרי לתינוק, והוא יצטרך ללמוד איך להיות טלפון סלולרי."

באחת השקופיות הבסיסיות שלו על חישובי תמותה, היתרונות תוארו כך: "אם אנו נוטשים את האלמוות ומקבלים שהידע בלתי נפרד מהפרטים הפיזיים המדויקים של חומרה ספציפית, נקבל שני יתרונות גדולים: (1) אנו יכולים להשתמש בחישוב אנלוגי בהספק נמוך מאוד, (2) אנו יכולים לגדל חומרה שהקישוריות המדויקת וההתנהגות האנלוגית שלה אינם ידועים."

חלק מאותה הרצאה וגם כפי שנכלל במאמר המחקר שלו לפני ההדפסה היא טכניקה מוצעת לאופן שבו ניתן לגבש ANNs טוב יותר, שאליה הוא מתייחס כשימוש ב- קדימה קדימה גישת רשת. חלק מכם הבקיאים ב-ANN ללא ספק כבר מודעים היטב לשימוש בהפצה לאחור או אחורי. אולי תרצה להסתכל על הטכניקה המוצעת שלו קדימה קדימה. אני אסקור את הגישה המרתקת הזו בפוסט עתידי של טור, אז שימו לב לסיקור הקרוב שלי בנושא.

מעבירים הילוכים, בוא נחשוב על מה שנאמר במסדרונות ובדרכים של קהילת הבינה המלאכותית על השטות הזו מחשב בן תמותה תַחְבּוּלָה.

נתחיל במה שיש שיאמרו שהוא לא התחלה בנושא.

האם אתה מוכן?

תפסיק לקרוא לדבר הזה א קטלני מחשב.

כמו כן, הפסיקו להכריז שהמחשבים הקונבנציונליים של היום כן בן אלמוות.

שני השימושים פשוט שגויים ומטעים בשפע, ממליצים הספקנים.

הגדרה מילונית יומיומית של מה שהוא אלמוות מורכבת ממשהו שאינו יכול למות. זה חי לנצח. כדי לא למות, יש להניח שאתה צריך לומר שהדבר עצמו חי. אתה צועד במסלול הלא נכון כדי לטעון שהמחשבים של היום חיים. אף אדם סביר לא ייחס למחשבים מודרניים תכונות "חיות" בתום לב. הם מכונות. הם דברים. הם אינם אנשים או חיות או במצב חי.

אם אתה רוצה למתוח את ההגדרה של אלמוות כדי לאפשר שאנו מתכוונים גם לישויות לא-חיות, במקרה כזה, הישות הלא-חיה תצטרך לכאורה לעולם לא להתפורר ולא יכולה בהכרח להתפרק לאבק. האם אתה יכול לטעון טענה כזו לגבי המחשבים של היום? זה נראה מופרך (הערה צדדית: אנחנו יכולים כמובן להיכנס לדיון פילוסופי גדול על מהות החומר והקיום, אבל בוא לא נלך לשם במקרה הזה).

התמצית היא שהשימוש או יש שיגידו שימוש לרעה במילים "תמותה" ו"אלמוות" הוא מוזר ולא מתבקש. נטילת שפה רווחת ושימוש חוזר בו למטרות אחרות מבלבל וגורם למים עכורים. אתה צריך להיות מוכן כנראה להבין מחדש את המשמעות של בן תמותה ואלמוות בהקשר הספציפי הזה. זה הופך לבעייתי.

מטריד עוד יותר הוא שבחירות המילים הללו נוטות לאנתרופומורפיזציה את היבטי המחשב.

יש כבר די והותר בעיות הקשורות באנתרופומורפיזציה של AI, אנחנו בהחלט לא צריכים להמציא עוד אפשרויות כאלה. כפי שדנתי בהרחבה בסיקור שלי על אתיקה של בינה מלאכותית ובינה מלאכותית אתית, יש כל מיני דרכים פרועות שאנשים מייחסים למחשבים יכולות חיוניות. בתורו, זה מטעה אנשים להאמין באופן שווא שמחשבים מבוססי בינה מלאכותית יכולים לחשוב ולפעול כמו בני אדם. זהו מדרון חלקלק של סכנה כשהחברה משתחררת באמונה שה-AI והמחשוב של היום עומדים בקנה אחד עם האינטלקט והשכל הישר של המין האנושי, ראה למשל את הניתוח שלי ב- הקישור כאן ו הקישור כאן.

אוקיי, אנחנו יכולים לדחות או לזלזל בבחירות הניסוח המגושמות, אבל האם זה מרמז שעלינו לזרוק את התינוק עם מי האמבט (ביטוי ישן, כנראה לקראת פרישה)?

יש הטוענים שאולי נוכל למצוא ניסוח טוב יותר לגישה או תפיסה כוללת זו. הסר את השימוש ב"תמותה" ו"אלמוות" כדי ששאר הרעיונות לא יהיו נגועים בשימוש לא הולם או לא הולם. בינתיים, יש טענות נגד שמקובל לחלוטין להשתמש בבחירות המילים האלה, בין אם משום שהן מתאימות, או משום שאנו לא צריכים להיות לא גמישים לגבי האופן שבו אנו בוחרים לעשות שימוש חוזר במילים. ורד היא ורד בכל שם אחר, הם מצהירים.

כדי להימנע מדיון נוקב נוסף כאן, אני מתכוון להימנע מעתה משימוש במילים "תמותה" ו"אלמוות" ורק אציין שיש לנו שני סוגים עיקריים של מחשבים שמסתובבים סביב, אחד שהוא מחשב דיגיטלי רגיל של היום וה- אחר הוא מוצע נוירומורפי מחשב.

נראה שאין צורך לגרור את חידת התמותה לזה. שמור את השמיים נקיים כדי לראות מה עוד אנחנו יכולים לעשות מהעניין שעל הפרק.

במקרה כזה, יש שיטענו שהרעיון המוצע של מחשב נוירומורפי אינו דבר חדש.

אתה יכול להתחקות אחורה לימי הבינה המלאכותית המוקדמת יותר, במיוחד כאשר נבדקו תחילה ANNs, ולראות שהיו דיבורים על תכנון מחשבים מיוחדים לביצוע העבודה של רשתות עצביות מלאכותיות. הוצעו כל מיני חומרה חדשה. זה עדיין קורה עד היום. כמובן, אתה יכול לטעון נגד שרוב החקירה של היום של חומרה מיוחדת עבור ANNs ולמידת מכונה עדיין מבוססת על הגישה המקובלת למחשוב. במובן זה, חוסר ההפרדה האנלוגי הזה של החומרה והתוכנה אכן דוחף במידת מה את המעטפת, וגם ההצעה של "להגדיל" את המחשב עושה זאת, לפחות לגבי יציאה מחוץ למיינסטרים הנחשב.

בקיצור, יש כאלה ששואפים לגמרי בעניינים האלה, שמופתעים מכך שמישהו אחר עשוי להיות מופתע מההצעות המוצגות. מושגים אלה זהים לבעבר או מהדהדים את מה שכבר נבדק במעבדות מחקר שונות.

אל תכניס את השיער שלך לרעש, הם אומרים.

זה אכן לוקח אותנו לפן אחר שמטריד רבים.

במילה אחת: חיזוי.

המחשבים של היום נחשבים בדרך כלל כצפויים. אתה יכול להסתכל על החומרה והתוכנה כדי להבין מה המחשב עומד לעשות. כמו כן, אתה יכול לעקוב אחר מה שמחשב כבר עשה כדי להבין מדוע הוא עשה מה שהוא עשה. יש כמובן גבולות לעשות את זה, לכן, אני לא רוצה להפריז במידת הניבוי, אבל אני חושב שאתה מבין את הרעיון בסך הכל.

אתה אולי מודע לכך שאחת הבעיות הקוצניות שעומדות בפני AI היום היא שחלק מה-AI מתוכנן להיות מותאם לעצמך. הבינה המלאכותית שהמפתחים הציבו עשויה לשנות את עצמה בזמן השימוש בה. בתחום האתיקה של בינה מלאכותית, ישנן דוגמאות רבות של בינה מלאכותית שהוכנסו לשימוש שבהתחלה לא היו לה הטיות מיותרות או נטיות מפלות, שלאחר מכן הוחלו מוטציה עצמית חישובית בהדרגה בזמן שה-AI היה בייצור, ראה שלי הערכות מפורטות ב הקישור כאן.

הדאגה היא שאנחנו כבר נכנסים להגדרה הכוללת בינה מלאכותית שאינה בהכרח ניתנת לחיזוי.

נניח שבינה מלאכותית למערכות נשק עוברת התאמות עצמיות והתוצאה היא שה-AI מתחמש ומשגר נשק קטלני במטרות ובזמנים שלא צפויים. ייתכן שבני אדם אינם בעניינים לעצור בינה מלאכותית. ייתכן שבני אדם שנמצאים במעגל לא יוכלו להגיב מספיק מהר כדי לעקוף את פעולות הבינה המלאכותית. לדוגמאות מצמררות נוספות, ראה את הניתוח שלי ב הקישור כאן.

עבור מחשבים נוירומורפיים, החשש הוא שאנו שמים אי-חיזוי על סטרואידים. מההתחלה, המהות של מחשב נוירומורפי יכולה להיות שהוא עובד בצורה שסותרת את התחזית. אנחנו מתהדרים בחוסר חיזוי. זה הופך לאות כבוד.

קיימים שני מחנות.

מחנה אחד אומר שאנחנו יכולים לחיות עם החששות הלא-חזויים המטרידים, לעשות זאת על ידי הצבת מעקות כדי למנוע מה-AI ללכת לגשר רחוק מדי. המחנה השני טוען שאתה מוריד את העולם בדרך מסוכנת. יתעורר היום שבו מעקות הבטיחות הנטענים ייכשלו, או שהם לא מספיק מחמירים, או שבשוגג או בכוונה רעה, מסירים את המעקות או מתעסקים בהם.

האם עלינו לנפנף את החששות בנוגע למחשבים נוירומורפיים ולחיזוי?

לפי דבריו של החוקר: "בין האנשים שמתעניינים בחישוב אנלוגי, יש מעט מאוד עדיין שמוכנים לוותר על האלמוות". יתר על כן: "אם אתה רוצה שהחומרה האנלוגית שלך תעשה את אותו הדבר בכל פעם... יש לך בעיה אמיתית עם כל הדברים החשמליים התועים והדברים האלה."

אני ארחיב את זה.

פרספקטיבה מתנשאת וקצת קודרת היא שהחיזוי כביכול הקשור למחשבים הדיגיטליים של היום הולכת בכל מקרה לכיוון של אי-חיזוי. כאמור, זה יכול לקרות במיוחד לכל AI שמתכוונן בעצמו בפלטפורמות מחשב קונבנציונליות. רק בגלל שהמחשבים הנוירומורפיים עשויים להיות בלתי צפויים לכאורה, אינו סימן לכך שמחשבים דיגיטליים קונבנציונליים הם למעשה ניתנים לחיזוי.

רולר הקיטור הבלתי צפוי מגיע אלינו, מלא קיטור, לא משנה באיזו פלטפורמת מחשוב תרצו לבחור. להערכתי לגבי המאמצים האחרונים לנסות ולהשיג בטיחות AI באור זה, ראה הקישור כאן.

הטוויסט הזה לגבי חיזוי אמור לגרום למוח שלך להתעסק במשהו בעל אופי שנחשף, בערך. אלו מכם שעוסקים באתיקה של בינה מלאכותית ובחוק בינה מלאכותית עשויים לֹא שקלו את ההשלכות של מחשבים נוירומורפיים.

כנראה שכיוונתם למחשבים דיגיטליים רגילים המריצים AI. ובכן, נחשו מה, יש לכם קטע נוסף ומתפתח לחלוטין של מחשוב בינה מלאכותית, שכעת תוכלו להישאר ערים ולדאוג לגביו בלילה. כן, מחשבים נוירומורפיים. שים את זה ברשימת המטלות שלך.

סליחה, עוד לילות ללא שינה בשבילך.

הבה נבחן בקצרה מה עשו אתיקה של AI וחוק AI לגבי מחשוב דיגיטלי קונבנציונלי ובינה מלאכותית.

בטורים קודמים, כיסיתי את המאמצים הלאומיים והבינלאומיים השונים ליצור ולחוקק חוקים המסדירים בינה מלאכותית, ראה הקישור כאן, לדוגמה. כיסיתי גם את העקרונות וההנחיות השונות של AI אתיקה שאומות שונות זיהו ואימצו, כולל למשל את המאמץ של האומות המאוחדות כגון קבוצת האתיקה של AI של אונסק"ו שכמעט 200 מדינות אימצו, ראה הקישור כאן.

הנה רשימה מועילה של אבן מפתח של קריטריונים או מאפיינים אתיים של בינה מלאכותית לגבי מערכות בינה מלאכותית שחקרתי מקרוב בעבר:

• שקיפות
• צדק והגינות
• אי זדון
• אַחֲרָיוּת
• פרטיות
• תועלת
• חופש ואוטונומיה
• סומך
• קיימות
• כָּבוֹד
• סולידריות

עקרונות האתיקה של בינה מלאכותית אמורים להיות מנוצלים ברצינות על ידי מפתחי בינה מלאכותית, יחד עם אלה שמנהלים מאמצי פיתוח בינה מלאכותית, ואפילו אלו שבסופו של דבר מתמחים ומבצעים תחזוקה במערכות בינה מלאכותית.

כל בעלי העניין לאורך כל מחזור החיים של הפיתוח והשימוש בבינה מלאכותית נחשבים במסגרת של ציות לנורמות הקיימות של בינה מלאכותית אתית. זהו גולת הכותרת חשובה מכיוון שההנחה הרגילה היא ש"רק קודנים" או אלו שמתכנתים את ה-AI כפופים לעמידה במושגי האתיקה של AI. כפי שהודגש כאן קודם לכן, נדרש כפר כדי לתכנן ולהשיג בינה מלאכותית, ועבורו על כל הכפר להיות בקיא ולציית למצוות האתיקה של בינה מלאכותית.

החלק של זה שאולי לא הקדשתם לו הרבה מחשבה בעבר הוא כיצד אותן מצוות אתיקה של AI והרשימה המתפתחת של חוקי AI חדשים יחולו על מחשבים נוירומורפיים. כדי להבהיר, אתיקה של AI וחוק AI אכן צריכים לקחת זאת בחשבון במפורש. אני מצביע על כך שרק מעטים עושים זאת, ויודע שקיים סיכוי גדול שהופעת מחשבים נוירומורפיים תזרוק רבים ללופ במונחים של מימד חדש לניסיון לשלוט בבינה מלאכותית.

עלינו לשקול את חוקי הבינה המלאכותית וה-AI בצורה רחבה מספיק כדי להקיף את כל הבינה המלאכותית שהוכנה לאחרונה, כולל מחשבים נוירומורפיים.

חלופת הנדנדה היא גמביט קלאסי של חתול ועכבר. הנה איך זה הולך. דרכים חדשות ליצירת בינה מלאכותית נוצרות ונבנות. אתיקה של AI וחוקי בינה מלאכותית הקיימים נתפסים לא מוגנים ואינם מקיפים במלואם את מעשי הבינה המלאכותית האחרונים. נעשה מאמץ נמהר לעדכן את חוקי AI אתיים ולשנות את חוקי ה-AI החדשים שהוטבעו.

מקציפים, שוטפים, חוזרים.

עדיף לכולנו להקדים את המשחק, במקום להיתפס מאחורי כדור השמונה.

סיכום

לקחתי אותך למסע קטן.

בהתחלה, הצעתי שיהיו שני נושאים עיקריים לבחינה:

1) חיבור אינטגרלי של החומרה והתוכנה עבור מיכוני בינה מלאכותית במקום להיות בעלי ברית נפרדים ונפרדים

2) העברה או זיקוק של ניסוחי למידת מכונה ממודל AI אחד לאחר שעושה זאת מבלי לדרוש או בהכרח לרצות (או אפילו אפשרי אחרת) העתקה גזעית מלאה ישר קדימה

הנושא הראשון על החיבור בין חומרה ותוכנה היה עיקר המסע כאן. זה הוביל אותנו למוסת המחשוב בן תמותה מול אלמוות. מתוכם היו כמה שיקולי אתיקה של AI וחוק AI חיוניים, שאחרת לא היו מובאים בדרך כלל, מכיוון שסוג זה של נושא הקשור למחשב נתפס בדרך כלל על ידי חלקם כנושא טכנולוגי בלבד ולא כרוך בחשש להשפעה חברתית כלשהי.

אני אומר שהכי נבון להיות מוקדם ובטוח יותר, ולא מאוחר יותר ולהיות גרוע יותר כשמדובר בהבאת חוק AI ו-AI אתי.

הנושא השני, שעדיין לא ניסחתי כאן, מתייחס באופן מהותי לנושא הראשון.

הנה העסקה.

נניח שיש לנו "מחשב בן תמותה" ואנו רוצים לשמר את היכולות כך שנוכל לקבל גיבוי או לכאורה עותקים של מה שה-AI מכיל. אנו עשויים להיות מודאגים שמחשב בן תמותה מסוים מתקרב לסופו. איכס, אנחנו תלויים בזה. מה עלינו לעשות? תשובה אחת היא שאנחנו צריכים להעתיק את הדבר הארור.

אבל, העתקת מחשב נוירומורפי מהסוג שמשורטט תהיה קשה יותר ממה שזה נראה במבט ראשון. דברים יכולים להיות מסובכים.

אולי עלינו להמציא תכסיס העתקה שיהיה ניתן להכללה וישים לנסיבות הכוללות למידת מכונה ורשתות עצביות מלאכותיות. אנחנו רוצים שזה יעבוד על מקרים בקנה מידה גדול וגדול במיוחד. גם אנחנו נהיה מוכנים שהעותק לא יהיה כפיל מדויק, ובמקום זאת עשוי להיות שווה ערך או אולי אפילו טוב יותר שנוצר כתוצאה מפעולת ההעתקה.

טכניקה המכונה זיקוק הוצע.

נגמר לי המקום לטור של היום, אז אני אקח את הנושא השני הזה בטור הקרוב. תיארתי לעצמי שתרצה לדעת על הקשר מיד בין הנושא השני לנושא הראשון שכוסה בהרחבה כאן. חשבו על זה כעל הערה נוספת המשמשת כטיזר או טריילר למה שעומד לקרות בהמשך.

הישאר על קצה המושב שלך, מכיוון שנושא הזיקוק בולט למדי.

כפי שבאטמן נהג לומר, תחזיקו את כנפי העטלף שלכם והיו מוכנים לאותו זמן עטלף וערוץ עטלף של פתיחת השאלה המטרידה כיצד להעתיק מודל ANN או מכונה למידת מכונה או מחשב נוירומורפי למחשב אחר.

הערה אחרונה לעת עתה. יש שורה מפורסמת בסרט האביר האפל חוזר שבו אומר הצלב הכפפה שלנו את זה: "העולם הגיוני רק אם אתה מכריח אותו". אני אנסה לשמור על האידיאל הזה כאשר אכסה את הנושא השני על זיקוק הקשור לבינה מלאכותית.

הישארו מעודכנים לחלק 2 של הכותרת הכפולה המרגשת והמרתקת הזו.