כשהוא לא עובד על לזרז את החיפזון של האנושות לעבר הסינגולריות על ידי יצירת בינה כללית מלאכותית (AGI), בן גורצל מנגן בלהקת ג'אז-רוק בשם Jam Galaxy מול רובוט בשם Desdemona.
זה אחד מפרויקטים צדדיים רבים שלו, שבאופן טבעי הוביל אותו לנסות ולנסות את עסקי המוזיקה על ידי יצירת קשר עם חברי פרל ג'אם והלב. Goertzel עובד גם על מחקר אריכות ימים על ידי מיקור המונים של נתוני בריאות אנושיים עם תגמולים סמליים באמצעות אפליקציה בשם Rejuve.ai. מידע זה נאסף לאחר מכן עם נתוני מחקר על בעלי חיים וחרקים ומנתח עם AI כדי לקבוע אילו חלקים של הגנום יכולים לגרום לנו לחיות זמן רב יותר ולאחר מכן מגורה באמצעות טיפולים גנטיים. "היו לנו כמה תגליות מדהימות ברמת פריצת דרך", הוא אומר. אה, ורגע לפני שהראיון בן השעה שלנו מסתיים, הוא מזכיר כלאחר יד שהוא גם יוצר מטבע יציבות עבור שוק הבינה המלאכותית המבוזר שלו, SingularityNET, שמוצמד לאינדקס סינתטי של התקדמות סביבתית - כי הצמדתו לדולר ארה"ב תהיה "צוֹלֵעַ."
"ההתקדמות בסביבה יציבה מאוד. זה אף פעם לא הולך לשום מקום", הוא מציין.
"וכדי לתמרן את זה, אתה צריך למעשה לפתור את ההתחממות הגלובלית."
זה הסוג המדויק של הערה פוליטית פוגשת ידע בהייטק שאתה עשוי לצפות מגורצל, שנראה ונשמע כמו מדען היפי שנקלע למכונת זמן ב-1971 והופיע בצורה מלאה ב-2023. אבל אל תלך שולל על ידי הכובע עם הדפס החיות, השיער הארוך ו-Electrical Kool-Aid נסיעת חומצה: הוא מדען מבריק עם הבנה של שנות האור העתידיות לפני רובם ומי שמתמודד עם כמה מהמושגים הגדולים ביותר שהאנושות שקלה אי פעם. מהי תודעה? איך אנחנו יוצרים חיים מלאכותיים, ומה קורה אם זה לא מחבב אותנו, מתחרפן ומפיל את כולם כמו ב שליחות קטלנית 2?
מהי בינה כללית מלאכותית?
גורל פרסם את המונח "בינה כללית מלאכותית" כדרך להבדיל בין מכונת חשיבה אמיתית שיכולה ללמוד כמעט כל דבר, ל-AI שמותאמים למשימה מסוימת, כמו המחשב הכחול העמוק שגבר על אלוף העולם בשחמט, גארי קספרוב. הוא מודה בחופשיות שיש סיכונים בבניית מכונה שמסוגלת ללמוד הכל והכל, כולל איך לתכנת את עצמה מחדש כדי להפוך לסדר גודל יותר אינטליגנט מכל אדם.
"יש מספר סיכונים וסכנות עם AGI", אומר גורצל במהלך ההמולה במסעדה הודית במרכז קניות הומה בסינגפור. "אחד מהם שזכה לתשומת לב רבה בתקשורת הוא ש-AGI תשתולל ותחסל את האנושות ותשתלט על היקום. זה לגמרי אפשרי; אתה לא יכול לשלול את זה", הוא אומר.
"סיכון נוסף סביר יותר הוא שאנשים אנוכיים מגעילים ישתמשו בבינה מלאכותית כדי להפעיל את החמדנות והשליטה שלהם על אנשים אחרים."
לדעתו, ממשלות לא צפויות לבצע פריצות דרך ב-AGI מכיוון שהן "שמרניות וטיפשות מדי", אם כי הוא מציין שסין מעניקה את עבודת ה-AGI שלה לחברות כמו Tencent ובאידו. קרוב יותר לבית, הוא חושב שגם חטיבות הבינה המלאכותית של גוגל ופייסבוק לא יעברו את הגבול, מכיוון שהן יהיו ממוקדות מדי ביצירת פגיעה במדדים מסוימים, מה שלא תורם למחשבה יצירתית.
"בדיוק כמו שהאנשים המבריקים ביותר לא רוצים לשרת רק מדדים של מישהו אחר, אני חושב שגם בינה כללית מלאכותית לא בהכרח רוצה למקסם את הקליקים בדף האינטרנט של מישהו, נכון? צריך לאפשר לו לשחק בצורה יצירתית".
הסינגולריות בסביבות 1970
גורצל התחיל ללמוד באוניברסיטה בגיל 15, סיים את לימודיו בגיל 18, היה בעל דוקטורט בגיל 22 ומשפחה צעירה בגיל 23. אולי באופן יוצא דופן בעידן זה, הוא לא היה רק חכם מתמטיקה או גאון טכנולוגי שהלחים מחשבים ערכות יחד בשנות ה-70 אבל התעניין באותה מידה בפילוסופיה, בכתיבה יצירתית ובמוזיקה.
הוא בילה חלק ניכר מהקריירה שלו בהוראה ובמחקר של מדעי המחשב, מתמטיקה ומדעי הקוגניציה באוניברסיטאות שונות ברחבי העולם תוך כדי עבודה על טכנולוגיית AI בכל עת שיכול היה. מייסד סדרתי שנוטה להקדים כעשור את כולם עם הרעיונות שלו - שבעסקים, מפורסם שקול לטעות - הוא עבד על שימוש בבינה מלאכותית כדי לחזות שווקים פיננסיים ואריכות ימים, והוא גם עשה תפקיד בתור המדען הראשי של הנסון רובוטיקה, שם הוא נתן לסופיה הרובוט את המוח המלאכותי שלה.
גורצל חשב על צמיחה טכנולוגית אקספוננציאלית מאז שנות ה-1970, כשקרא לראשונה את ספרו של ג'רלד פיינברג. פרויקט פרומתאוס, שעוסק ב"מכונות שיכולות לחשוב טוב יותר מאנשים... מכונות ננוטכנולוגיה קטנות מיקרוסקופיות, ואנחנו הולכים לפתור את ההזדקנות." זה השתלב יפה עם הרעיון המתהווה של הסינגולריות, נקודה עתידית היפותטית שבה ההתקדמות הטכנולוגית הופכת לבלתי נשלטת ובלתי הפיכה, וכתוצאה מכך שינויים מסיביים בציוויליזציה האנושית.
"אז, אנשים יחיו לנצח, ואז השאלה תהיה, לשם מה אנחנו משתמשים בטכנולוגיות האלה, צרכנות מהירה חסרת תודעה, או שאנחנו משתמשים בה כדי להרחיב את התודעה? ומה שהוא [פיינברג] הציע זה להעלות את זה להצבעה דמוקרטית".
שנים מאוחר יותר, כשהחל לראות ש-AGI נמצאת בהישג ידנו, "ההצבעה הדמוקרטית" הזו הפכה להשראה להשתמש תחילה בטכנולוגיית קוד פתוח, ומאוחר יותר, בבלוקצ'יין כדרך להציב קהילה שיתופית אחראית על הטכנולוגיה.
"מה שהבנתי בשלב מסוים הוא שעם AI, שהקוד פתוח לא מספיק", הוא אומר. "אתה באמת צריך לאמן את הבינה המלאכותית על המון נתונים."
"כאן מגיע הבלוקצ'יין כדרך להפוך את העיבוד והנתונים שבבסיס הבינה המלאכותית למבוזרת ומקורית במיקור המונים בטבע ולפתוח בשליטה. וזה מסתבר יותר מסובך מסתם קוד פתוח".
Goertzel הקים את OpenCog ב-2008 כדי לבנות מסגרת של בינה מלאכותית בקוד פתוח, במקור המונים. הוא שימש 50 חברות, כולל Huawei ו-Cisco, והוא מיועד לשדרוג גדול בקרוב בשם Hyperon שמטרתו להאיץ אותו פי 200. גרסת האלפא צפויה להגיע ברבעון זה עם הבטא הצפויה בשנה הבאה.
בלוקצ'יין הוא בסיסי אבל מגניב
בעיני גורלצל, טכנולוגיית הבלוקצ'יין היא מעט בסיסית. הוא מתאר את זה כאלגוריתמים מבוזרים פרימיטיביים שנוספו לקריפטוגרפיה, אבל "השילוב המגניב" מאפשר למערכות לפעול ללא שליטה מרכזית, מה שהופך אותה למושלמת לצרכיו.
"אם אתה מתכוון ליצור מכונת חשיבה ואתה מתכוון להפוך אותה למארג מחשוב מבוזר בקנה מידה ננו, זה יהיה נחמד מאוד אם זה היה בבעלות כולם ואף אחד, ולא נשלט מלמעלה למטה."
רשתות הבלוקצ'יין איטיות מכדי להתמודד עם דרישות העיבוד וכמויות עצומות של נתונים המעורבים בהן, אז יש משהו כמו מירוץ להרחיב נכון של בלוקצ'יין לפני שפותח AGI פורץ דרך. גורצל אומר שבעוד שפתרונות קנה מידה כמו אוסף ידע אפס טובים יותר, עדיין אין להם מספיק רוחב פס בגלל מגבלות הבלוקצ'יין שאליו הם מדווחים על עסקאות.
הוא ייסד את SingularityNET ב-2017, שהיא גם שוק מבוזר לשירותי AI וטכנולוגיה וגם שיטת תיאום מבוססת בלוקצ'יין לחוקרים - או אפילו AIs - לעבוד יחד.
נכון לעכשיו, בהתבסס על Ethereum, הוא חושב שהוא דחף דברים עד כמה שהם יכולים להגיע בבלוקצ'יין בצורתו הנוכחית. לכן, כשהוא לא עובד על פריצת דרך ב-AGI (או הלהקה, או רובוטים, או אריכות ימים), הוא עובד על קנה מידה מאסיבי של blockchain כדי לתת לו את התפוקה הנדרשת.
"אלא אם כן אתה יכול להגדיל באופן קיצוני את המדרגיות של בלוקצ'יין, אתה לא יכול להכניס את הפעילות הפנימית של ה-AI לשרשרת."
AI קרובה יותר ממה שאתה חושב
2022 הייתה שנת פריצת דרך עבור מוצרים עובדים המבוססים על טכנולוגיית AI, כולל יישומי שפה (GPT-3, ChatGPT), קידוד (GitHub Copilot) ויצירת תמונות (DALL-E ו-Stable Diffusion). בינג אפילו מתכנן לקחת על עצמו את הדומיננטיות של גוגל בחיפוש השנה על ידי שילוב טכנולוגיית ChatGPT במנוע החיפוש שלה.
גורצל חושב ש-AGI יכול להיות במרחק של חמש שנים בלבד, ומציין שההתפתחויות בתחום נראות כמתפרצות קצרות של שלוש או ארבע שנים בסדרה של פריצות דרך.
"Computer Vision התחיל ב-2014, ואז פתאום, באנג, באנג, באנג, התעלומה נפתרה. עיבוד שפה טבעית... אחרי שגוגל המציאה את דגם Bert (בשנת 2018) היה לך GPT-3. סביר להניח שתראה את אותה קשת התקדמות ב-AGI. תהיה לך פריצת דרך אחת, ואז התקדמות רבה לשנתיים", אמר.
"ההבדל הוא ההתקדמות פורצת הדרך, במקרה כזה, גורם למכונה שתוכל להמשיך להתקדם בעצמה על ידי שכתוב הקוד שלה."
גורצל מקווה שהפרויקטים ושיתופי הפעולה שהוא הוציא לדרך יכולים להיות איך שהם מתרחשים.
"אם יתמזל מזלנו, נשיג את פריצת הדרך הזו בשלוש עד חמש השנים הבאות עם OpenCog Hyperon שפועל ב-SingularityNET ב-Hypercycle", הוא אומר. "אבל אם לא יתברר שיש לנו את הרוטב הסודי, מישהו אחר יעשה זאת."
חבל שוויטליק לא היה מדען מחשבים
הפתרון של גורצל להגדלת הבלוקצ'יין הוא די קיצוני וכולל טעינת טורבו של שרשרת צד או שכבה 2 של קרדנו בשם "HyperCyle".
"זה באמת יותר משרשרת צד. HyperCycle ישתף פעולה עם Ethereum ועם רשתות בלוקצ'יין אחרות, אבל אנחנו הולכים להשתמש שם במתורגמן פלוטוס, אבל אנחנו נפטרים מהפנקס".
הוא תיאר את HyperCycle באינטרנט כפותר את "טרילמת הבלוקצ'יין" של "ביזור מול אבטחה מול ביצועים על ידי היפטרות מפנקס החשבונות ושימוש באלגו ומבני נתונים מודרניים/מבוזרים יותר, בתוספת מעט מערכות בינה מלאכותית ומוניטין".
ספר החשבונות הוא לב ליבה של טכנולוגיית הבלוקצ'יין, אבל הוא אומר שהשכפל של כל צומת ברשת לשכפל כל עסקה ולעבד כל חוזה חכם הוא לא יעיל בצורה מגוחכת.
"פנקס החשבונות פשוט גרוע. אם אתה חושב על זה, אם אתה חושב על האנלוגיה של אנשי הקשר שלך בספר הטלפונים שלך, אני מתכוון, ספר החשבונות הוא כמו […] שמירה של 10,000 עותקים של דפי זהב, ואתה מעדכן אותם בכל פעם שמישהו חדש מגיע או אם מישהו משנה את מספר הטלפון שלהם. זה ממש טיפשי לעדכן 10,000 עותקים של דפי זהב”.
בגרסת HyperCycle של האנלוגיה, במקום שכולם יאחסנו ויעדכנו את דפי זהב, האנשים בספר אנשי הקשר שלך מאחסנים עותק של ספר הכתובות שלך, ולהיפך, מוצפן עם המפתח הפרטי שלך.
"מצאנו איך לגרום לבלוקצ'יין לעבוד בלי ספר חשבונות משוכפל, כדי לנפץ עד הסוף. כל אדם שעוסק בבלוקצ'יין שומר על היסטוריית העסקאות שלו ושומר על היסטוריית העסקאות של החברים שלו ושל חלק מחבריהם", הוא אומר.
"כשמחלקים את כל הדרך למטה, אתה לא צריך ספר חשבונות - אתה לא צריך טבלת מסד נתונים. הדברים האלה יותר מדי ריכוזיים".
לדבריו, כמה צמתים של HyperCycle שהוכחו את המושג כבר פועלים, אבל השקה בקנה מידה מלא לא יקרה עד המחצית השנייה של 2024.
אנו מבלים זמן רב בדיונים על היתרונות השונים של גישות שונות לבלוקצ'יין, מ-Internet Computer ועד Elastos ו- Celestia, שחלק גדול מהם הוא מעל דרגת השכר שלי ומעבר ליכולת של מכשיר ההקלטה שלי לצלם במדויק במסעדה רועשת.
הוא מסכם באומרו, "אז אני פשוט מרגיש שאף אחת מהארכיטקטורות האלה לא רדיקלית מספיק. כולם נצמדים מדי לביטקוין".
"כל עוד אתה מפעיל כל חוזה חכם בכל צומת, אני מתכוון, זה הולך להיות איטי בטירוף. עכשיו, ב-HyperCycle, אם אתה מפעיל חוזה חכם על חמישה צמתים, לפחות הוא איטי רק פי חמישה מאשר במכונה אחת - הוא לא איטי פי 10,000."
אז למה קרדנו?
גורצל התיידד עם מייסד קרדנו, צ'רלס הוסקינסון, כשהזוג מתחבר לפרויקטים שלהם באפריקה. הוא מאמין שהוסקינסון "באמת נמצא שם כדי להציל את העולם. כלומר, מבחינה פוליטית הוא ליברטריאן הארדקור ממני - אני יותר אנרכי-סוציאליסט - אבל הוא לא רק בעניין כדי להרוויח כסף או להעלים אנשים אחרים מכספם".
אבל המשיכה האמיתית של קרדנו היא שהיא משתמשת בשפת התכנות Haskell, שגורצל מעריץ אותה מאז 1993. כואב לו מאוד שמייסד Ethereum Vitalik Buterin הלך עם שפת התכנות החכמה של Gavin Wood Solidity.
"אם רק ויטליק היה יודע יותר מדעי המחשב, הוא היה גורם להם להשתמש ב- Haskell או F Sharp או משהו, והיו הרבה פחות פריצות לבלוקצ'יין", הוא אומר.
"אם אתה מתכוון לנהל את רוב כלכלת העולם, לסחור בטריליוני דולרים במערכת תוכנה כלשהי, עדיף לך לבנות את מערכת התוכנה הזו בשפה שאינה נוטה לבאגים ושבה האלגוריתמים שלך יכולים להיות באופן רשמי מאומת באמצעות תיאוריה מתמטית. זו פשוט הדרך הנכונה לעשות דברים".
פתרון סטופ-פער
לא משנה כמה מהר הבלוקצ'יין יגיע, ברגע שה-AGI יהיה בסדר גודל חכם ויכול יותר מבני אדם, גורצל אומר שהוא לא ייתן לאף אחד לשלוט בו.
"כאשר AGI הוא פי 100 יותר חכם מאנשים, הוא לא רוצה להיות נשלט על ידינו, כפי שלא היינו נשלטים על ידי שימפנזה או חמור, נכון?"
"אז הייתי אומר שהשאלה היא לא אחד מאיתנו שולט בה, השאלה היא: האם היא נוטה לנו? האם זה יאפשר לאנשים לווסת את העסק שלהם ולספק לנו כלים מגניבים וננו אסמבלים כדי להדפיס בתלת מימד את כל הדברים שאנחנו רוצים ולרפא את המחלות שלנו?"
"אבל תקופת המעבר שבה ה-AGI עוסקת באותה אינטליגנציה כמו אנשים, אז הדברים נוגעים יותר ויותר מעניינים. והשאלה היא אם כן: האם AGI רוצה לשתף פעולה עם אנשים? או שזה פרנואיד ורוצה לשלוט באנשים לפני שהם הורסים את זה?"
למד את ילדיך היטב
לדעתו של גורצל, הפתרון הוא ללמד את האג"י על דאגה לזולת ועל יצירתיות ואמנות. שם נכנסות לתמונה דסדמונה הרובוט בלהקתו, ואחותה גרייס - שנועדה לספק טיפול בקשישים.
הדרך שבה אתה נמנע מ-AGI להפוך ל-Skynet של Terminator היא לא לבנות אותו כך מלכתחילה.
"סקיינט, כמובן, בסרט הייתה רשת אבטחת מחשבים שהשתוללה. הוא נוצר כדי להגן על עצמו מפני אנשים", הוא אומר.
"אבל אם תבנה את ה-AGI הראשון שעוסק בטיפול בקשישים ובאמנויות יצירתיות וחינוך ככל שהוא נעשה חכם יותר, הוא יהיה מכוון לעזרה לאנשים ויצירת דברים מגניבים. אם תבנה את ה-AGI הראשון שיהרוג את הרעים... אולי הוא ימשיך לעשות את הדברים האלה."
"אז, מועיל או לא, זה באמת מסתכם באילו יישומים פיתחת ולמה תמרצת."
הוא מאמין שהכנסת AI לגופי רובוט מועילה מכיוון שהיא עוזרת למקם אותם בעולם האמיתי, ולא באיזה יקום מתמטי מופשט.
"AI צריך ללמוד על העולם האנושי והעולם הפיזי. התגלמות בעולם היא הדרך הנכונה לעשות זאת", הוא אומר.
אבל כשהוא מציג את סופיה הרובוט לקהל גדול, החיישנים החזותיים והשמיעתיים יכולים להיות מהמם בקלות, ולבלבל את ה-AI בסביבה רועשת ומוארת. אז, סופיה תשיק בקרוב ב-metaverse, שנקרא Sophiaverse. תשכחו מהתשובות המשעממות המבוססות על טקסט של ChatGPT, סופיה מגולמת בעולם וירטואלי תלת מימדי, והיא תלמד מאינטראקציה עם אנשים שם. עם זאת, הוא מזהיר שהיא כנראה תגיד כמה דברים מטומטמים.
"יש לו רשת עצבית דומה ל-GPT-3 וכן הלאה, שיש לה אפשרות משמעותית לענות על השאלות שלך, אבל הן גם די מטופשות במובנים מסוימים."
הירשם
הקריאה המרתקת ביותר בבלוקצ'יין. נמסר פעם אחת א
שבוע.
מקור: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/