הסיבות לוויסות אלגוריתמי AI הן פשוטות יותר ממה שאתה חושב

האם אתה חושש שהבינה המלאכותית תשתלט על העולם? רבים עושים זאת. מאלון מאסק דואג DeepMind מנצח בני אדם במשחק המתקדם של Go בשנת 2017, לחברי קונגרס, לקובעי מדיניות אירופאים (ראה גישה אירופאית לבינה מלאכותית), ואנשי אקדמיה, יש תחושה שזה העשור להתייחס לבינה מלאכותית ברצינות, והיא תופסת אחיזה. עם זאת, לא מהסיבות שאתה עשוי לחשוב ולא בגלל כל איום נוכחי.

כאן נכנסים לתמונה האלגוריתמים. מה זה אלגוריתם, אתם עשויים לשאול? הדרך הפשוטה ביותר לחשוב על זה היא כמערכת של הוראות שמכונות יכולות להבין וללמוד מהן. אנחנו כבר יכולים להורות למכונה לחשב, לעבד נתונים ולהנמק בצורה מובנית ואוטומטית. עם זאת, הבעיה היא שברגע שניתנו הוראות כאמור, המכונה תפעל לפיהן. לעת עתה, זו הנקודה. בניגוד לבני אדם, מכונות עוקבות אחר הוראות. הם לא לומדים כל כך טוב. אבל ברגע שהם עושים זאת, הם עלולים לגרום לבעיות.

אני לא רוצה להעלות טיעון סנסציוני על הרעיון של מחשבים שיום אחד יעלו על האינטליגנציה האנושית, הידוע יותר כטיעון הסינגולריות (ראה הפילוסוף של ניו יורק דיוויד צ'למרס הגיגים על הנושא.) במקום זאת, ייצור עשוי להיות הדוגמה הטובה ביותר מדוע אלגוריתמי AI מתחילים להיות חשובים יותר לציבור הרחב. חוששים שמכונות יאיץ מאוד את יכולתן על חשבוננו. לא בהכרח משיקולים מתקדמים, אלא בגלל האופטימיזציה בגבולות מה שאומר אלגוריתם.

ייצור הוא ליצור דברים. אבל כשמכונות מייצרות דברים, אנחנו צריכים לשים לב. גם אם מה שהמכונות מייצרות הוא פשוט. אני אסביר למה.

ממגפי גשם לטלפונים סלולריים ובחזרה

נגיד, מפעל ייצר מגפי גשם. אני אוהב מגפי גשם כי גדלתי באזור בנורבגיה שבו יורד הרבה גשם; אני אוהב להיות בחוץ, כפוף לאלמנטים הרבים של הטבע. נוקיה ייצרה את מגפי הגשם עליהם גדלתי. כן, הנוקיה שאנו מכירים היום כחברת האלקטרוניקה נהגה לייצר מגפי גומי. למה המפתח הזה? כי ברגע שאתה עושה משהו, נועד לך לרצות לעשות שיפורים. זה הגיוני. אפשר לומר שזה הטבע האנושי.

מה שקרה לנוקיה ידוע והולך קצת ככה: בתחילה מפעל נייר, כשהייתי ילד, ייצור מגפי גומי (וצמיגים) היה מוצלח במיוחד עבור החברה. עם זאת, הם ראו הזדמנויות נוספות. לפיכך, בשלב מסוים בשנות ה-1980, הם עברו לאלקטרוניקה ושינו במהירות את המפעלים, ובנו מבנה גדול של ספקים מקומיים כשהחלו לייצר טלפונים סלולריים. זה הוביל את מהפכת התקשורת הסלולרית, שהתחילה בסקנדינביה והתפשטה לשאר העולם. מובן שרבים כתבו את סיפורה של נוקיה בשנות ה-1990 (ראה הסודות מאחורי הנס הפיני: עלייתה של נוקיה).

הדוגמה שלי היא פשוטה. אולי, פשוט מדי. אבל תחשוב על זה ככה. אם חברה גדולה יכולה לעבור במהירות מייצור נייר לכתיבה, למגפיים שמקלים על היציאה לגשם, אז לבסוף, לטלפונים סלולריים שמשנים את הדרך שבה בני אדם מתקשרים: כמה קל יהיה השלב הבא? נניח שחברה שמייצרת טלפונים סלולריים מחליטה לייצר ננו-בוטים ואולי אלה ממריאים בעוד עשור, ומשנה את האנושות עם מכונות זעירות שמתרוצצות באופן אוטונומי בכל מקום, מסוגלות להרכיב מחדש ולשנות את החוויה האנושית. מה אם זה יקרה בלי להתחשב איך אנחנו רוצים שזה יתרחש, מי אנחנו רוצים שיהיה אחראי, והמטרות הסופיות?

הצעה שרובוטים עזרו במודע לנוקיה להחליט לייצר טלפונים סלולריים תהיה מאמץ. אבל ההכרה בכך שלטכנולוגיה היה תפקיד במתן אפשרות לאזור כפרי פיני בחופו הצפוני לחשוב שהם יכולים להשיג שליטה עולמית בתעשייה חדשה, משחקת תפקיד משמעותי.

הסיפור של נוקיה לא היה כל כך ורוד בעשור האחרון בהתחשב בכך שהם לא הצליחו לקחת בחשבון את הופעתן של מערכות הפעלה מבוססות תוכנה iOS ואנדרואיד. כעת, כתוצאה מכך, נוקיה לא מייצרת יותר טלפונים. בסיפור קצת של קאמבק, הם מייצרים כעת תשתית רשת וטלקום, פתרונות אבטחת רשת, נתבי Wi-Fi, תאורה חכמה וטלוויזיות חכמות (ראה סיפור הקאמבק של נוקיה). נוקיה עדיין מייצרת דברים, זה נכון. ההערה היחידה שיש לעשות היא שנראה כי נוקיה תמיד נהנית לערבב בין הדברים שהם מייצרים. אפילו החלטות ייצור של בני אדם, לפעמים, קשות להבנה.

ייצור פירושו לגרום לדברים ודברים להתפתח. באופן כללי, מה שאנחנו מייצרים היום השתנה מלפני עשור בלבד. למדפסות תלת מימד יש ייצור מבוזר של מוצרים מתקדמים רבים, הן בתעשייה והן בבית. ההשלכות שמשנות את החיים של הדפסת תלת מימד טרם התרחשו. אנחנו לא יודעים אם זה יימשך אבל אנחנו כן יודעים שההתמקדות של ה-FDA היא בוויסות ייצור המוצרים (ראה כאן) כמו הכדורים המודפסים או המכשירים הרפואיים הנובעים מכך, בעיות הקניין הרוחני והאחריות הברורות, או הבעיות סביב היכולת להדפיס כלי נשק. בסופו של דבר, הדיון במדיניות לגבי ההשלכות השליליות שעלולות להיות להדפסת תלת מימד מעבר לכך אינו קיים, ומעטים מאיתנו טרחו לחשוב על כך.

אני לא מציע שהדפסת תלת מימד מסוכנת כשלעצמה. אולי זו דוגמה גרועה. עם זאת, דברים שנראים מלכתחילה ארציים יכולים לשנות את העולם. יש המון דוגמאות: ראש החץ של הצייד/לקפן עשוי מתכת שמתחיל מלחמות, מסכות פולחניות שמגינות עלינו מ-COVID-3, מסמרים שבונים גורדי שחקים, מכונות דפוס ניידות ש(עדיין) ממלאות את המפעלים שלנו בנייר מודפס ומעצימות את הוצאה לאור, נורות שמאפשרות לך לראות ולעבוד בפנים בלילה, אני יכול להמשיך. אף אחד שאני מכיר לא ישב בסוף המאה ה-19 וחזה שנוקיה תעביר את הייצור שלה מנייר לגומי לאלקטרוניקה, ואז הרחק מהטלפונים הסלולריים. אולי הם היו צריכים.

בני אדם הם מנבאים גרועים של שינוי צעד, התהליך שבו שינוי אחד מוביל לשינוי נוסף, ופתאום, הדברים שונים בתכלית. אנחנו עדיין לא מבינים את התהליך הזה כי יש לנו מעט ידע מעשי בשינוי אקספוננציאלי; אנחנו לא יכולים לדמיין את זה, לחשב את זה או להבין את זה. עם זאת, פעם אחר פעם, זה מכה בנו. מגפות, גידול אוכלוסיה, חדשנות טכנולוגית מהדפסת ספרים ועד רובוטיקה, זה בדרך כלל מכה אותנו ללא אזהרה.

הטריק עם עתידנות הוא לא אם, אלא מתי. אפשר למעשה לחזות שינוי רק על ידי בחירת כמה שיטות ייצור חדשות והצהרה שהן יהפכו נפוצות יותר בעתיד. זה מספיק פשוט. החלק המסובך הוא להבין מתי בדיוק ובעיקר איך.

מהדקים הם לא הבעיה

קחו שוב את הדוגמה של המפעל שלי, אבל הפעם, דמיינו שהמכונות אחראיות על החלטות רבות, לא על כל ההחלטות, אלא על החלטות ייצור כמו אופטימיזציה. בספר שלו התבונה העל, ההומניסט הדיסטופי של אוניברסיטת אוקספורד, ניק בוסטרום, דמיין באופן מפורסם אלגוריתם אופטימיזציה של AI המנהל מפעל מהדקי נייר. בשלב מסוים, הוא אומר, דמיינו לעצמכם שהסיבות של המכונה לכך שלמידה להפנות משאבים הולכים וגדלים למשימה היא רציונלית, שבסופו של דבר הופכת בהדרגה את העולם שלנו לאטבי נייר ומתנגדת לניסיונות שלנו לכבות אותו.

למרות היותו בחור חכם, הדוגמה של בוסטרום די מטומטמת ומטעה (עם זאת, בלתי נשכחת). ראשית, הוא אינו מצליח להסביר את העובדה שבני אדם ורובוטים אינם עוד ישויות נפרדות. אנחנו מקיימים אינטראקציה. רוב הרובוטים החכמים מתפתחים לקובוטים או רובוטים משותפים. לבני אדם יהיו הזדמנויות רבות לתקן את המכונה. למרות זאת, הנקודה הבסיסית שלו נשארת בעינה. ייתכן שיהיה שינוי שלבים בשלב מסוים, ואם השינוי הזה יקרה מספיק מהר וללא פיקוח מספיק, השליטה עלולה לאבד. אבל התוצאה הקיצונית הזו נראית קצת מופרכת. כך או כך, אני מסכים, אנחנו צריכים להסדיר את בני האדם שמפעילים את המכונות הללו ולהורות שהעובדים תמיד יהיו בעניינים על ידי הכשרתם המתאימה. אימון מסוג זה לא הולך טוב. כרגע זה לוקח יותר מדי זמן ודרושות כישורים מיוחדים גם כדי להתאמן וגם כדי להיות מאומן. אני יודע דבר אחד. בעתיד כל מיני אנשים יפעילו רובוטים. מי שלא, יהיה די חסר אונים.

הגברת בני אדם עדיף על אוטומציה חסרת תודעה, ללא קשר אם לעולם לא נתמזג לחלוטין עם מכונות. שני המושגים מובחנים מבחינה לוגית. זה אפשרי שגם אנשים וגם רובוטים יתקעו באוטומציה למען האוטומציה. זה יעשה נזק גדול לייצור בעתיד. גם אם זה לא מייצר רובוטים קטלניים. אני מאמין שמיזוג נמצא במרחק של מאות שנים, אבל זה לא העניין. גם אם זה רק שלושים שנה, המכונות המונעות את עצמו הפועלות על אלגוריתמים פשטניים שמאבדים שליטה, התרחיש הזה כבר מתרחש ברצפת החנות. חלק מהמכונות הללו הן בנות שלושים שנה ופועלות על מערכות בקרה ישנות וקנייניות. האתגר העיקרי שלהם הוא לא שהם מתקדמים אלא ההיפך. הם פשטניים מכדי להיות מסוגלים לתקשר. זו לא בעיה למחר. זו בעיה קיימת מראש. עלינו לפקוח את עינינו אליו. תחשוב על זה בפעם הבאה שאתה נכנס למגפי הגומי שלך.

עדיין יש לי את מגפי נוקיה משנות השמונים. יש בהם חור, אבל אני שומר אותם כדי להזכיר לעצמי מאיפה אני וכמה רחוק הלכתי. גם הגשם ממשיך לרדת, וכל עוד הוא נקי מספיק, אני לא רוצה תיקון טוב יותר עבור המגפיים האלה. אז שוב, אני בן אדם. יש להניח שרובוט כבר היה ממשיך הלאה. מהי גרסת הבינה המלאכותית של מגפי גשם, אני תוהה. זה לא טלפון סלולרי. זה לא חיישן גשם. זה מבלבל את המוח.

מגפיים דיגיטליים היום אומר שאתה יכול להתאים אותם אישית כי יש עליהם עיצובים מודפסים בתלת מימד. ישנן נעליים וירטואליות שקיימות רק כ-NFT (אסימונים שאינם ניתנים לשינוי) שניתן למכור ולסחור. נעלי הסניקרס הוירטואליות המובילות שוות 3 דולר בימינו (ראה מהי נעלי ספורט NFT ומדוע היא שווה $10,000?). אני לא מפחד מהם אבל האם כדאי לי להיות? אם העולם הוירטואלי יקבל ערך רב יותר מהעולם הפיזי, אולי אעשה זאת. או שעלי לחכות להיות מודאג עד שהדמות של AI עצמו יקנה אתחול NFT משלו כדי להתמודד עם "הגשם"? אם נבנה אלגוריתמים בתדמית שלנו, סביר יותר שבינה מלאכותית תהיה טובה בדברים שהיינו רוצים שהיינו טובים בהם אבל בדרך כלל לא, כמו קניית מניות, בניית חברויות נאמנות (אולי עם מכונות וגם עם בני אדם) וזכירה דברים. המטא-וורס התעשייתי עשוי להיות מתוחכם באופן מפתיע - מלא בתאומים דיגיטליים שמחקים את העולם שלנו ומתעלים עליו בדרכים פוריות - או שהוא יכול להיות פשוט להחריד. אולי שניהם. אנחנו פשוט לא יודעים עדיין.

אנחנו צריכים לווסת אלגוריתמי AI כי אנחנו לא יודעים מה יש מעבר לפינה. זו סיבה מספקת, אבל לגבי איך אנחנו עושים את זה, זה סיפור ארוך יותר. הרשו לי עוד תצפית מהירה, אולי כל האלגוריתמים הבסיסיים צריכים להיות זמינים לציבור. הסיבה היא שאם לא, אין דרך לדעת למה הם עלולים להוביל. המובילים שבהם ידועים למדי (ראה 10 האלגוריתמים המובילים של למידת מכונה), אבל אין סקירה עולמית של היכן וכיצד הם יתרגלו. יש להקפיד על אלגוריתמים ללא פיקוח במיוחד (ראה שישה מקרי שימוש רבי עוצמה עבור למידת מכונה בייצור), בין אם הם משמשים לניבוי תחזוקה או איכות, כדי לדמות סביבות ייצור (למשל תאומים דיגיטליים), או ליצירת עיצובים חדשים שאדם לא היה חושב עליהם. בנוף של היום, האלגוריתמים הבלתי מפוקחים הללו הם בדרך כלל מה שנקרא רשתות עצביות מלאכותיות, המנסות לחקות את המוח האנושי.

התחלתי לדאוג לגבי רשתות עצביות, רק בגלל שקשה לי להבין את ההיגיון שלהן. הבעיה היא שרוב המומחים, אפילו אלה שפורסים אותם, לא מבינים איך האלגוריתמים האלה עוברים משלב לשלב או משכבה לשכבה. אני לא חושב שהמטפורה של "שכבות נסתרות", שבה משתמשים לעתים קרובות, היא מאוד קולעת או מאוד מצחיקה. לא צריך להיות רבדים נסתרים בייצור, בגביית מסים אוטומטית, בהחלטות גיוס עובדים או בקבלה למכללות, בתור התחלה. אולי כדאי לשקול גם להיות מודאג? דבר אחד בטוח, בני אדם ומכונות שיוצרים דברים ביחד ישנו את העולם. זה כבר קרה, פעמים רבות. מנייר ועד מגפי גשם, והשכבות של המוח המלאכותי של ימינו, אין להשאיר שום דבר בלתי חקור. אל לנו להסתתר מהעובדה הפשוטה שמהרבה שינויים קטנים, יכול פתאום להופיע שינוי גדול יותר.