עשרות מומחי בינה מלאכותית (AI), כולל המנכ"לים של OpenAI, Google DeepMind ו-Anthropic, חתמו לאחרונה על הצהרה גלויה שפרסם המרכז לבטיחות בינה מלאכותית (CAIS).
רק פרסמנו הצהרה:
"הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית."
החתומים כוללים את הינטון, בנג'יו, אלטמן, חסאביס, סונג וכו'.https://t.co/N9f6hs4bpa
(1 / 6)
- דן הנדריקס (@DanHendrycks) מאי 30, 2023
ההצהרה מכילה משפט בודד:
"הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בראש סדר העדיפויות העולמי לצד סיכונים אחרים בקנה מידה חברתי כמו מגפות ומלחמה גרעינית."
בין החותמים על המסמך נמצא "מי זה מי" אמיתי של גופי AI, כולל ה"סנדק" של AI, ג'פרי הינטון; אוניברסיטת קליפורניה, סטיוארט ראסל של ברקלי; ולקס פרידמן של המכון הטכנולוגי של מסצ'וסטס. המוזיקאי גריימס הוא גם חתום, רשום בקטגוריית "דמויות בולטות אחרות".
מידע נוסף: המוזיקאי גריימס מוכן "לחלק 50% תמלוגים" עם מוזיקה שנוצרת בינה מלאכותית
למרות שהאמירה עשויה להיראות תמימה על פני השטח, המסר הבסיסי הוא מסר שנוי במחלוקת בקהילת הבינה המלאכותית.
מספר הולך וגדל לכאורה של מומחים מאמינים שהטכנולוגיות הנוכחיות עשויות או יובילו בהכרח להופעתה או לפיתוח של מערכת AI המסוגלת להוות איום קיומי על המין האנושי.
עם זאת, דעותיהם זוכות להתנגדות של קבוצה של מומחים עם דעות מנוגדות בתכלית. מדען הבינה המלאכותית הראשית של מטה יאן לקון, למשל, ציין בהזדמנויות רבות שהוא לא בהכרח מאמין שה-AI יהפוך לבלתי נשלט.
AI על-אנושי אינו מתקרב לראש רשימת הסיכונים הקיומיים.
במידה רבה כי הוא עדיין לא קיים.עד שיהיה לנו עיצוב בסיסי אפילו ל-AI ברמת הכלב (שלא לדבר על רמה אנושית), הדיון כיצד להפוך אותו לבטוח הוא מוקדם מדי. https://t.co/ClkZxfofV9
- יאן לקון (@ylecun) מאי 30, 2023
לו ולאחרים שאינם מסכימים עם הרטוריקה של "הכחדה", כמו אנדרו נג, מייסד שותף של Google Brain ולשעבר המדען הראשי ב- Baidu, AI היא לא הבעיה, זו התשובה.
מהצד השני של הטיעון, מומחים כמו הינטון ומנכ"ל השערות קונור ליהי מאמינים שבינה מלאכותית ברמת האדם היא בלתי נמנעת, וככזה, הזמן לפעול הוא עכשיו.
ראשי כל מעבדות הבינה המלאכותית הגדולות חתמו על מכתב זה והכירו במפורש בסכנת הכחדה מ-AGI.
צעד מדהים קדימה, כל הכבוד לדן על עבודתו המדהימה בחיבור זה ותודה לכל חותם על שעשו את חלקם לעתיד טוב יותר! https://t.co/KDkqWvdJcH
- קונור ליהי (@NPCollapse) מאי 30, 2023
עם זאת, לא ברור אילו פעולות דורשים החותמים על ההצהרה. המנכ"לים ו/או ראשי הבינה המלאכותית של כמעט כל חברת בינה מלאכותית גדולה, כמו גם מדענים ידועים מכל רחבי האקדמיה, הם בין אלה שחתמו, מה שהופך את הכוונה לא לעצור את הפיתוח של מערכות אלה שעלולות להיות מסוכנות.
מוקדם יותר החודש, מנכ"ל OpenAI, סם אלטמן, אחד החותמים על ההצהרה הנ"ל, הופיע לראשונה בפני הקונגרס במהלך שימוע בסנאט לדיון ברגולציה של AI. עדותו עלתה לכותרות לאחר שבילה את רובה בדחיפה במחוקקים להסדיר את התעשייה שלו.
Worldcoin של אלטמן, פרויקט המשלב מטבעות קריפטוגרפיים והוכחת אישיות, עשה לאחרונה גם את הסיבובים התקשורתיים לאחר שגייס 115 מיליון דולר במימון סדרה C, מה שהביא את סך הגיוס שלו לאחר שלושה סבבים ל-240 מיליון דולר.
מקור: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war