טק

מנכ"ל OpenAI, סם אלטמן, מעיד בדיון 'היסטורי' בסנאט על בטיחות בינה מלאכותית

לפני 12 חודשים
חדשות Ethereum של ביטקוין

סם אלטמן, מנכ"ל OpenAI ומייסד שותף של Worldcoin, העיד לאחרונה בפני הקונגרס לצד ראש הנאמנות של יבמ, כריסטינה מונטגומרי, ופרופסור ניו יורק גארי מרקוס. 

ישיבת ועדת המשנה לשמירה על הפרטיות, הטכנולוגיה והמשפטים של הסנאט ייצגה את ההופעה הרשמית הראשונה של אלטמן בפני הקונגרס, והעניקה לסנטורים הזדמנות לחקור את מנכ"ל OpenAI בנוגע לדעות החברה שלו על רגולציה.

ההליכים שזכו לכינוי "היסטורי" על ידי סנטור אילינוי דיק דורבין, התמקדו בהבנת האיומים הפוטנציאליים הנובעים ממודלים של בינה מלאכותית (AI) יצירתית כמו ChatGPT וכיצד על המחוקקים לגשת לרגולציה.

הערותיו של אלטמן - שתוארו על ידי חברי הקונגרס ועמית הדובר מרקוס כנראים כנים ואמיתיים - הפתיעו כמה מחברי הסנאט.

הוא תמך בהקמת סוכנות פיקוח פדרלית בעלת הסמכות להנפיק ולבטל רישיונות פיתוח, הצהיר כי הוא מאמין שיש לפצות יוצרים כאשר עבודתם משמשת להכשרת מערכת בינה מלאכותית והסכים שצרכנים הסובלים מנזק באמצעות מוצרי בינה מלאכותית צריכים לקבל פיצויים. זכאי לתבוע את היזם.

אלטמן התנער מהשאלות הקשורות למכתב "השהיית הבינה המלאכותית" האחרונה שקרא להקפאת חצי שנה על פריסת מערכות חזקות יותר מ-GPT-4, מערכת הבינה המלאכותית העומדת בבסיס ChatGPT, בכך שקבע ש-OpenAI השקיע יותר משישה חודשים בהערכת GPT -4 לפני הפריסה. לדבריו, לחברה אין תוכניות לפרוס דגם נוסף בששת החודשים הקרובים.

מרקוס, החתום על מכתב ההפסקה, הודה שהוא מסכים יותר לרוח המכתב מאשר לתוכנו, אבל הפרופסור של NYU דחק בקונגרס לשקול פיקוח עולמי כמו גם רגולציה פדרלית - תחושה שאיתה הסכים אלטמן.

לאורך כל הדיון, שלושת הדוברים האורחים התיישרו במרבית הנושאים. זה כלל תמיכה בהגנת הפרטיות, פיקוח ממשלתי רב יותר, ביקורת של צדדים שלישיים ותוך כמה זמן על ממשלת ארצות הברית לנסות להסדיר את התעשייה (מיידית).

עם זאת, אחד המקורות הבודדים למחלוקת הגיע ממונטגומרי של יבמ, שלא הסכימה עם התפיסה שתהיה צורך בסוכנות פדרלית חדשה כדי לאכוף תקנות בתעשיית הבינה המלאכותית.

הצהרותיה הצביעו על כך ש-IBM בעד גישה כירורגית לרגולציה תוך שימוש בגופים רגולטוריים הקיימים כיום כדי למקד את האכיפה במקרי שימוש ספציפיים.

בעוד שכל שלושת הדוברים הסכימו שבינה מלאכותית עשויה להזיק ומצריכה התערבויות בטיחותיות, מרקוס הבהיר שהוא מאמין שאף אחד לא מבין או יכול לחזות עד כמה מוצרי בינה מלאכותית קיימים יכולים להיות או יהפכו מזיקים. הוא דגל בגישה זהירה הכרוכה בשקיפות רבה יותר.

הדוברים גם הסכימו עם חברי הקונגרס כי ארה"ב זקוקה לחוק פרטיות לאומי דומה לאלו באירופה. אלטמן, לעומת זאת, לא הסכים עם התפיסה שצרכנים צריכים להיות מסוגלים לבטל את הסכמתם לכלול את נתוני האינטרנט הזמינים לציבור שלהם במערך נתוני ההדרכה.

אלטמן גם לא הסכים להצהיר ש-OpenAI מתנגדת להצעת גרסה מבוססת פרסומות של מוצרי ה-GPT שלה. המנכ"ל פשוט הצהיר שהוא "לא יגיד לעולם לא".

זאת, למרות שנאמר מוקדם יותר בדיון כי המוצרים של OpenAI עומדים בתקני פרטיות הצרכן מכיוון שהחברה לא בנתה פרופילי משתמשים למטרות פרסום פרסומות מותאמות.

בהסתמך על ניסיונו כבוגר סטנפורד ומחוקק בעבודה עם חברות פיננסים ו-Web3 מבוזרות, הסנאטור מניו ג'רזי קורי בוקר העלה את סוגיית הפרטיות הגדולה יותר של ריכוזיות. הוא שאל מה יהיו ההשלכות על ריכוזיות ומונופול על התעשייה, שאלה שעליה השיב מרקוס באזהרה חמורה שהמדינה עלולה להסתכן במתן שליטה על התפיסה הציבורית למספר קטן של שחקנים - חברות הבינה המלאכותית המובילות עם מספיק כסף להתחרות במיקרוסופט, גוגל ואמזון.

אלטמן, שפרויקט Worldcoin שלו משלב נכס קריפטוגרפי מבוזר ב-Ethereum blockchain עם אימות זהות באמצעות טכנולוגיית סריקת איריס, הסביר ש-OpenAI רק סיפקה פלטפורמה ושהדמוקרטיזציה של מוצרי OpenAI התרחשה כאשר מפתחים, חברות ומשתמשי קצה התאימו את ה-GPT API עבור שימושים "פנטסטיים".

מידע נוסף: מנכ"ל OpenAI ב'שיחות מתקדמות' על מימון של 100 מיליון דולר Worldcoin: דיווח