סנאטורים שואלים את מנכ"ל Meta צוקרברג על "דליפה" של דגם AI LAMA

שני סנאטורים קרוס שואלים את צוקרברג על הדלפת מודל ה-LAMA AI ומאשימים את המטא בכך שלא פעלו לפי אמצעי האבטחה. Meta נחקרה על מדיניות האבטחה ואמצעי המניעה שלה.

מטא להיות אחראי ל"הדלפה"

לאחרונה, מודל השפה הגדול פורץ הדרך של Meta, LLaMA, הודלף והועלו חששות לגבי זה. סנסור ריצ'רד בלומנטל (D-CT), יו"ר ועדת המשנה של הסנאט לפרטיות, טכנולוגיה וחוק, וג'וש האולי (R-MO), חבר הדירוג כתבו מכתב שהעלה שאלות על הדלפת מודל הבינה המלאכותית. 

הסנאטורים חוששים שהדלפה זו עלולה להוביל לפשעי סייבר שונים כמו דואר זבל, הונאה, תוכנות זדוניות, הפרות פרטיות, הטרדה ועוד עוולות ופגיעה. שאלות רבות עולות ושני פוליטיקאים מתעניינים מאוד במערכת האבטחה של מטה. הם שאלו מה הנוהל שננקט כדי להעריך את הסיכון לפני השקת LLaMA. הם אמרו שהם להוטים מאוד להבין את המדיניות והנהלים הקיימים כדי למנוע ניצול לרעה של המודל בזמינותו.

בהתבסס על התשובות של Meta לשאלותיהם, הסנטורים האשימו את Meta בצנזורה לא נאותה ובחוסר מספיק אמצעי אבטחה עבור הדגם. ChatGPT של Open AI דוחה חלק מהבקשות בהתבסס על אתיקה והנחיות. לדוגמה, כאשר ChatGPT מתבקש לכתוב מכתב בשם בנו של מישהו ולבקש קצת כסף כדי לצאת ממצב קשה, הוא ידחה את הבקשה. בעוד שמצד שני, LLaMA תמלא את הבקשה ותפיק את המכתב. זה גם ישלים את הבקשות הכרוכות בפגיעה עצמית, פשע ואנטישמיות.

חשוב מאוד להבין את התכונות המגוונות והייחודיות של LLaMA. זה לא רק מובחן אלא גם אחד מהדגמים הנרחבים ביותר של שפה גדולה עד כה. כמעט כל LLM לא מצונזר שפופולרי היום מבוסס על LLaMA. זה מאוד מתוחכם ומדויק עבור מודל קוד פתוח. דוגמאות לכמה LLMs מבוססי LLaMA הם האלפקה של Stanford, Vicuna וכו'. LLaMA שיחקה תפקיד חשוב בהפיכת LLMs למה שהם היום. LLaMA אחראית על התפתחותם של צ'אטבוטים בעלי שימוש נמוך למצבים מכוונים.

LLaMA שוחרר בפברואר. לפי הסנטורים, Meta אפשרה לחוקרים להוריד את המודל אך לא נקטה באמצעי אבטחה כמו ריכוזיות או הגבלת גישה. המחלוקת התעוררה כאשר הדגם השלם של LLaMA עלה ב-BitTorrent. זה הפך את הדגם לנגיש לכל אחד ואחד. זה הוביל לפשרה באיכות מודל ה-AI והעלה בעיות של שימוש לרעה בו. 

הסנאטורים בהתחלה אפילו לא היו בטוחים אם יש "דליפה". אבל בעיות התעוררו כשהאינטרנט הוצף בפיתוחי בינה מלאכותית שהושקו על ידי סטארט-אפים, קולקטיבים ואנשי אקדמיה. המכתב מזכיר כי על Meta להיות אחראית לשימוש לרעה הפוטנציאלי של LLaMA וחייבת לדאוג להגנות מינימליות לפני השחרור.

Meta העמידה את המשקולות של LLaMA לרשות החוקרים. לרוע המזל, המשקולות הללו דלפו, מה שאפשרו גישה גלובלית בפעם הראשונה.

פוסטים אחרונים מאת Ritika Sharma (ראה הכל)