לצד התקדמותה, הבינה המלאכותית (AI) מתקדמת יותר ויותר, והסיכון של מה שמכונה "התרבות" במערכות בינה מלאכותית הופך למפגע, נפוץ זה מכבר בקרב אוכלוסיות של בני אדם ובעלי חיים מבויתים.
מאמר זה ישפוך מעט אור על מושג ההתרבות לאור הבינה המלאכותית היצירתית וכיצד ההתרבות עשויה להיות קשורה לעתיד של תוכן שנוצר בינה מלאכותית.
הבנת AI Generative Inbreeding מערכות בינה מלאכותית גנריות כמו מודלים של שפה גדולה (LLMs) מאומנות בעיקר על מערכי נתונים מקיפים מתוכן טקסטואלי, חזותי ואודיו הזמינים באינטרנט. בתחילה, מערך הנתונים כלל בעיקר פריטים שנעשו על ידי בני אדם, כגון ספרות, מאמרים ויצירות אמנות. עם זאת, עם עלייתם של כלי AI גנרטיביים, יותר ויותר תוכן באינטרנט נכתב על ידי AI עצמה.
שינוי זה מעורר חששות לגבי האיכות והגיוון של מערכי הנתונים המשמשים לאימון מערכות AI עתידיות. עם התפתחות התוכן שנוצר בינה מלאכותית, צפוי שדורות עתידיים רבים של מודלים של AI ילמדו ממערכי נתונים שאינם מייצגים תוכן אנושי אלא חומר שנוצר בינה מלאכותית.
ההשלכות של גידול AI גנרטיבי הן רב-גוניות.
להיפך, המשך הלמידה של מערכת הבינה המלאכותית ממספרים רבים יותר של מערכי נתונים הומוגניים עלולה להוביל לירידה ביצירתיות ובמקוריות בתפוקה שנוצרת בינה מלאכותית.
אם תהליך זה חוזר על עצמו - כלומר העתקה מעותק - ברציפות לאורך דורות, איכות הפלט מדוללת, והתוצאות מסתכנות בעבודה פחות מרתקת ופחות משקפת את מה שאנו מחשיבים כפלט יצירתי אנושי. . עם הצמיחה של תוכן שנוצר על ידי בינה מלאכותית שאומן על מערכי נתונים מרובים, בעיות כאלה עלולות להחמיר.
אם מערכי ההדרכה אינם מגוונים מספיק, אזי מערכות הבינה המלאכותית שפותחו ישמשו רק לחיזוק והגדלת ההטיות הקיימות בתוך תוכן שנוצר בינה מלאכותית, ובכך לערער עוד יותר את השימוש המהימן בתוכן שנוצר בינה מלאכותית כמקור מידע. יתר על כן, היעדר הגיוון בנתוני ההדרכה עשוי להגביל את האפשרות לפתח מערכות בינה מלאכותית שיוכלו להבין ולייצג את המגוון הרחב של חוויות ונקודות מבט אנושיות בצורה נכונה. זה עשוי להגביל את ההתקדמות בתחומי היישומים השונים של AI, כגון עיבוד שפה טבעית, יצירת תוכן ומערכות קבלת החלטות.
התמודדות עם האתגר של AI Generative Inbreeding
מעל לכל, זהו סיכון אמיתי, במיוחד ההתרבות של טכנולוגיות בינה מלאכותית. ובכל זאת, זה מטיל את הנטל על חוקרים, מפתחים ואפילו קובעי מדיניות לפעול באופן יזום, תוך הבטחת שימוש במערכי נתונים מגוונים ומייצגים בעדיפות עליונה במהלך ההכשרה של מערכת ה-AI, תוך שילוב מנגנונים שיוכלו לזהות ולהפחית הטיות בתוכן שנוצר בינה מלאכותית, והבטחת שיתוף פעולה בין-תחומי יעיל תוך התייחסות והבטחה להשלכות האתיות והחברתיות של בניית בינה מלאכותית.
הם צריכים לקדם עוד יותר את הצורך בפתיחות ואחריות בפריסת מערכות בינה מלאכותית ולדרוש שהמודעות למגבלות והטיות תהיה משותפת עם משתמשים של תוכן שנוצר בינה מלאכותית. לפיכך, כל בעלי העניין יכולים לנסות באופן יזום לשתף פעולה בניצול הכוח של AI יצירתי תוך הפחתת הסיכונים הקשורים להתרבות בפיתוח AI.
תפיסת ההתרבות ב-AI גנרטיבית היא אתגר עתידי גדול לפיתוח ופריסה של מערכות בינה מלאכותית. זה יעזור להם להבטיח שהפיתוח האחראי והמוסרי של שיפור הטכנולוגיה לחברה יתקיים על ידי הבנת ההשלכות והדרכים לשיפור שילוב AI גנרטיבי ביעילות.
מקור: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/