דמיינו חדר ישיבות שבו בינה מלאכותית (AI) יושבת כחבר מצביע עם חובות אמון, ולא כצופה. יש השלכות חשובות לעתיד הממשל התאגידי ברעיון זה. זה העתיד המתואר בעבודה המכוננת "נאמנים מלאכותיים". על מנת להתמודד עם החסרונות הללו, המחקר מציע גישה חדשה: ישויות בינה מלאכותית (AI) שיש להן אותה רמת חובה ואכפתיות כמו מנהלים אנושיים כאשר הם פועלים כנאמנים.
הרעיון של נאמנים מלאכותיים
בממשל תאגידי, החיפוש אחר דירקטורים עצמאיים לחלוטין הוא כבר מזמן קושי. מגבלות תקופות וביקורות חיצוניות הן שתי דוגמאות לרפורמות קיימות שעדיין לא הגיעו לאובייקטיביות מוחלטת. לפי המאמר, בינה מלאכותית מספקת תרופה מיוחדת בדמות "נאמנים מלאכותיים". גישה זו מרחיבה ומעדנת את הרעיון של שימוש בספקי שירותי לוח (BSPs) לטיפול בפונקציות לוח. לנאמני בינה מלאכותית יש את היכולת לספק עצמאות אמיתית ולשפר תהליכי קבלת החלטות, בניגוד ל-BSPs, המוגבלים על ידי הטיה אנושית ומגבלות טכנולוגיות.
נאמנים מלאכותיים עשויים לפעול כמתווכים חסרי פניות, לעודד פתיחות ואולי לדמוקרטיזציה של ממשל החברה בעולם. ובכל זאת, יש לענות על שאלה חיונית: האם בינה מלאכותית באמת מסוגלת לעמוד בהתחייבויות הקפדניות של נאמנות? אקדמאים משפטיים כמו יוג'ין וולוק הביעו דאגה ששיפוט חמלה עשוי למלא תפקיד מכריע בתפקיד זה, מה שהמחקר מודה. עם זאת, היא טוענת כי במקום לשכפל בדיוק יכולות אנושיות, השאלה צריכה להיות האם בינה מלאכותית יכולה להשיג את המטרות של אחריות אמון.
עיצוב עתיד הממשל התאגידי
לפי המחקר, נאמנים מלאכותיים יכולים לשמש דירקטורים חיצוניים אובייקטיביים תוך מילוי חובות הנאמנות שלהם לחברה ולמשקיעיה. הצפי הוא שעבודה בצוותא עם עמיתים אנושיים תניב תוצאות טובות יותר; עם זאת, מכיוון שנאמני בינה מלאכותית הם אלגוריתמים מטבעם, החובות הספציפיות שלהם עשויות להיות שונות. החיבור מדגיש את הצורך בגמישות תוך שמירה על סטנדרט גבוה של התנהגות ומתאר כיצד ניתן להרחיב את חובות הזהירות והנאמנות לנאמנים מלאכותיים.
עם זאת, המחקר אינו נמנע מלדון בחסרונות פוטנציאליים. ניתוח יסודי נעשה בנושאים כמו הטיה, חוסר שקיפות (בעיית "הקופסה השחורה"), סכנות בטיחותיות והפוטנציאל של מנהלים חכמים במיוחד לשלוט בשיחות. כדי להפחית את הסכנות הללו, הדוח מציע מסגרות אתיות, מדיניות שקיפות וסטנדרטים מדויקים להליכי קבלת החלטות בינה מלאכותית. ההרצאה הזו מוסיפה הרבה לדיונים הנוכחיים על הוגנות אלגוריתמית בפיתוח AI.
החיבור גם נותן אזהרה מפני ראיית AI ככלי בלבד. הרעיון הוא שנאמנים מלאכותיים צריכים להיות מסוגלים לשפוט בעצמם, ללא מגבלות של מערכת מתוכנתת מראש. על מנת לפתור אילוצי הון חברתי וסוגיות אתיות מורכבות, המחקר מציע פרדיגמה שיתופית שבה נאמנים אנושיים ומלאכותיים משתפים פעולה תוך ניצול החוזקות שלהם. בשיתוף פעולה זה, נדרש ניטור אנושי כדי להבטיח שההמלצות הטובות ביותר מיושמות, וקבלת החלטות בינה מלאכותית כפופה לנורמות אתיות מחמירות.
השפעה על ממשל תאגידי בעתיד
החלק האחרון של המאמר בוחן כיצד הממשל התאגידי ישתנה ככל שה-AI יהפוך לשילוב יותר. היא ממליצה על מסגרות חקיקה לבלימת הופעתם של נאמנים מלאכותיים. חקירה זו לא רק מעוררת שיחות מדעיות אלא גם משמשת כקריאה לפעולה למחוקקים לשנות את החוקים הנוכחיים ולפתוח את הדלת ליישום אתי של AI בהגדרות של חדרי ישיבות. השאלה עדיין עומדת בעינה: האם אנו מוכנים לקבל בינה מלאכותית כשותף אמין לממשל תאגידי?
מקור: https://www.cryptopolitan.com/ai-corporate-governance-ai-fiduciaries/