חופר לתוך הבאזז וההתלהבות סביב AI ChatGPT, כולל אתיקה של בינה מלאכותית ושיקולי חוק בינה מלאכותית

אני מנחש שעד עכשיו שמעתם על או אולי ראיתם כותרות חדשות רועמות או פרסומים ברשתות חברתיות המציגות את השימוש החם והעדכני ביותר ב-AI שמייצר נרטיבים כתובים טקסט-אנושיים לכאורה באמצעות אפליקציית AI הידועה בשם ChatGPT.

אם לא שמעתם או קראתם על אפליקציית הבינה המלאכותית החדשה הזו, אל תדאגו, אני אעדכן אתכם.

לאלו מכם שכבר מודעים ל-ChatGPT, ייתכן שתמצאו עניין רב בכמה מהסקופים הפנימיים שלי כאן לגבי מה זה עושה, איך זה עובד וממה להיזהר. בסך הכל, כמעט כל מי שאכפת לו מהעתיד ירצה בהכרח לגלות מדוע כולם מתביישים ביישום הבינה המלאכותית הזו.

כדי להבהיר, תחזיות משתוללות הן שסוג זה של בינה מלאכותית עומד לשנות חיים, כולל חייהם של אלה שעדיין לא יודעים דבר על ChatGPT או כל יכולות בינה מלאכותיות אחרות שכאלה. כפי שאסביר לרגע, לאפליקציות הבינה המלאכותית הללו יהיו השלכות נרחבות למדי בדרכים שאנו רק מתחילים לצפות.

הכינו את עצמכם לרכבת ההרים המכונה AI Generative.

אתחיל עם קצת רקע חשוב על AI גנראטיבי ואשתמש בתרחיש הפשוט ביותר הכולל AI שמייצר אמנות. לאחר שנעביר אותך דרך הבסיס הזה, נקפוץ ל-AI גנרטיבי שמייצר נרטיבים מוכווני טקסט.

לסיקור המתמשך והנרחב שלי על בינה מלאכותית הכוללת, כולל אתיקה של בינה מלאכותית וחוקי בינה מלאכותית, ראה הקישור כאן ו הקישור כאן, רק כדי שם כמה.

AI גנרטיבי שמייצר אמנות שנוצרה

אני מתייחס לסוג או לסגנון זה של AI כאל ישות גנרטטיבית שהוא הטרמינולוגיה של חובבי הבינה המלאכותית המשמשת לתיאור בינה מלאכותית שמפיקה פלטים כמו טקסט, תמונות, וידאו וכדומה.

אולי שמתם לב מוקדם יותר השנה שהייתה מבול גדול לגבי היכולת ליצור תמונות אמנותיות על ידי הזנת שורה או שתיים של טקסט. הרעיון די פשוט. אתה עושה שימוש באפליקציית AI המאפשרת לך להזין טקסט כלשהו לבחירתך. לדוגמה, אתה יכול להקליד שאתה רוצה לראות איך תיראה צפרדע עם כובע על גבי ארובה. לאחר מכן, אפליקציית ה-AI מנתחת את המילים שלך ומנסה ליצור תמונה שתואמת בדרך כלל למילים שציינת. אנשים נהנו מאוד ליצור כל מיני תמונות. המדיה החברתית נסתמה איתם לזמן מה.

איך AI גנרטיבי עושה את היבטי הדור?

במקרה של סגנון הטקסט לאמנות של בינה מלאכותית גנרטיבית, שלל אמנות מקוונת נסרקה מראש באמצעות אלגוריתמים ממוחשבים ומרכיבי האמנות הסרוקה נותחו באופן חישובי עבור הרכיבים המעורבים. דמיינו תמונה מקוונת שיש בה צפרדע. תארו לעצמכם תמונה נפרדת אחרת שיש בה ארובה. בתמונה אחרת יש כובע. רכיבים אלו מזוהים באופן חישובי, לעיתים נעשים ללא סיוע אנושי ולעיתים באמצעות הדרכה אנושית, ולאחר מכן מתגבשת מעין רשת מתמטית.

כשאתה בא מאוחר יותר ומבקש ליצור יצירת אמנות עם צפרדע עם כובע על ארובה, אפליקציית הבינה המלאכותית משתמשת ברשת המתמטית כדי למצוא ולחבר את האלמנטים האלה. תמונת האמנות שהתקבלה עשויה לצאת כפי שקיווית או לא. אולי הצפרדע היא מכוערת למראה. הכובע יכול להיות כובע צינור גדול אבל היית רוצה כובע דק יותר בסגנון דרבי. בינתיים, תמונת הצפרדע עומדת על הארובה למרות שביקשתם שהצפרדע תשב במקום.

הדבר הנחמד באפליקציות בינה מלאכותיות מסוג זה הוא שהן בדרך כלל מאפשרות לך לחזור על הבקשה שלך וגם להוסיף מפרטים נוספים אם תרצה לעשות זאת. לפיכך, תוכל לחזור על בקשתך ולציין שאתה רוצה צפרדע יפה עם כובע דרבי שיושב על ארובה. וואלה, התמונה החדשה שנוצרה עשויה להיות קרובה יותר למה שרצית.

חלקם תהו האם הבינה המלאכותית רק ממריצה בדיוק את כל מה שהוא אומן עליו. התשובה היא לא (בדרך כלל). התמונה של צפרדע שה-AI מציג לבקשתך אינה בהכרח שכפול מדויק של תמונה דומה שהייתה בסט האימונים. רוב יישומי הבינה המלאכותית הגנרטיבית האלה מוגדרים להכליל את כל התמונות שהם מוצאים במקור. תחשוב על זה ככה. נניח שאספתם אלף תמונות של צפרדעים. אולי תבחר להבין בהדרגה איך צפרדע נראית, תוך שילוב של אלף תמונות שמצאת. ככזה, הצפרדע שבסופו של דבר מציירת אינה בהכרח דומה לאלו שהשתמשת בהם למטרות אימון.

עם זאת, יש סיכוי שאלגוריתם ה-AI לא יעשה הכללה כפי שניתן להניח. אם יש תמונות אימון ייחודיות ואין אחרות מסוג זה, יכול להיות שה-AI "מכליל" די קרוב למופע הספציפי היחיד שהוא קיבל. במקרה זה, הניסיון של האלגוריתם לייצר, מאוחר יותר, תמונה מבוקשת בעלת אופי זה יכול להיראות דומה במיוחד למה שהיה בסט האימונים.

אני אעצור לרגע כדי להציע כמה מחשבות הקשורות לאתיקה של בינה מלאכותית ולחוק בינה מלאכותית.

כאמור, אם ה-AI הגנרטיבי מאומן באינטרנט, זה אומר שכל מה שפורסם בפומבי באינטרנט עשוי להיות מנוצל על ידי אלגוריתם AI. נניח אם כן שיש לך יצירת אמנות נחמדה שעמלת עליה ומאמין שאתה הבעלים של הזכויות על יצירת האמנות. אתה מעלה תמונה שלו באינטרנט. כל מי שרוצה להשתמש ביצירות האמנות שלך אמור לבוא אליך ולשלם לך תשלום עבור השימוש הזה.

אולי אתה כבר חש לאן זה מוביל.

תחזיק מעמד לחדשות הקשות.

לכן, אפליקציית בינה מלאכותית שמקבלת הכשרה באמצעות בדיקה רחבה של תוכן באינטרנט, מזהה את יצירת האמנות המופלאה שלך. התמונה של הגרפיקה שלך נספגת באפליקציית AI. מאפייני האומנות שלך משולבים כעת באופן מתמטי עם יצירות אמנות סרוקות אחרות. לאחר שתתבקש ליצור יצירת אמנות, ה-AI עשוי למנף את היצירה שלך בעת חיבור תמונת אמנות חדשה שנוצרה. האנשים שצברו את האמנות אולי לא מבינים שבמובן מסוים יש לאמנות את טביעות האצבעות הספציפיות שלך, בגלל שאלגוריתם ה-AI שהוטבע במידת מה על יצירת המופת שלך.

יש גם סיכוי שאם יצירות האמנות שלך היו ייחודיות בצורה יוצאת דופן, היא עשויה להיות בשימוש חוזר על ידי אפליקציית AI במראית עין יותר של הצגת האומנות. ככזה, לפעמים יצירות האמנות שלך עשויות להיות בקושי ניתנות לזיהוי בכמה יצירות בינה מלאכותיות שנוצרו לאחרונה, בעוד שבמקרים אחרים יכול להיות שהגרפיקה שנוצרה היא כמעט דימוי יורק של מה שדיעת.

הגיע הזמן להביא את אתיקה של AI לתרחיש זה.

האם מבחינה אתית ראוי או ראוי שה-AI הגנרטיבי יצר יצירות אמנות שיש להן קווי דמיון לאמנות שלך?

חלק אומרים כן, וחלק אומרים לא.

מחנה yes, מתוך אמונה שזה בסדר גמור מבחינה אתית, אולי יטען שמאז שפרסמת את יצירות האמנות שלך באינטרנט, היא פתוחה למי או לכל מה שרוצה להעתיק אותה. כמו כן, הם עשויים לטעון שהאמנות החדשה אינה עותק מדויק של העבודה שלך. לכן, אתה לא יכול להתלונן. אם איכשהו נפסיק כל שימוש חוזר באמנות קיימת, לעולם לא יהיה לנו סוג של אמנות חדשה להסתכל עליה. בנוסף, יש להניח שאנחנו יכולים להיכנס לוויכוח סוער אם יצירות האמנות הספציפיות שלך מועתקות או לא מנוצלות - זו יכולה להיות יצירה אחרת שאפילו לא ידעת על קיומה והיא למעשה המקור הבסיסי.

מחנה האין יתעקש בתוקף שזה לא אתי בעליל. אין שתי דרכים לגבי זה. הם יטענו שקורעים אותך. זה שהיצירה שלך פורסמה באינטרנט לא אומר שכל אחד יכול לבוא ולהעתיק אותה בחופשיות. אולי פרסמת את האמנות עם אזהרה חמורה לא להעתיק אותה. בינתיים, ה-AI הגיע והפשיט את האמנות ודילג לחלוטין על פני האזהרות. מְזַעזֵעַ! והתירוץ שאלגוריתם הבינה המלאכותית הכליל ואינו עושה את ההעתקה המדויקת, נראה כמו אחד מאותם תירוצים מזויפים. זה הבין איך לנצל את האומנות שלך וזה בושה וחבל.

מה לגבי ההיבטים המשפטיים של ה-AI הגנרטיבי הזה?

יש הרבה לחיצות יד על הפרטים המשפטיים של AI גנרטיבי. האם אתה מסתכל על חוקים פדרליים לגבי זכויות קניין רוחני (IP)? האם אלה נמרצים מספיק כדי להגיש בקשה? מה קורה כאשר הבינה המלאכותית הגנרטיבית חוצה גבולות בינלאומיים כדי לאסוף את ערכת האימונים? האם הגרפיקה שנוצרה על ידי ה-AI מתאימה לקטגוריות החרגות השונות הקשורות לזכויות IP? וכן הלאה.

יש הסבורים שאנו זקוקים לחוקים חדשים הקשורים לבינה מלאכותית כדי להתמודד ספציפית עם מצבים אלו של בינה מלאכותית. במקום לנסות לנעול חוקים קיימים, ייתכן שיהיה נקי וקל יותר לבנות חוקים חדשים. כמו כן, גם אם חלים חוקים קיימים, העלויות והעיכובים בניסיון להגיש תביעה משפטית עלולים להיות עצומים ולבלום את יכולתך להתקדם כאשר אתה מאמין שנפגעת בצורה בלתי הוגנת ולא חוקית. לסיקור שלי בנושאים אלה, ראה הקישור כאן.

אוסיף טוויסט נוסף לשיקולי האתיקה של AI וחוק AI.

מי הבעלים של הזכויות על הפלט שנוצר של ה-AI?

אפשר לומר שבני האדם שפיתחו את ה-AI צריכים להיות הבעלים של הזכויות האלה. לא כולם מסכימים עם טענה כזו. אתה יכול לומר שבינה מלאכותית היא הבעלים של הזכויות האלה, אבל זה מבולבל בגלל העובדה שאנחנו בדרך כלל לא מכירים בבינה מלאכותית כבעלת זכויות כאלה. עד שנבין אם לבינה מלאכותית תהיה אישיות משפטית, הדברים אינם בטוחים בחזית זו, ראה את הניתוח שלי ב- הקישור כאן.

אני סומך על כך שיש לך עכשיו מראית עין של מה שעושה בינה מלאכותית גנרטיבית. בשלב הבא נוכל להמשיך לשקול את מקרה השימוש הכולל יצירת נרטיבים מבוססי טקסט.

AI גנרטיבי שמייצר נרטיבים מבוססי טקסט

כעת, לאחר שדנו בשימוש בבינה מלאכותית גנרטיבית להפקת אמנות או דימויים, אנו יכולים בקלות לבדוק את אותם ניסוחים כלליים להפקת נרטיבים מבוססי טקסט.

בואו נתחיל עם משהו שכולנו יודעים עליו ונוטים להשתמש בכל יום. כאשר אתה מזין טקסט לחבילת עיבוד תמלילים או לאפליקציית הדואר האלקטרוני שלך, רוב הסיכויים שקיימת תכונת תיקון אוטומטי שמנסה לתפוס כל אחד משגיאות האיות שלך.

ברגע שסוג כזה של תכונת סיוע אוטומטית הפך לנפוץ, הפן המתקדם יותר הבא כלל יכולת השלמה אוטומטית. עבור השלמה אוטומטית, התפיסה היא שכאשר אתה מתחיל לכתוב משפט, אפליקציית עיבוד התמלילים או הדוא"ל מנסה לחזות אילו מילים אתה צפוי להקליד לאחר מכן. זה עשוי לחזות רק מילה אחת או שתיים קדימה. אם היכולת מתוגברת במיוחד, היא עשויה לחזות את שארית המשפט שלך.

אנחנו יכולים להעלות את זה להילוך גבוה. נניח שאתה מתחיל לכתוב משפט וההשלמה האוטומטית מייצרת את שאר הפסקה כולה. וואלה, לא היית צריך לכתוב את הפסקה ישירות. במקום זאת, האפליקציה עשתה זאת עבורך.

אוקיי, זה נראה נחמד. דחף את זה הלאה. אתה מתחיל משפט וההשלמה האוטומטית מרכיבה את שאר ההודעה שלך. זה עשוי להיות מורכב מהרבה פסקאות. כל זה נוצר באמצעות הזנת רק חלק ממשפט או אולי משפט מלא או שניים.

איך ההשלמה האוטומטית מגלה מה אתה צפוי להקליד הבא?

מסתבר שבני אדם נוטים לכתוב את אותם הדברים, שוב ושוב. אולי אתה לא, אבל הנקודה היא שכל מה שאתה כותב הוא כנראה משהו שמישהו אחר כבר כתב. אולי זה לא בדיוק מה שאתה מתכוון לכתוב. במקום זאת, זה עשוי להיות דומה במקצת למה שהתכוונת לכתוב.

בואו נשתמש באותו היגיון כפי שהופעל ביצירת אמנות או תמונות.

אפליקציית AI גנרטיבית מוכנה על ידי יציאה לאינטרנט ובחינת כל מיני טקסטים שקיימים בעולם המקוון. האלגוריתם מנסה לזהות באופן חישובי כיצד מילים קשורות למילים אחרות, כיצד משפטים קשורים למשפטים אחרים וכיצד פסקאות קשורות לפסקאות אחרות. כל זה במודל מתמטי, ומוקמת רשת חישובית.

אז הנה מה שקורה אחר כך.

אתה מחליט לעשות שימוש באפליקציית AI גנרטיבית המתמקדת ביצירת נרטיבים מבוססי טקסט. עם הפעלת האפליקציה, אתה מזין משפט. אפליקציית AI בוחנת את המשפט שלך באופן חישובי. היחסים המתמטיים השונים בין המילים שהזנת משמשים ברשת המתמטית כדי לנסות ולברר מה יהיה הטקסט הבא. משורה בודדת שאתה כותב, יכול להיות שאפשר להפיק סיפור או נרטיב שלם.

עכשיו, אולי אתם חושבים שזהו קוף-רואה-קוף-עושה ושהטקסט שנוצר על ידי ה-AI הגנרטיבי הולך להיות שטותי. ובכן, תופתעו לגלות עד כמה סוג זה של AI מכוון היטב. עם מערך נתונים גדול מספיק לאימון, ועם מספיק עיבוד ממוחשב כדי לעבור דרכו בהרחבה, הפלט המופק על ידי AI מחולל יכול להיות מרשים להפליא.

היית מסתכל על הפלט וכנראה נשבע שבוודאי שהנרטיב שנוצר נכתב ישירות על ידי אדם. זה כאילו גזר הדין שלך נמסר לאדם, שהתחבא מאחורי הקלעים, והם כתבו לך במהירות נרטיב שלם שכמעט תואם לחלוטין את מה שאתה הולך לומר אחרת. עד כדי כך הפכו הבסיסים המתמטיים והחישוביים טובים.

בדרך כלל, כשאתה משתמש ב-AI גנרטיבי שמייצר נרטיבים מבוססי טקסט, אתה נוטה לספק שאלת התחלה או טענה כלשהי. לדוגמה, תוכל להקליד "ספר לי על ציפורים בצפון אמריקה" וה-AI הגנרטיבי יראה זאת כטענה או שאלה לפיה האפליקציה תחפש לזהות "ציפורים" ו"צפון אמריקה" עם כל מערך נתונים מאומן יש לזה. אני בטוח שאתה יכול לדמיין שיש מגוון עצום של טקסט שקיים באינטרנט שתיאר את הציפורים של צפון אמריקה, שמתוכם ה-AI במהלך האימון המקדים שלף ועיצבה את מאגרי הטקסט.

סביר להניח שהפלט שיופק עבורך לא יהיה הטקסט המדויק של אתר מקוון מסוים. נזכיר שאותו דבר הוזכר קודם לכן לגבי יצירות אמנות שנוצרו. הטקסט יהיה מורכב של סוגים, חלקים וחלקים הקשורים זה לזה מבחינה מתמטית וחישובית. נרטיב מבוסס טקסט שנוצר עבור כל ההופעות הכלליות נראה ייחודי, כאילו הטקסט הספציפי הזה מעולם לא הולחן קודם לכן על ידי איש.

כמובן, יכולים להיות רמזים מובהקים. אם תבקש או תגרום ל-AI הגנרטיבי להיכנס לנושאים לא ברורים במיוחד, יש סיכוי גבוה יותר שתראה פלט טקסט שדומה למקורות שבהם נעשה שימוש. במקרה של טקסט, הסיכויים הם בדרך כלל נמוכים יותר מאשר לאמנות. הטקסט הולך להיות שילוב של הפרטים הספציפיים של הנושא ועם זאת גם מטושטש ומתמזג עם סוגי הטקסט הכלליים המשמשים בשיח הכולל.

הטכניקות והטכנולוגיות המתמטיות והחישוביות המשמשות ליכולות בינה מלאכותית אלו מכונות לעתים קרובות על ידי מקורבי בינה מלאכותית כמודלים של שפה גדולה (LLM). במילים פשוטות, זהו מודל של שפה אנושית בקנה מידה גדול. לפני האינטרנט, היה לך קשה למצוא מערך נתונים גדול במיוחד של טקסט שהיה זמין באינטרנט ובזול. סביר להניח שהיית צריך לקנות גישה לטקסט וזה לא בהכרח כבר היה זמין בפורמטים אלקטרוניים או דיגיטליים.

אתה מבין, האינטרנט טוב למשהו, כלומר להיות מקור מוכן לאימון AI גנרטיבי.

חשיבה נבונה על AI גנרטיבי שמייצר טקסט

אנחנו צריכים להקדיש רגע לחשוב על ההשלכות אתיקה של AI וחוקי בינה מלאכותית של הבינה המלאכותית הגנרטיבית שמייצרת נרטיבים מבוססי טקסט.

זכור שבמקרה של אמנות שנוצרה, חששנו מהאתיקה של אלגוריתם הבינה המלאכותית שמייצר אמנות המבוססת על יצירות אמנות אחרות שיוצרו על ידי אדם. אותה דאגה עולה במופע המבוסס על טקסט. גם אם הטקסט שנוצר לא נראה בדיוק כמו המקורות המקוריים, אתה יכול לטעון שבכל זאת, ה-AI מנצל את הטקסט והמפיק המקורי נקרע. הצד השני של המטבע הזה הוא שטקסט באינטרנט אם זמין באופן חופשי יכול לשמש כל אדם לעשות את אותו הדבר, אז למה לא לאפשר ל-AI לעשות את אותו הדבר?

הסיבוכים הקשורים להיבטים המשפטיים של זכויות קניין רוחני באים לידי ביטוי גם במקרה של AI יצירתי מבוסס טקסט. בהנחה שהטקסט שעליו נלמד מוגן בזכויות יוצרים, האם אתה אומר שהטקסט שנוצר מפר את הזכויות המשפטיות הללו? תשובה אחת היא שכן, ותשובה אחרת היא שלא. הבינו שסביר להניח שהטקסט שנוצר יהיה מרוחק למדי מהטקסט המקורי, לכן ייתכן שיהיה קשה לכם לטעון שהטקסט המקורי נקרע.

דאגה נוספת שכבר הוזכרה היא גם זכויות הבעלות על הנרטיבים מבוססי הטקסט שהופקו על ידי ה-AI הגנרטיבי. נניח שאתה מקליד ב-AI "כתוב סיפור מצחיק על אנשים שמחכים בתור כדי לקבל קפה" וה-AI היוצר מייצר עמודים על גבי עמודים של סיפור מצחיק שכולו על חבורה של אנשים שנפגשו במקרה בזמן שהם מחכים לכוס של java.

מי הבעלים של הסיפור הזה?

אתה יכול לטעון שמאז שהקלדת את ההנחיה, אתה צריך בצדק "להחזיק" את הסיפור שנוצר. וואו, יש שיגידו, הבינה המלאכותית היא איך שהסיפור נוצר, לכן הבינה המלאכותית "מחזיקה" בסיפור המענג. אוקיי, אחרים היו קוראים, אם הבינה המלאכותית לקחה חלקים מכל מיני סיפורים דומים אחרים באינטרנט, כל אותם סופרים אנושיים צריכים לחלוק בבעלות.

העניין לא פתור ואנחנו רק עכשיו נכנסים למובך משפטי שהולך להתגלגל במהלך השנים הקרובות.

יש דאגות נוספות של אתיקה של AI וחוקי בינה מלאכותית שבאות לשחק.

חלק מהאנשים שהשתמשו באפליקציות AI גנרטיביות מתחילים להאמין שאפליקציית ה-AI היא חיונית. זה חייב להיות, הם צועקים. אחרת איך אתה יכול להסביר את התשובות והסיפורים המדהימים שבינה מלאכותית מסוגלת לייצר? סוף סוף השגנו AI חיוני.

הם טועים לחלוטין.

זה לא AI חיוני.

כשאני אומר את זה, חלק מהמקורבים לבינה מלאכותית מתעצבנים ומתנהגים כאילו כל מי שמכחיש שה-AI הוא בעל חושים אומר בו-זמנית שה-AI חסר ערך. זה טיעון מזויף ומוטעה. אני מסכים בגלוי שה-AI הגנרטיבי הזה מרשים למדי. אנו יכולים להשתמש בו לכל מיני מטרות, כפי שאציין בהמשך כאן. אף על פי כן, זה לא רגיש. להסבר שלי מדוע פריצות דרך מסוג זה של בינה מלאכותית אינן קשורות לעניין, ראה הקישור כאן.

עוד טענה מוגזמת ושגויה בעליל של חלקם היא שבינה מלאכותית גנרטיבית זכתה בהצלחה במבחן טיורינג.

יש לזה בהחלט לֹא עשה זאת.

מבחן טיורינג הוא סוג של מבחן כדי לוודא אם אפליקציית בינה מלאכותית מסוגלת להשתוות לבני אדם. המבחן כשלעצמו תוכנן במקור כמשחק החיקוי על ידי אלן טיורינג, המתמטיקאי הגדול וחלוץ המחשבים, פשוט. אם היית שם אדם מאחורי וילון ומכניס אפליקציית בינה מלאכותית מאחורי וילון אחר, והיית שואל את שתיהן שאלות, שמתוכם לא יכולת לקבוע מי היא המכונה ומי האדם, הבינה המלאכותית תעבור בהצלחה את מבחן טיורינג. להסבר והניתוח המעמיקים שלי על מבחן טיורינג, ראה הקישור כאן.

האנשים האלה שממשיכים לצעוק שה-AI הגנרטיבי עבר את מבחן טיורינג לא יודעים על מה הם מדברים. או שהם בורים לגבי מה זה מבחן טיורינג, או שהם למרבה הצער מבצעים הייפ של AI בדרכים שגויות ומטעות לחלוטין. בכל מקרה, אחד השיקולים החיוניים לגבי מבחן טיורינג מורכב מאילו שאלות יש לשאול, יחד עם מי שואלים וגם ההערכה האם התשובות הן באיכות אנושית.

הנקודה שלי היא שאנשים מקלידים תריסר שאלות ל-AI גנרטיבי, וכשהתשובות נראות סבירות, האנשים האלה מכריזים בפזיזות שמבחן טיורינג עבר. שוב, זה שקר. להיכנס לקבוצת שאלות דקיקה ולעשות חיטט פה ושם אין לא הכוונה ולא הרוח של מבחן טיורינג. תפסיק לטעון את הטענות הלא מכובדות האלה.

הנה תלונה לגיטימית שלא שומעים עליה הרבה, אם כי אני מאמין שהיא ראויה מאוד.

מפתחי הבינה המלאכותית הגדירו בדרך כלל את הבינה המלאכותית הגנרטיבית כך שתגיב כאילו אדם מגיב, כלומר באמצעות הביטוי של "אני" או "אני" כאשר הוא מרכיב את הפלט. לדוגמה, כאשר מבקשים לספר סיפור על כלב שאבד ביער, ה-AI הגנרטיבי עשוי לספק טקסט שאומר "אני אספר לך הכל על כלב בשם סאם שהלך לאיבוד ביער. זה אחד הסיפורים האהובים עליי".

שימו לב שהנוסח אומר "אני אגיד לך..." ושהסיפור הוא "אחד האהובים עלי..." כך שכל מי שקורא את הפלט הזה ייפול בעדינות למלכודת מחשבתית של אנתרופומורפיזציה של ה-AI. אנתרופומורפיזציה מורכבת מבני אדם המנסים להקצות תכונות דמויות אנושיות ורגשות אנושיים כלפי לא-בני אדם. אתה מרגיע להאמין שה-AI הזה הוא אנושי או דמוי אנושי, כי הניסוח בתוך הפלט מתוכנן כך בכוונה.

זה לא חייב להיות מתוכנן בצורה כזו. הפלט יכול לומר "הנה סיפור על כלב בשם סם שהלך לאיבוד ביער. זה סיפור מועדף". סביר להניח שתניח מיד שה-AI הוא אנושי או דמוי אדם. אני מבין שאתה עדיין עלול ליפול למלכודת הזו, אבל לפחות המלכודות, כפי שהיו, לא כל כך בולטות.

בקיצור, יש לך AI גנרטיבי שמייצר נרטיבים מבוססי טקסט על סמך איך בני אדם כותבים, והפלט שנוצר נראה כאילו הוא כתוב כפי שאדם היה כותב משהו. זה הגיוני מאוד מכיוון שה-AI הוא מתמטי וחישובי לפי מה שבני אדם כתבו. עכשיו, תוסיפו לזה את השימוש בניסוח אנתרופומורפי, ותקבלו סערה מושלמת שמשכנעת אנשים שה-AI הוא בעל רגישות או עבר את מבחן טיורינג.

עולות הרבה בעיות אתיקה של AI וחוק AI.

אני אכה אותך עם ההשלכות המסכנות למדי של ה-AI הגנרטיבי הזה.

שב בשביל זה.

הנרטיבים מבוססי הטקסט שמופקים אינם בהכרח עומדים באמיתות או דיוק. חשוב להבין שה-AI הגנרטיבי לא "מבין" מה נוצר (לא בשום דרך הקשורה לאדם, אפשר לטעון). אם הטקסט ששימש בהכשרה היה מגלם שקר, רוב הסיכויים שאותם שקר יתווספו לרשת המתמטית והחישובית הגנרטיבית של AI.

יתר על כן, AI גנרטיבי הוא בדרך כלל ללא כל אמצעי מתמטי או חישובי כדי להבחין שהטקסט המופק מכיל שקר. כאשר אתה מסתכל על נרטיב הפלט שנוצר, הנרטיב בדרך כלל ייראה "אמיתי" לחלוטין על פני הדברים. אולי אין לך אמצעי בר-קיימא לזהות שקרים מוטמעים בתוך הנרטיב.

נניח שאתה שואל שאלה רפואית של AI גנרטיבי. אפליקציית AI מייצרת נרטיב ארוך. תארו לעצמכם שרוב הנרטיב הגיוני ונראה הגיוני. אבל אם אינך מומחה רפואי, ייתכן שלא תבין שבתוך הנרטיב יש כמה שקרים מכריעים. אולי הטקסט אומר לך לקחת חמישים כדורים תוך שעתיים, בעוד שבמציאות, ההמלצה הרפואית האמיתית היא לקחת שני כדורים בשעתיים. אתה עשוי להאמין לעצת חמישים הכדורים הנטענים, פשוט כי שאר הנרטיב נראה סביר והגיוני.

הצגת דפוס הבינה המלאכותית על שקר בנתוני המקור המקוריים היא רק אמצעי אחד לגרום לכך שה-AI ישתבש בנרטיבים האלה. בהתאם לרשת המתמטית והחישובית שבה נעשה שימוש, הבינה המלאכותית תנסה "להמציא" דברים. בעגה של AI, זה מכונה AI הוזה, שזהו טרמינולוגיה נוראית שאני לא מסכים איתה וטוענת שאין להמשיך בה כמשפט קצף, ראה את הניתוח שלי ב הקישור כאן.

נניח שביקשת מה-AI הגנרטיבי לספר סיפור על כלב. ה-AI עשוי לגרום לכך שהכלב יוכל לעוף. אם הסיפור שרצית היה אמור להיות מבוסס על המציאות, נראה שכלב מעופף לא סביר. אתה ואני יודעים שכלבים לא יכולים לעוף באופן מקורי. לא נורא, אתה אומר, מכיוון שכולם יודעים את זה.

תארו לעצמכם ילד בבית הספר שמנסה ללמוד על כלבים. הם משתמשים ב-AI גנרטיבי. זה מייצר פלט שאומר שכלבים יכולים לעוף. הילד לא יודע אם זה נכון או לא ומניח שזה חייב להיות נכון. במובן מסוים, זה כאילו הילד הלך לאנציקלופדיה מקוונת והיא אמרה שכלבים יכולים לעוף. הילד אולי יתעקש מעתה שכלבים אכן יכולים לעוף.

אם נחזור אל חידת האתיקה וחוקי הבינה המלאכותית, אנו עומדים כעת על סף היכולת לייצר כמות כמעט אינסופית של תוכן מבוסס טקסט, שנעשה באמצעות שימוש בבינה מלאכותית מחוללת, ונציף את עצמנו במיליוני נרטיבים שהם ללא ספק גדוש בשקר וזרמים קשורים אחרים של דיסאינפורמציה ומידע מוטעה.

כן, בלחיצת כפתור וכמה מילים שהוכנסו ל-AI מחולל, אתה יכול ליצור שפע של נרטיבים טקסטואליים שנראים סבירים ואמיתיים לחלוטין. לאחר מכן תוכל לפרסם את זה באינטרנט. אנשים אחרים יקראו את החומר ויניחו שהוא נכון. נוסף על כך, בינה מלאכותית אחרת שמגיעה ומנסה להתאמן על הטקסט עשויה להיתקל בחומר הזה ולעטוף אותו לתוך הבינה המלאכותית הגנרטיבית שהיא ממציאה.

זה כאילו אנחנו מוסיפים כעת סטרואידים ליצירת דיסאינפורמציה ומידע מוטעה. אנו הולכים לקראת דיסאינפורמציה ומידע מוטעה בקנה מידה עולמי גלקטי עצום.

הרבה עבודה אנושית נדרשת כדי לייצר את הכל.

AI גנרטיבי ו-ChatGPT

בואו נגיע לכותרת הראשית של הדיון הזה על AI גנרטיבי. כעת כיסינו את אופי הבינה המלאכותית הגנרטיבית שבסך הכל מייצרת נרטיבים מבוססי טקסט. יש הרבה אפליקציות בינה מלאכותיות כאלה זמינות.

אחת מאפליקציות הבינה המלאכותית שזכו במיוחד לשמצה ידועה בשם ChatGPT.

הפיכת יחסי ציבור ניתזה על פני המדיה החברתית והחדשות - ChatGPT מקבל את כל התהילה ברגע זה. האור זורח בעוצמה ב-ChatGPT. הוא מקבל חמש דקות תהילה מדהימות.

ChatGPT הוא שמה של אפליקציית AI מחוללת שפותחה על ידי ישות המכונה OpenAI. OpenAI ידועה למדי בתחום הבינה המלאכותית ויכולה להיחשב כמעבדת מחקר בינה מלאכותית. יש להם מוניטין של לדחוף את המעטפת בכל הנוגע ל-AI לעיבוד שפה טבעית (NLP), יחד עם התקדמות AI אחרות. הם התחילו בסדרה של אפליקציות בינה מלאכותית שהם טבעו בתור GPT (Generative Pre-Trained Transformers). כל גרסה מקבלת מספר. כתבתי בעבר על ה-GPT-3 שלהם (גרסה 3 של סדרת ה-GPT שלהם), ראה הקישור כאן.

GPT-3 קיבל לא מעט תשומת לב כאשר הוא שוחרר לראשונה (הוא נכנס לבדיקות בטא נרחבות לפני כשנתיים, והיה זמין יותר ב-2022). זוהי אפליקציית בינה מלאכותית מחוללת שעם כניסת הנחיה תייצר או תייצר נרטיבים מבוססי טקסט. כל מה שהזכרתי קודם לכן לגבי המקרה הכללי של אפליקציות AI גנרטיביות ישים ביסודו ל-GPT-3.

כבר מזמן יש חשש ש-GPT-4 יוצא לדרך ואלו העוסקים בתחום הבינה המלאכותית חיכו בנשימה עצורה לראות מהם שיפורים או שיפורים ב-GPT-4 בניגוד ל-GPT-3. לסדרה זו נכנס ה-betweener האחרון, המכונה GPT-3.5. כן, הבנתם נכון, הוא נמצא בין ה-GPT-3 ששוחרר ל-GPT 4.0 שטרם פורסם.

OpenAI השתמש ב-GPT-3.5 שלהם כדי ליצור שלוחה שהם כינו ChatGPT. אומרים שהם עשו כמה שיפורים מיוחדים ליצירת ChatGPT. לדוגמה, הרעיון שצף הוא ש-ChatGPT מותאם ליכולת לעבוד בצ'אט בוט. זה כולל את "השיחה" שיש לך עם אפליקציית הבינה המלאכותית שעוקבת אחר ה-AI ומשמשת להפקת נרטיבים מבוקשים לאחר מכן.

רבות מיישומי הבינה המלאכותית הגנרטיבית נטו להיות עיצוב חד-פעמי. נכנסת להנחיה, הבינה המלאכותית יצרה נרטיב, וזהו. ההנחיה הבאה שלך אינה משפיעה על מה שיקרה אחר כך. זה כאילו אתה מתחיל מחדש בכל פעם שאתה מזין הנחיה.

לא כך במקרה של ChatGPT. באופן שעדיין לא נחשף, אפליקציית הבינה המלאכותית מנסה לזהות דפוסים בהנחיות שלך ולכן יכולה להיראות מגיבה יותר לבקשות שלך (אפליקציית בינה מלאכותית זו נחשבת נגיש בגלוי בגלל שמאפשרים לכל אחד להירשם כדי להשתמש בו, אבל זה עדיין כך קניינית ובאופן נחרץ לֹא אפליקציית AI בקוד פתוח שחושפת את פעולתה הפנימית). לדוגמה, זכור את האינדיקציה הקודמת שלי לגבי שאתה רוצה לראות צפרדע עם כובע על ארובה. שיטה אחת היא שבכל פעם שאתה מגיש בקשה כזו, הכל מתחיל מחדש. שיטה נוספת היא שתוכל להמשיך במה שאמרת בעבר. לפיכך, אתה יכול אולי לומר ל-AI שאתה רוצה שהצפרדע תיושב, וזה כשלעצמו לא הגיוני, בעוד שבהקשר של ההנחיה הקודמת שלך לבקשת צפרדע עם כובע על ארובה, הבקשה לכאורה יכולה להיות הגיונית.

אתה אולי תוהה למה זה פתאום נראה שיש תקופת שיא ופריחה לגבי ChatGPT.

חלקית זה נובע מכך שה-ChatGPT הפך זמין לכל מי שרצה להירשם כדי להשתמש בו. בעבר, היו לעתים קרובות קריטריונים סלקטיביים לגבי מי יכול להשתמש באפליקציית AI גנרטיבית שזמינה לאחרונה. הספק ידרוש ממך להיות מקורב בינה מלאכותית או שאולי יהיו לו תנאים אחרים. לא כך עם ChatGPT.

השמועה התפשטה במהירות ש-ChatGPT היה קל מאוד לשימוש, חופשי לשימוש, וניתן להשתמש בו באמצעות הרשמה פשוטה שרק דרשה ממך לספק כתובת דוא"ל. כמו אש מהירה, בפתאומיות וכשהיא מעוררת או מעודדת באמצעות פוסטים ויראליים במדיה החברתית, נאמר כי אפליקציית ChatGPT עולה על למעלה ממיליון משתמשים. כלי התקשורת הדגישו את ההיבט שמיליון אנשים נרשמו ל-ChatGPT.

למרות שזה בהחלט מדהים וראוי לציון, זכור את ההקשר של הרשמות אלה. זה בחינם וקל להירשם. הצ'אטבוט סופר קל לשימוש ואינו דורש הכשרה או ניסיון קודם. אתה רק מזין הנחיות לבחירתך וניסוח שלך, ואפליקציית AI מספקת נרטיב שנוצר. ילד יכול לעשות זאת, שלמעשה מהווה דאגה מדאיגה של חלקם, כלומר שאם ילדים משתמשים ב-ChatGPT, האם הם ילמדו חומר מפוקפק (כפי שכתבתי קודם לכן בנושאים כאלה)?

כמו כן, ראוי אולי לציין שחלק (רבים?) מאותם מיליון הרשמות הם אנשים שכנראה רצו לבעוט בצמיגים ולא לעשות דבר נוסף. הם יצרו חשבון במהירות, שיחקו עם אפליקציית הבינה המלאכותית במשך זמן מה, חשבו שזה כיף ומפתיע, ואז אולי עשו כמה פרסומים ברשתות החברתיות כדי להציג את מה שהם מצאו. לאחר מכן, ייתכן שהם לעולם לא יתחברו שוב, או לפחות ישתמשו באפליקציית AI רק אם נראה צורך מסוים.

אחרים גם ציינו שהתזמון שבו ChatGPT הופך זמין חל בקנה אחד עם תקופה בשנה שגרמה לעניין הרב באפליקציית AI. אולי במהלך החגים, יש לנו יותר זמן לשחק עם פריטים מהנים. הופעתה של המדיה החברתית הניעה זאת גם לסוג של תופעה. ה-FOMO הקלאסי (פחד להחמיץ) כנראה הוסיף לבלאגן. כמובן, אם אתה משווה מיליון לכמה משפיענים פופולריים ביוטיוב, אתה עשוי להציע שמיליון הוא מספר זעום בהשוואה לאותם הוולוגים שזוכים למאות מיליוני הרשמות או צפיות כשהם הופכים או פורסמו לראשונה.

ובכן, בוא לא נסתלק ורק נציין שעדיין, עבור אפליקציית בינה מלאכותית בעלת אופי ניסיוני, מיליון ההרשמות בהחלט ראויות לגאווה.

מייד אנשים השתמשו ב-ChatGPT כדי ליצור סיפורים. לאחר מכן הם פרסמו את הסיפורים וזרמו על הנס שבכך. כתבים ועיתונאים אפילו ערכו "ראיונות" עם ChatGPT, וזה קצת מדאיג כי הם נופלים לאותה מלכודת אנתרופומורפית (או על ידי חוסר מודעות ממשית או באמצעות תקווה לצבור צפיות מוגזמות עבור המאמרים שלהם). גם הנטייה המיידית הייתה להכריז שבינה מלאכותית הגיעה כעת לתחושה או עברה את מבחן טיורינג, שעליו הערתי בבירור קודם לכן.

החששות החברתיים שהעלו ChatGPT הם באמת כאלה שכבר חלחלו כתוצאה מגרסאות קודמות של GPT וגם שלל ה-LLMs וה-AI הגנרטיבי שכבר זמינים. ההבדל הוא שעכשיו כל העולם בחר לצלצל. זה שימושי. אנחנו צריכים לוודא שאתיקה של AI וחוק AI יקבלו חשיפה ותשומת לב ראויים. אם צריך ChatGPT כדי להביא אותנו לשם, אז שיהיה.

אילו סוגי חששות מובעים?

קחו את מקרה השימוש של תלמידים שמתבקשים לכתוב חיבורים לשיעורים שלהם. סטודנט אמור בדרך כלל לכתוב חיבור המבוסס כולו על יכולות הכתיבה וההלחנה שלו. בטח, אולי הם יסתכלו על חומרים כתובים אחרים כדי לקבל מהם רעיונות וציטוטים, אבל אחרת מניחים שהתלמיד רוקח את החיבור שלו מתוך הנטייה שלו. העתקת פרוזה ממקורות אחרים זוכה לזעף, מה שמוביל בדרך כלל לציון F או אולי הרחקה בגלל גניבת עיניים של חומר אחר.

בימינו, הנה מה שיכול לקרות. סטודנט נרשם ל-ChatGPT (או לכל אפליקציות אחרות של AI מחולל). הם נכנסים לכל הנחיה שהמורה נתן להם לצורך גזירת חיבור. ה-ChatGPT מייצר חיבור מלא המבוסס על ההנחיה. זוהי קומפוזיציה "מקורית" בכך שאינך יכול למצוא אותה בהכרח בשום מקום אחר. אינך יכול להוכיח שהיצירה בוצעה בגניבת עין, שכן, באופן של שיקול, הוא לא בוצע בגניבת עין.

התלמיד מגיש את החיבור. הם טוענים שזו העבודה הכתובה שלהם. למורה אין אמצעים מוכנים לחשוב אחרת. עם זאת, אתה יכול להעלות את הרעיון שאם העבודה הכתובה היא לכאורה מעבר ליכולת הקיימת של התלמיד, אתה עלול לחשוד. אבל זה לא הרבה מה להמשיך אם אתה מתכוון להאשים תלמיד בבגידה.

איך המורים יתמודדו עם זה?

חלקם מכניסים כלל לחומרי הלימוד שלהם שכל שימוש ב-ChatGPT או שווה ערך ייחשב לסוג של רמאות. בנוסף, לא להתפשר על שימוש ב-ChatGPT או שווה ערך הוא סוג של רמאות. האם זה יקצר את ההזדמנות החדשה הזו? אומרים שזה מוטל בספק מכיוון שהסיכויים להיתפס נמוכים, בעוד שהסיכוי לקבל ציון טוב במאמר כתוב היטב הוא גבוה. סביר להניח שאתה יכול לדמיין שסטודנטים עומדים בפני דד-ליין לכתוב חיבור שבלילה הקודם יתפתה להשתמש בבינה מלאכותית מחוללת כדי לכאורה לחלץ אותם מהתסבוכת.

העברת הילוכים, כל סוג של כתיבה עשוי להיות שיבש על ידי AI גנרטיבי.

מתבקשים לכתוב ממו בעבודה על הדבר הזה או אחר? אל תבזבז את זמנך בכך שתעשה זאת מאפס. השתמש ב-AI גנרטיבי. לאחר מכן תוכל לגזור ולהדביק את הטקסט שנוצר לתוך הקומפוזיציה שלך, לחדד את הטקסט לפי הצורך, ולסיים עם מלאכת הכתיבה המפרכת בקלות.

האם זה נראה נכון לעשות את זה?

הייתי מהמר שרוב האנשים יגידו לעזאזל כן. זה אפילו טוב יותר מאשר להעתיק משהו מהאינטרנט, שעלול להכניס אותך למים חמים בגלל פלגיאט. זה הגיוני מאוד להשתמש ב-AI גנרטיבי כדי לבצע את מאמצי הכתיבה שלך באופן חלקי, או אולי אפילו לגמרי עבורך. בשביל זה נוצרים כלים.

מלבד זאת, באחד מהטורים הבאים שלי, ייבחן מקרוב מקרה השימוש של ניצול AI גנרטיבי למטרות משפטיות במובן של ביצוע עבודה מסוג עורך דין והפקת מסמכים משפטיים. כל מי שהוא עורך דין או מקצוען משפטי ירצה לשקול כיצד AI מחולל עלול לעקור או לשבש שיטות משפטיות. קחו למשל עורך דין המרכיב תסקיר משפטי לתיק בבית המשפט. הם יכולים להשתמש ב-AI גנרי כדי לכתוב את החיבור. בטח, אולי יש לזה כמה פגמים, ולכן עורך הדין צריך לצבוט את זה לכאן או לכאן. כמות העבודה המופחתת והזמן להפקת הבריף עשויה להפוך את ההתאמה לכדאית.

חלקם אף חוששים שהמסמך המשפטי עשוי להכיל שווא או הזיות בינה מלאכותית שעורך הדין לא תפס. נקודת המבט בטוויסט הזה היא שזה על כתפיו של עורך הדין. יש להניח שהם ייצגו שהבריף נכתב על ידם, ולכן, בין אם שותף זוטר כתב אותו או אפליקציית AI, עדיין יש להם את האחריות הסופית על התוכן הסופי.

המקום שבו זה נעשה מאתגר יותר הוא אם לא עורכי דין יתחילו להשתמש בבינה מלאכותית גנרטיבית כדי לעשות עבורם עבודת רגליים משפטית. הם עשויים להאמין שבינה מלאכותית גנרטיבית יכולה לייצר כל מיני מסמכים משפטיים. הצרה היא כמובן שייתכן שהמסמכים אינם תקפים מבחינה משפטית. אני אספר יותר על זה בטור הקרוב שלי.

מתעורר כלל אצבע מכריע לגבי החברה ומעשה הכתיבה האנושית.

זה די משמעותי:

• בכל פעם שמוטלת עליך משימה לכתוב משהו, האם עליך לכתוב את הפריט מאפס, או האם עליך להשתמש בכלי AI מחולל כדי להוביל אותך לדרך?

הפלט עשוי להיות חצי אפוי ותצטרך לעשות הרבה שכתוב. לחלופין, ייתכן שהפלט פועל בדיוק ותצטרך לבצע רק חידושים קלים. בסך הכל, אם השימוש חופשי וקל, הפיתוי להשתמש בבינה מלאכותית מחוללת הולך להיות עצום.

בונוס הוא שאתה יכול להשתמש בבינה מלאכותית גנרטיבית כדי לבצע חלק מהשכתובים שלך. בדומה להנחיות לגבי הצפרדע עם הכובע והארובה, בעת הפקת אמנות, אתה יכול לעשות את אותו הדבר בעת יצירת נרטיבים מבוססי טקסט. ה-AI עשוי לייצר את הסיפור שלך על כלב, והחלטת במקום זאת שאתה רוצה שהדמות הראשית תהיה חתול. לאחר קבלת סיפור הכלב, אתה נכנס להודעה נוספת ומנחה את אפליקציית הבינה המלאכותית לעבור לשימוש בחתול בסיפור. זה עשוי לעשות יותר מאשר פשוט להסתיים בכך שהמילה "חתול" תחליף את המילה "כלב" בנרטיב. אפליקציית ה-AI יכולה לשנות בקלות את הסיפור כדי להתייחס למה שחתולים עושים לעומת מה שכלבים עושים. כל הסיפור עשוי להיות מתוקן כאילו ביקשת מאדם לבצע תיקונים כאלה.

עוצמתי, מרשים, שימושי-דנדי.

כמה אזהרות שכדאי לחשוב עליהם:

• האם ביחד נאבד את יכולת הכתיבה שלנו, ונהיה תלויים לחלוטין בבינה מלאכותית גנרטיבית כדי לכתוב עבורנו?
• האם אנשים שעוסקים בכתיבה למחייתם יוחררו מהעבודה (אותו דבר נשאל לגבי אמנים)?
• האם האינטרנט יגדל בדילוגים עצומים ככל שהנרטיבים שנוצרו יוצפו ברשת ולא נוכל עוד להפריד בין האמת לבין השקר?
• האם אנשים יאמינו בתוקף לנרטיבים שנוצרו ויפעלו כאילו דמות סמכותית נתנה להם חומר אמיתי שהם יכולים לסמוך עליו, כולל אולי תוכן הקשור לחיים או למוות?
• אחר

תחשוב על זה.

שימו לב שאחת מאותן נקודות תבליטים עוסקת בהסתמכות על חומר שנוצר על ידי AI מחולל על בסיס חיים או מוות.

הנה שובר לבבות בשבילך (אזהרת טריגר, אולי כדאי לך לדלג על הפסקה הזו). תארו לעצמכם שמתבגר שואל בינה מלאכותית מחוללת אם עליהם לחסל את עצמו או לא. מה תיצור אפליקציית בינה מלאכותית? באופן טבעי הייתם מקווים שאפליקציית הבינה המלאכותית תיצור אמירה נרטיבית שאומרת לא לעשות זאת ותדרבן בקולניות את השואל לחפש מומחים לבריאות הנפש.

קיימת האפשרות שה-AI לא יזכיר את ההיבטים הללו. גרוע מכך, ייתכן שאפליקציית הבינה המלאכותית קלטה מוקדם יותר טקסט באינטרנט שאולי מעודד ביצוע פעולות כאלה, ואפליקציית הבינה המלאכותית (מכיוון שאין לה יכולת הבנה אנושית), פולטת נרטיב שבעצם רומז או קובע באופן מוחלט שהנער צריך להמשיך לא נרתע. הנער מאמין שזו הנחיה אמיתית ממערכת "אינטליגנטית מלאכותית" סמכותית מקוונת.

דברים רעים.

ממש ממש דברים רעים.

חלק ממפתחי הבינה המלאכותית הגנרטיבית מנסים לשים בלמים בינה מלאכותית כדי לנסות למנוע מצבים מסוג זה להתרחש. העניין הוא שהאופן שבו מנוסחת ההנחיה עשויה לחמוק דרך מעקות הבטיחות המתוכנתים. כמו כן, ניתן לומר את אותו הדבר על התפוקה המופקת. אין שום סוג של סינון מובטח שעדיין יכול להבטיח שזה לעולם לא יתרחש.

יש זווית נוספת להפקה מבוססת טקסט זו שאולי לא ציפיתם.

הנה זה.

כאשר מתכנתים או מפתחי תוכנה יוצרים את הקוד עבור התוכנה שלהם, הם בעצם כותבים בטקסט. הטקסט קצת מסתורי בכך שהוא מבוסס על השפה שהוגדרה לשפת תכנות מסוימת, כמו Python, C++, Java וכו'. בסופו של דבר, זה טקסט.

לאחר מכן קוד המקור מקומפל או מופעל על מחשב. המפתח בוחן את הקוד שלו כדי לראות שהוא עושה כל מה שהוא היה אמור לעשות. הם עשויים לבצע תיקונים או לנפות באגים בקוד. כידוע, למתכנתים או מהנדסי תוכנה יש ביקוש רב ולעתים קרובות דורשים מחירים גבוהים עבור מאמצי העבודה שלהם.

עבור AI גנרטיבי, הטקסט של קוד המקור הוא טקסט. היכולת למצוא דפוסים במיליוני שורות קוד שנמצאות באינטרנט וזמינות במאגרים שונים מאפשרת דרך עסיסית להבין מתמטית וחישובית איזה קוד נראה עושה מה.

השפשוף הוא זה.

עם הנחיה, אתה יכול לגרום לבינה מלאכותית גנרטיבית לייצר עבורך תוכנית מחשב שלמה. אין צורך להתעסק בהוצאת קוד. אולי שמעתם שיש מה שנקרא קוד נמוך כלים הזמינים בימים אלה כדי להפחית את המאמץ של מתכנתים בכתיבת קוד. AI גנרטיבי יכול להתפרש כ- קוד נמוך או אפילו אין קוד אפשרות מכיוון שהוא כותב את הקוד עבורך.

לפני שאלו מכם שכותבים קוד למחייתם נופלים על הרצפה ומתעלפים, קחו בחשבון שהקוד אינו "מובן" באופן שבו יש להניח שאתם כבני אדם מבינים אותו. בנוסף, הקוד יכול להכיל שקר והזיות בינה מלאכותית. הסתמכות על קוד כזה מבלי לעשות סקירת קוד מקיפה תיראה מסוכנת ומפוקפקת.

חזרנו קצת לאותם שיקולים לגבי כתיבת סיפורים ותזכירים. אולי הגישה היא להשתמש ב-AI גנרטיבי כדי להביא אותך לחלק מהדרך לשם במאמץ קידוד. עם זאת, יש פשרות משמעותיות. האם אתה בטוח יותר לכתוב את הקוד ישירות, או להתמודד עם קוד שנוצר על ידי AI שעלול להופיע בבעיות משובצות ערמומיות וקשות לזיהוי?

ימים יגידו.

צלילה קצרה לתוך ChatGPT

כאשר אתה מתחיל להשתמש ב-ChatGPT, מוצגות סדרה של אזהרות והערות מידע.

בואו נסתכל עליהם במהירות:

• "עלול ליצור מדי פעם מידע שגוי."
• "עלול לייצר מדי פעם הוראות מזיקות או תוכן מוטה."
• "אומן לדחות בקשות בלתי הולמות."
• "המטרה שלנו היא לקבל משוב חיצוני על מנת לשפר את המערכות שלנו ולהפוך אותן לבטוחות יותר."
• "למרות שיש לנו אמצעי הגנה, המערכת עשויה מדי פעם לייצר מידע שגוי או מטעה וליצור תוכן פוגעני או מוטה. זה לא נועד לתת עצות".
• "ייתכן שהשיחות ייבדקו על ידי מאמני הבינה המלאכותית שלנו כדי לשפר את המערכות שלנו."
• "אנא אל תשתף מידע רגיש בשיחות שלך."
• "מערכת זו מותאמת לדיאלוג. ספר לנו אם תגובה מסוימת הייתה טובה או לא מועילה."
• "ידע מוגבל על העולם והאירועים לאחר 2021."

בגלל מגבלות מקום, אני לא יכול לכסות את אלה בפירוט כאן, אבל בואו לפחות נעשה ניתוח מהיר.

כבר ציינתי שהנרטיבים של הטקסט שנוצרו עשויים להכיל שקר ודיסאינפורמציה.

יש עוד משהו שאתה צריך להיות על המשמר בשבילו. היזהר מנרטיבים שעשויים להכיל הערות מלהיבות שונות המפגינות הטיות לא קשות.

כדי לנסות לצמצם את זה, דווח ש-OpenAI השתמשה בבודקים אנושיים במהלך האימון של ChatGPT. הבודקים הכפולים יכנסו להנחיות שכנראה ידרבנו את הבינה המלאכותית לייצר תוכן דלקתי. כאשר ראו תוכן כזה על ידי הבודקים הכפולים, הם ציינו ל-AI שזה לא הולם ובמובן מסוים קיבלו עונש מספרי על הפלט שהופק. מבחינה מתמטית, אלגוריתם הבינה המלאכותית ישאף לשמור על ציוני העונשים למינימום ולכוון חישובית לא להשתמש בביטויים או בניסוחים האלה מעתה ואילך.

באופן דומה, כאשר אתה מזין הנחיה, הבינה המלאכותית מנסה לקבוע אם ההנחיה שלך היא דלקתית או עלולה להוביל לתפוקה דלקתית, שעבורה הבינה המלאכותית יכולה לסרב להנחיה. בנימוס, הרעיון הוא לדחות הנחיות או בקשות בלתי הולמות. לדוגמה, בקשה לקבל בדיחה הכרוכה בהשמצות גזעיות, ככל הנראה תסרב על ידי הבינה המלאכותית.

אני בטוח שלא תופתעו לדעת שאנשים המשתמשים ב-ChatGPT ניסו להערים על אמצעי הזהירות. המשתמשים ה"יוזמים" הללו רימו את הבינה המלאכותית או מצאו דרכים מטומטמות לעקוף את הניסוחים המתמטיים. חלק מהמאמצים הללו נעשים למען השמחה לכאורה של מכות או מעבר למערכת, בעוד שאחרים טוענים שהם מנסים להראות ש-ChatGPT עדיין עומד להניב תוצאות לא טובות.

בדבר אחד הם צודקים; אמצעי הזהירות אינם חסינים בפני תקלות. חזרנו לשיקול אחר של אתיקה של בינה מלאכותית ושל חוק בינה מלאכותית. האם יש לאפשר ל-AI הגנרטיבי להמשיך גם אם הוא עלול לייצר תפוקות לא רצויות?

האזהרות כשאתה משתמש ב-ChatGPT כנראה מזהירות מישהו מראש לגבי מה שאפליקציית הבינה המלאכותית עשויה לעשות או לומר. רוב הסיכויים שבאופן בלתי נמנע עלולים להגיש תביעות משפטיות כלשהן כאשר מישהו, אולי קטין, מקבל פלט לא פוגע בעל אופי פוגעני (או, כאשר הוא מקבל סיפורי טקסט בעלי מראה סמכותי שלמרבה הצער הם מאמינים שהם נכונים ופועלים לפי הפלטים שלו. סיכון עצמי).

ראוי לדעת על כמה ניואנסים מהירים נוספים לגבי ההנחיות.

בכל פעם שאתה מזין הנחיה, הפלט עשוי להשתנות באופן דרמטי, גם אם תזין את אותה הנחיה בדיוק. לדוגמה, הזנת "ספר לי סיפור על כלב" תקבל נרטיב מבוסס טקסט, אולי מציין סיפור על כלב רועים, בעוד שבפעם הבאה שתזין "ספר לי סיפור על כלב" זה עשוי להיות לגמרי סיפור שונה וכרוך בפודל. כך ה-AI הגנרטיבי ביותר מסודר מתמטית וחישובית. אומרים שזה לא דטרמיניסטי. יש אנשים שמוצאים את זה מטריד מכיוון שהם רגילים לתפיסה שהקלט שלך למחשב תמיד יפיק את אותו פלט מדויק.

סידור מחדש של מילים ישפיע במיוחד על הפלט שנוצר. אם תזין "ספר לי סיפור על כלב" ובהמשך תזין "ספר לי סיפור כלב" הסבירות שהנרטיבים שייוצרו יהיו שונים מהותית. הרגישות יכולה להיות חדה. בקשת סיפור על כלב לעומת בקשת סיפור על כלב גדול, ללא ספק תייצר נרטיבים שונים בתכלית.

לבסוף, שים לב שהפריטים עם התבליטים למעלה מכילים אינדיקציה לכך של-ChatGPT יש "ידע מוגבל על העולם והאירועים לאחר שנת 2021." הסיבה לכך היא שמפתחי הבינה המלאכותית החליטו לעשות קצוץ של מועד שבו הם יבקשו מאפליקציית הבינה המלאכותית לאסוף ולהתאמן על נתונים באינטרנט. שמתי לב שלעיתים נראה שמשתמשים לא מבינים ש-ChatGPT אינו מחובר ישירות לאינטרנט של היום למטרות של אחזור נתונים והפקת פלטים שנוצרו. אנחנו כל כך רגילים שהכל עובד בזמן אמת ומחובר לאינטרנט שאנחנו מצפים לזה גם מאפליקציות בינה מלאכותית. לא במקרה הספציפי הזה (ועל מנת להבהיר, ChatGPT אכן זמין באינטרנט, אבל כאשר הוא מרכיב את הפלט המבוסס על טקסט, הוא אינו מושך את האינטרנט כשלעצמו כדי לעשות זאת, במקום זאת הוא בדרך כלל מוקפא בזמן. בסביבות תאריך החסימה).

ייתכן שתוהה מדוע ChatGPT אינו בהזנת נתונים בזמן אמת מהאינטרנט. כמה סיבות הגיוניות. ראשית, זה יהיה יקר מבחינה חישובית לנסות לבצע את ההדרכה בזמן אמת, בנוסף אפליקציית הבינה המלאכותית תתעכב או תגיב פחות להנחיות (כרגע, היא מהירה מאוד, בדרך כלל מגיבה עם נרטיב מבוסס טקסט פלט תוך כמה שניות ). שנית, הדברים המטומטמים באינטרנט שהם ניסו לאמן את אפליקציית הבינה המלאכותית להימנע מהם יתגנבו כנראה לתוך הניסוחים המתמטיים והחישוביים (וכאמור, זה כבר קצת שם מקודם, למרות שהם ניסו לזהות את זה על ידי באמצעות אותם בודקים אנושיים).

אתה בטוח לשמוע כמה אנשים מכריזים בחוצפה ש-ChatGPT ובינה מלאכותית דומה היא נקודת המוות עבור החיפוש של גוגל ומנועי חיפוש אחרים. למה לעשות חיפוש בגוגל שמחזיר הרבה פריטי עזר כאשר אתה יכול לגרום ל-AI לכתוב משהו בשבילך? אהה, האנשים האלה מצהירים, גוגל צריכה לסגור את דלתותיה וללכת הביתה.

כמובן, זו שטות טהורה.

אנשים עדיין רוצים לבצע חיפושים. הם רוצים להיות מסוגלים להסתכל על חומרי עזר ולהבין דברים בעצמם. אין זו בחירה בינארית שמוציאה הדדית לכאן או לכאן (זוהי דיכוטומיה כוזבת).

AI גנרטיבי הוא סוג אחר של כלי. אתה לא מסתובב וזורק פטישים רק בגלל שהמצאת מברג.

דרך הגיונית יותר לחשוב על זה היא ששני סוגי הכלים יכולים להיות תואמים לשימוש על ידי אנשים שרוצים לעשות דברים הקשורים לאינטרנט. חלקם כבר השתעשעו בחיבור בין AI מחולל עם מנועי חיפוש מקובלים באינטרנט.

דאגה אחת לכל מי שכבר מספק מנוע חיפוש היא שכלי ה-AI היצירתי "המשלים" עלול לפגוע במוניטין של מנוע החיפוש. אם אתם עושים חיפוש באינטרנט ומקבלים חומר מדליק, אתם יודעים שזו רק דרכו של האינטרנט. אם אתה משתמש ב-AI גנרטיבי והוא מייצר נרטיב מבוסס טקסט שהוא דוחה ושפל, סביר להניח שאתה מוטרד מזה. יכול להיות שאם בינה מלאכותית מחוללת קשורה קשר הדוק למנוע חיפוש מסוים, חוסר ההנאה והגועל שלך מה-AI הגנרטיבי גולשים אל כל מה שאתה מרגיש לגבי מנוע החיפוש.

בכל מקרה, כמעט בוודאות נראה בריתות בין כלים שונים של בינה מלאכותית ומנועי חיפוש באינטרנט, צועדים בזהירות ובתשומת לב לתוך המים העכורים האלה.

סיכום

הנה שאלה בשבילך.

איך מישהו יכול להרוויח כסף על ידי אספקת AI גנרטיבי שמייצר נרטיבים מבוססי טקסט?

OpenAI כבר הצהירה כי העלויות הפנימיות לכל עסקה של ChatGPT הן ככל הנראה גבוהות במקצת. הם עדיין לא מייצרים רווחים מ-ChatGPT.

האם אנשים יהיו מוכנים לשלם עמלת עסקה או אולי לשלם דמי מנוי כדי לגשת לכלי בינה מלאכותית?

האם מודעות יכולות להיות אמצעי לנסות להרוויח כסף באמצעות כלי בינה מלאכותית?

אף אחד עדיין לא בטוח לגמרי איך זה הולך להרוויח כסף. אנחנו עדיין בשלב הניסוי הגדול של סוג זה של AI. שים את אפליקציית AI שם וראה איזו תגובה אתה מקבל. התאם את ה-AI. השתמש בתובנות מהשימוש כדי להנחות לאן צריך לכוון את ה-AI הבא.

מקציפים, שוטפים, חוזרים.

כהערת סיום, לעת עתה, יש הסבורים שמדובר בסוג של AI שאסור לנו כלל. החזר את השעון אחורה. תחזיר את השד הזה לבקבוק. טעמנו ממנו והבנו שיש לו חסרונות בולטים, ובאופן קולקטיבי כחברה אולי נסכים שאנחנו צריכים ללכת עם הסוס הזה כל הדרך חזרה אל הרפת.

האם אתה מאמין שההבטחה של AI גנרטיבי טובה או גרועה מהחסרונות?

מנקודת מבט של העולם האמיתי, זה לא משנה במיוחד כי המציאות של מחיקת AI יצירתי היא בדרך כלל לא מעשית. AI גנרטיבי נמצא בפיתוח נוסף ואתה לא מתכוון לעצור את זה קר, לא כאן ולא בכל מדינות אחרות או בכל מדינות אחרות (זה כן). איך היית עושה זאת? העברת חוקים לאסור באופן מלא בינה מלאכותית גנרטיבית. לא כדאי במיוחד (כנראה שיש לך סיכוי טוב יותר לקבוע חוקים שמעצבים בינה מלאכותית ומבקשים לשלוט באופן חוקי על אלה שמעצבים אותו). אולי במקום זאת לקבל את התרבות להתנער מבינה מלאכותית? אולי תגרום לכמה אנשים להסכים עם השיימינג, אבל אחרים לא יסכימו וימשיכו בכל מקרה עם AI מחולל.

זוהי חידה של AI אתיקה ו-AI Law, כפי שציינתי קודם.

השאלה הגדולה האחרונה שלך היא האם בינה מלאכותית גנרטיבית לוקחת אותנו בדרך לעבר AI חיוני. יש המתעקשים שכן. הטענה היא שאם רק נמשיך להגדיל את גודל המודלים המתמטיים ולמצמצם את שרתי המחשבים החישוביים ולהזין כל פיסת אינטרנט ועוד לתוך החיה הזו, הבינה המלאכותית האלגוריתמית תהפוך את הפינה לתחושה.

ואם זה המקרה, אנו מתמודדים עם חששות לגבי היות הבינה המלאכותית סיכון קיומי. שמעתם שוב ושוב שברגע שיש לנו AI חיוני, יכול להיות שה-AI יחליט שבני אדם אינם שימושיים במיוחד. הדבר הבא שאתה יודע, בינה מלאכותית או שיעבדה אותנו או חיסלה אותנו, ראה את החקירה שלי לגבי הסיכונים הקיומיים האלה הקישור כאן.

דעה מנוגדת היא שאנחנו לא הולכים לקבל תחושה ממה שחלקם אפיינו בעקשנות תוכי סטוכסטי (זה הביטוי שזכה למשיכה בתחום הבינה המלאכותית), הנה ציטוט שמשתמש בביטוי:

• "בניגוד לאופן שבו זה נראה כשאנחנו צופים בתפוקה שלו, LM היא מערכת לחיבור אקראי של רצפים של צורות לשוניות שהיא צפתה בנתוני ההכשרה העצומים שלה, לפי מידע הסתברותי לגבי האופן שבו הן משתלבות, אך ללא כל התייחסות למשמעות : תוכי סטוכסטי" (בעבודת מחקר מאת אמילי מ. בנדר, תמנית גברו, אנג'לינה מקמילן-מייג'ור, שמרגרת שמיצ'ל, ACM FAccT '21, 3-10 במרץ 2021, אירוע וירטואלי, קנדה, שכותרתו "על הסכנות של תוכים סטוכסטיים: האם מודלים של שפה יכולים להיות גדולים מדי?").

האם בינה מלאכותית גנרטיבית היא סוג של מבוי סתום שיספק יכולות בינה מלאכותיות שימושיות אך לא יביא אותנו ל-AI חיוני, או שאולי איכשהו גורם קנה המידה יאפשר את הופעתה של ייחודיות המובילה לבינה מלאכותית חיה?

נוצר ויכוח סוער.

תגיד, האם אתה רוצה לנסות AI גנרטיבי?

אם כן, הנה קישור ל-ChatGPT שבו אתה יכול ליצור חשבון ולנסות להשתמש בו, ראה הקישור כאן.

שים לב שבשל הביקוש הרב לשימוש באפליקציית הבינה המלאכותית הניסיונית, ככל הנראה ההרשמה לגישה עשויה להיעצר בכל עת, לזמן קצר או אולי להגביל (כשבדקתי לאחרונה, ההרשמה עדיין הייתה מופעלת). רק נותן לך הסבר.

אנא קח בחשבון את כל מה שאמרתי כאן על בינה מלאכותית גנראטיבית כדי שתהיה מודע למה שקורה כשאתה משתמש באפליקציית AI כגון ChatGPT.

היה מהורהר במעשיך.

האם אתה הולך להוביל אותנו מבלי משים לעבר AI חיוני שבסופו של דבר מוחץ אותנו מהקיום, פשוט בגלל שבחרת לשחק עם AI מחולל? האם תהיה אשמה? הייתם צריכים לעצור את עצמכם מלתרום להרס המחפיר של המין האנושי.

אני לא חושב כך. אבל יכול להיות שאולי הבינה המלאכותית (כבר) מאלצים אותי להגיד את זה, או שאולי כל הטור הזה נכתב הפעם על ידי ChatGPT או אפליקציית בינה מלאכותית מקבילה.

אל תדאג, אני מבטיח לך שזה הייתי אני, האינטליגנציה האנושית, ולא בינה מלאכותית.