היכולות של הבינה המלאכותית הגנרטיבית ליצור תמונות דמויות חיים הן מרשימות, אבל הבולשת הפדרלית האמריקאית אומרת שפושעים משתמשים בזיופים עמוקים כדי למקד קורבנות לסחיטה.
"ה-FBI ממשיך לקבל דיווחים מקורבנות, כולל ילדים קטינים ומבוגרים שלא הסכימו, שתמונותיהם או הסרטונים שלהם שונו לתוכן מפורש", אמרה הסוכנות בהתראה של PSA ביום שני.
ה-FBI אומר שסוכנויות אכיפת החוק קיבלו בשנה שעברה למעלה מ-7,000 דיווחים על סחיטה מקוונת לקטינים, עם עלייה במספר הקורבנות של מה שמכונה "הונאות סחיטה" באמצעות זיופים עמוקים מאז אפריל.
זיוף עמוק הוא סוג נפוץ יותר ויותר של תוכן וידאו או אודיו שנוצר עם בינה מלאכותית שמתאר אירועים שקריים שיותר ויותר קשה להבחין בהם כזיופים, הודות לפלטפורמות בינה מלאכותית כמו Midjourney 5.1 ו-DALL-E 2 של OpenAI.
בחודש מאי, זיוף עמוק של טסלה ומנכ"ל טוויטר אילון מאסק עשה כדי להונות משקיעי קריפטו הפך ויראלי. הסרטון ששותף ברשתות החברתיות הכיל צילומים של מאסק מראיונות קודמים, שנערכו כדי להתאים להונאה.
זיופים עמוקים הם לא כולם זדוניים, זיוף עמוק של האפיפיור פרנציסקוס לובש ז'קט לבן של בלנסיאגה הפך לוויראלי מוקדם יותר השנה, ולאחרונה נעשה שימוש בזיופים עמוקים שנוצרו על ידי AI כדי להחזיר את קורבנות הרצח לחיים.
בהמלצותיו, ה-FBI הזהיר מפני תשלום כופר כלשהו, משום שכך אין להבטיח שהפושעים לא יפרסמו את הזיוף העמוק בכל מקרה.
ה-FBI גם ממליץ לנקוט משנה זהירות בעת שיתוף מידע אישי ותכנים באינטרנט, כולל שימוש בתכונות פרטיות כמו הפיכת חשבונות לפרטיים, מעקב אחר פעילות מקוונת של ילדים ומעקב אחר התנהגות חריגה של אנשים שקיימת איתם אינטראקציה בעבר. הסוכנות גם ממליצה לבצע חיפושים תכופים אחר מידע אישי ובני משפחה באינטרנט.
סוכנויות אחרות שמשמיעות אזעקה כוללות את ועדת הסחר הפדרלית של ארה"ב, שהזהירה כי פושעים השתמשו בזיופים עמוקים כדי להערים על קורבנות תמימים לשלוח כסף לאחר שיצרו זיוף שמע של חבר או בן משפחה שאומר שהם נחטפו.
"בינה מלאכותית היא כבר לא רעיון מופרך מתוך סרט מדע בדיוני. אנחנו חיים עם זה, כאן ועכשיו. רמאי יכול להשתמש בבינה מלאכותית כדי לשכפל את קולו של יקירכם", אמר ה-FTC בהתראה לצרכן במרץ, והוסיף כי כל הצרכים הפליליים הם קטע שמע קצר של קולו של בן משפחה כדי לגרום להקלטה להישמע אמיתית.
ה-FBI טרם הגיב פענוח בקשה לתגובה.
הישאר מעודכן בחדשות הקריפטו, קבל עדכונים יומיים בתיבת הדואר הנכנס שלך.
מקור: https://decrypt.co/143479/fbi-warning-ai-extortion-sextortion-deepfake-scams