OpenAI ו-Meta מזהירות: מערכת המשפט האמריקאית צריכה להיזהר מראיות דיפ-פייק
OpenAI ו-Meta, שפיתחו כלים ליצירת תוכן מבוסס AI, הזהירו את הוועדה השיפוטית הפדרלית בארה"ב מפני ראיות דיפ-פייק (deepfake) שיוגשו לבתי המשפט. כך דיווחה רויטרס, ולפי השחזור שפורסם באתר Investing.com.
הדיון התקיים ביום חמישי בבוסטון, בישיבה של הוועדה המייעצת לכללי הראיות
OpenAI ו-Meta, שפיתחו כלים ליצירת תוכן מבוסס AI, הזהירו את הוועדה השיפוטית הפדרלית בארה"ב מפני ראיות דיפ-פייק (deepfake) שיוגשו לבתי המשפט. כך דיווחה רויטרס, ולפי השחזור שפורסם באתר Investing.com.
הדיון התקיים ביום חמישי בבוסטון, בישיבה של הוועדה המייעצת לכללי הראיות של הוועידה השיפוטית האמריקאית. הוועדה עובדת על הנושא מאז 2023, ובוחנת כיצד לוודא שראיות שנוצרו בעזרת בינה מלאכותית יעמדו באותם סטנדרטים של אמינות כמו עדויות של מומחים אנושיים.
השאלה המרכזית שעלתה בישיבה היא האותנטיות. שירה אנדרסון, יועצת מדיניות ב-OpenAI, אמרה שתמונות שנוצרות בעזרת AI משתפרות כל הזמן, וסברה שלא יהיה בעתיד אמצעי מדעי שיזהה אותן באופן אמין. דווין נורדר, מנהל ניהול מוצר ב-Meta, אמר שמדיה שנוצרת במודלים החדשים אינה ניתנת להבחנה על ידי בני אדם מתוכן אותנטי, ושהעלות ליצירתה נמוכה מאוד.
המצב בפועל מורכב יותר. לפי סקר שערך מרכז המחקר השיפוטי הפדרלי במרץ, מתוך 931 שופטים שהשיבו, רק 15 נתקלו במקרה שבו צד טען שראיה היא דיפ-פייק. השופט ג'סי פורמן, שעומד בראש הוועדה, ציין שאף שהספרות האקדמית צופה שבתי המשפט יתמודדו עם הנושא, הוא עדיין אינו מופיע לעתים קרובות בתיקים בפועל.
פתרונות טכניים קיימים, אבל לא אחידים. חברות כמו OpenAI ו-Meta פיתחו כלים לאימות תוכן חזותי, וחוקים בקליפורניה ובאיחוד האירופי דורשים סימון מים (watermarking) כדי לזהות דיפ-פייק. אנדרסון הזהירה שכל חברה משתמשת במערכת משלה, ולכן אין שיטה אוניברסלית שמזהה באופן אמין את כל סימני המים או מאמתת כל תוכן חזותי. לדבריה, המערכות ישתפרו, אבל לעולם לא יהיו אמינות לגמרי.
למה זה נוגע גם מחוץ לארה"ב? מערכות משפט רבות בעולם נשענות על הקלטות, תמונות ומסמכים דיגיטליים. השאלה איך מזהים זיוף ואיך מאמתים מקור תצטרך להיענות בכל מערכת כזו בשנים הקרובות.