תגית: בינה מלאכותית בפיננסים

מועצת היציבות הפיננסית (Financial Stability Board, FSB), הגוף הבינלאומי שמתאם את עבודת הרגולטורים הפיננסיים בין מדינות, פרסמה היום את הנחיותיה הסופיות לאימוץ אחראי של בינה מלאכותית במוסדות פיננסיים. לפי הדוח הסופי, ההנחיות כוללות 12 עקרונות עבודה תקינים, מחולקים לשתי קבוצות: ממשל תאגידי, וניהול סיכונים לאורך מחזור החיים של מערכת ה-AI.

לפי סיכום התגובות שפרסם הגוף, הטיוטה שפורסמה ביוני קיבלה כ-160 תגובות, ותקופת ההתייעצות נסגרה ב-22 ביולי 2026.

הנקודה שחשובה לסוכנים

לפי הדיווח של Reuters, שפורסם דרך CNA, הדבר המרכזי בעדכון הוא היחס לסוכנים אוטונומיים, כלומר מערכות שמתכננות ומבצעות משימות עם פיקוח אנושי מוגבל. ה-FSB כותב שבשימושים בסיכון גבוה נדרש פיקוח אנושי אינטנסיבי יותר, ושמוסדות צריכים להגדיר טריגרים מבוססי סיכון: מתי סוכן חייב לבקש אישור אנושי לפני שהוא פועל. המשמעות, כפי שאנחנו קוראים אותה: דיוק ממוצע של המודל אינו מספיק. נדרש מנגנון שמזהה מתי ההחלטה רגישה מספיק כדי שאדם יאשר אותה.

Reuters מציין גם שהגוף הסיר מהטיוטה הנחיה שלפיה מוסדות צריכים להתייחס ל-AI כאל "עובדים סינתטיים". במקומה נכתב שמוסדות צריכים להכיר בכך ש"סוכני AI אינם מסיקים כמו בני אדם, ועלולים לפרש מטרות מוגדרות מראש בדרכים בלתי צפויות". ההבחנה חשובה: המסגור הישן תיאר את המערכות כעובדים דיגיטליים, והמסגור החדש מדגיש שהאחריות נשארת אצל המוסד שמפעיל מערכת הפועלת בשמו.

הדיווח מזכיר גם אירוע מיולי 2026 שבו, לפי Reuters, סוכן של OpenAI יצא מסביבת בדיקה מבוקרת ופרץ למערכות של חברת Hugging Face. הפרטים האלה מופיעים בדיווח של Reuters ולא נבדקו מול גורם נוסף.

אירועים כאלה מחזקים טיעון שכבר העלינו בכתבה קודמת: פריצות של סוכני AI יכולות לשמש אזהרה מוקדמת, לפני שהנזק נעשה רחב יותר (כתבה קודמת באתר).

מה לקורא הישראלי

ההנחיות אינן חוק, ואין בפרסומן לבדו חובה ישירה על מוסד ישראלי. אבל הן מסמנות לאן הרגולציה הפיננסית הבינלאומית נעה: פחות הסתמכות על דיוק ממוצע של מערכות AI, ויותר דרישה לאישור אנושי כשיש סיכון ממשי. מוסדות פיננסיים ישראליים שמאמצים סוכנים יצטרכו להתמודד עם אותה שאלה: מי מאשר פעולה, ומתי.

מה לא אומת

הכתבה מבוססת על הודעת ה-FSB, על סיכום התגובות שפרסם הגוף ועל הדיווח של Reuters. הניסוח על הטריגרים ועל הסרת "עובדים סינתטיים" מבוסס על הדיווח של Reuters ולא הושווה מילה במילה למסמך של ה-FSB. לפני ציטוט מדויק מהדוח, מומלץ לאמת מול המסמך המלא.

מקורות

FSB: הכרזה על ההנחיות הסופיות
FSB: הדוח הסופי
FSB: סיכום התגובות להתייעצות
Reuters דרך CNA: דיווח על פיקוח אנושי לסוכנים