קרדיט: תמונת המחשה שנוצרה באמצעות AI עבור 20il.

AI בניהול תיקי השקעות – מי אחראי כשהמערכת טועה?

אם מערכת בינה מלאכותית משתתפת בהחלטות בתיק ההשקעות שלכם, בעל הרישיון שמספק את השירות נשאר אחראי כלפיכם לפי הדין. זה העיקרון שרשות ניירות ערך מבקשת לשמר גם במקרים שבהם הגוף המורשה משתמש במערכת של ספק חיצוני או מאפשר לה לקבל חלק מההחלטות באופן עצמאי.

ב־4 בנובמבר 2026 פרסמה הרשות טיוטת הוראה לשימוש בבינה מלאכותית בשירותי השקעות. היא עוסקת בייעוץ השקעות, בשיווק השקעות ובניהול תיקי השקעות, ופתוחה להערות הציבור עד 6 בדצמבר 2026. הדרישות החדשות המפורטות בה עדיין בגדר הצעה.

האם המערכת תוכל לקבל החלטה בלי אישור אנושי?

לפי הטיוטה, במקרים מסוימים מערכת תוכל לקבל החלטות במסגרת השירות בלי שאדם יאשר כל אחת מהן מראש. הגוף המורשה יצטרך לקבוע באילו מצבים נדרשת בחינה או התערבות אנושית, ולהפעיל בקרות בהתאם לסיכון ולמידת ההשפעה של המערכת על השירות.

למשל, כלי שמסכם נתונים עבור מנהל התיק משמש אותו בשלב ההכנה להחלטה. מערכת שקובעת בעצמה את הרכב התיק משפיעה ישירות על חשיפת הכסף לסיכון. ההבחנה הזאת חשובה משום שהטיוטה קושרת את היקף הבקרה לתפקיד שהמערכת ממלאת בפועל. לפי ההצעה, שירות שבו השימוש בטכנולוגיה סווג כבעל סיכון גבוה והשפעה מהותית יינתן במסגרת תאגיד ובידי בעלי הרישיון בו. הרשות מפרטת את הגישה בדוח הערכת ההשפעות של ההוראה המוצעת.

למי פונים אם משהו בתיק נראה שגוי?

הכתובת הראשונה היא בעל הרישיון שמספק לכם את השירות. האחריות לשימוש בטכנולוגיה כבר מעוגנת בהוראה הקיימת, והטיוטה משמרת אותה גם כשספק חיצוני מספק את המערכת. את הבסיס לכלל הזה מתאר הדוח הממשלתי על בינה מלאכותית במגזר הפיננסי.

אם ראיתם פעולה שלא תואמת לכאורה את מדיניות ההשקעה שסיכמתם, ציינו בפנייה את הפעולה ואת התאריך שלה. בקשו שיסבירו מדוע בוצעה, מה היה חלקה של המערכת בהחלטה ואיך הפעולה מתיישבת עם המדיניות שנקבעה לתיק שלכם.

מה הגוף המורשה יצטרך להסביר ללקוחות?

הרשות מציעה לחייב את בעל הרישיון להסביר לפני תחילת השירות את מאפייני השימוש בטכנולוגיה ואת הסיכונים הכרוכים בו. הטיוטה גם מציעה לסמן באופן ברור שנעשה שימוש ב־AI, כשהדבר אינו מובן מאליו, ולהימנע מהצגה מטעה של יכולות המערכת.

יש הבדל בין היכולת להסביר איך המערכת עובדת לבין היכולת להסביר מדוע התקבלה החלטה מסוימת בתיק שלכם. לפי ההצעה, בשימוש שסווג כבעל סיכון גבוה והשפעה מהותית, הגוף יידרש להיות מסוגל להסביר גם תוצאה מסוימת. אם קשה לספק הסבר כזה, הטיוטה מאפשרת להסתמך על בקרות חלופיות שמצמצמות משמעותית את הסיכון, למשל בדיקה אנושית של התוצרים. התנאים מפורטים בסעיפי ההסבר והגילוי בטיוטה.

ומה אם מציעים לכם לחבר את החשבון לכלי AI חיצוני?

הרשות מבקשת בנפרד את עמדת הציבור לגבי חיבור נתונים מחשבון פיננסי לכלי AI כללי. בין השאלות שהרשות העלתה להערות הציבור נמצאות מידת האחריות של הגוף שמציע את החיבור וההגנות הנדרשות כשהכלי מקבל גישה למידע אישי או הרשאה לבצע פעולות בחשבון.

אם מוצע לכם חיבור כזה, בדקו מי מקבל את הנתונים, לאיזה מידע הוא מקבל גישה והאם ההרשאה מאפשרת צפייה בלבד או גם ביצוע פעולות. אם אתם שוקלים לשתף דוח השקעות בעצמכם, כדאי להבין מראש איך ההיסטוריה, הזיכרון ושמירת המידע עובדים בשיחה זמנית ובהגדרות הפרטיות של ChatGPT.

📰