החוק קובע שורה של דרישות בתחום השקיפות, הבחירה החופשית והמעקב אחר החלטות שמתקבלות אוטומטית. המשמעות בפועל היא שמערכות מבוססות AI נדרשות עכשיו לא רק להיות חכמות, אלא גם מעוררות אמון, ניתנות להסבר ופתוחות לביקורת.
לא רק מהנדס צריך להבין מה קורה מאחורי הקלעים, אלא גם המשתמש.

איך מעצבים אמון?

איך עושים את זה אחרת?

במקום להסתפק בפידבק כללי, חשוב להטמיע רכיבים מובנים של הסבר, תיעוד ושליטה. למשל, הצגת הנמקה להחלטה בזמן אמת, אפשרות לערער או לדחות המלצה, והפרדה ברורה בין פעולות שהן חובה לבין פעולות שהן בגדר הצעה.

בממשקים פיננסיים, אפשר לבנות טופס הצטרפות דינמי שמציג את ההצעה של המערכת בצירוף ההיגיון מאחוריה, מאפשר למשתמש להשוות מסלולים או לקבל עוד זמן לחשוב, ומתעד את כל הצעדים כדי לאפשר שקיפות עתידית.

בממשקי שירות, כדאי לאפשר למשתמש להחליף בין “מוד אוטומטי” למצב שמחזיר לו שליטה, כמו מעבר מניווט על בסיס AI לניווט ידני, או קבלת חוות דעת שנייה.

לסיכום, במבט רחב, עיצוב חוויית משתמש מבוססת אמון הוא לא רק תגובה לרגולציה. הוא ביטוי להבנה שהמשתמשים של היום פחות מתרשמים מ”קסם טכנולוגי” ויותר בוחנים יכולת להבין, לבחור ולהשפיע. כשמתכננים מערכת שמקבלת החלטות עבור אנשים, האחריות על תהליך ההסבר, הבחירה והמעקב עוברת לצוות המוצר והעיצוב. מי שמפנים את זה עכשיו, ירוויח לא רק ציות, אלא גם יתרון תחרותי אמיתי.