הטיית האוטומציה (באנגלית: Automatic Bias) היא הטייה קוגניטיבית בקבלת החלטות. הטייה זו נותנת משקל גבוה מדי לכלים ממוחשבים מקבלי החלטה או תומכי החלטה בהשוואה למקורות אנושיים תומכי החלטה.
כך למשל, בני אדם יקבלו החלטה של כלי ממוחשב גם במקרים בהם יש מאמרים מקצועיים המראים מדוע החלטה זו שגויה.
תחומים בולטים בשימוש בכלים אוטומטיים לקבלת החלטות הם: טיסה, רפואה ותחנות כוח גרעיניות.
היות שמדובר בתחומים בהם רמת הסיכון גבוהה ההטיה עלולה להביא לאובדן חיי אדם.
לכאורה, קבלת ההחלטות של המערכות הממוחשבות צריכות להיות מבוקרות על ידי בני אדם.
במקרים בהם פועלת הטיה זו ההחלטות עלולות להיות לא מספיק מבוקרות על ידי בני אדם או לא מבוקרות בכלל.
מדוע יש הטיה כזו?
שני מקורות עיקריים להטיה זו הם:
1. סומכים יותר מדי על מערכות ממוחשבות.
2. הנטייה להקטנת המאמץ המוחי למינימום.
סוג של עצלות מוחית או חיסכון במאמץ מוחי.
דוגמה בולטת לעצלות מוחית מופיעה בספרו של פרופ' דניאל כהנמן "לחשוב מהר לחשוב לאט".
כהנמן מדבר על שתי מערכות חשיבה:
א. המערכת המהירה והאינטואיטיבית השוגה יותר.
ב. המערכת האיטית השיטתית השוגה פחות.
המערכת האיטית דורשת יותר מאמץ לעיבוד הנתונים וקבלת החלטות.
המערכת האיטית עצלנית, כלומר: המערכת המהירה היא זו שמקבלת בדרך כלל את ההחלטות.
המערכת האיטית ה"עצלנית" נותנת למערכת המהירה לקבל החלטות.
היא נכנסת לפעולה רק במקרים שברור שמערכת קבלת ההחטות המהירה מתקשה לטפל בקבלת ההחלטה.
מידע נוסף מעמיק יותר על ההטיה הזו ניתן למצוא בערך בויקיפדיה הטיית האוטומציה.
בוטים של בינה מלאכותית והטית האוטומציה
כשהמטרה היא למזער את המאמץ של המוח ולחסוך באנרגיה מוחית, ברור ששימוש בבינה מלאכותית מקדם מטרה זו.
יש נטייה ברורה של חלק מהמשתמשים לקבל את המלצות ChatGPT ומתחריו בלי לבדוק.
כשלזה מצטרפת גם עצלות מוחית נוצר סיכון חמור בגלל הטיה זו.
נותנים ל-AI Bot לקבל את ההחלטה ללא בקרה אנושית.
הסיכון אינו רק קבלת החלטה שגויה.
דפוס פעולה כזה גורם גם נזקים קוגניטיביים מתמשכים.
בשאילתה מפורטת בה שאלתי את Gemini AI של חברת Google על נזקים קוגניטיביים בשימוש ב-ChatGPT וכיצד ניתן למנוע או פחות להקטין אותם?
ביקשתי ממנו לציין מקורות.
הוא התיחס גם להטיית האוטומציה אבל מסיבה כלשהי בחר לא לספק קישורים למקורות.
אין תגובות:
הוסף רשומת תגובה