אם אתם לא מקצוענים בבינה מלאכותית וכן לומדים על AI, ההרצאה שלי: סיכונים אישיים, קוגניטיביים ומנטליים בשימוש ב-AI היא אולי ההרצאה החשובה ביותר שתוכלו לשמוע על AI.
מדובר בעיקר בכלי AI מבוססי LLM, כלומר: מודלים רחבים של שפה.
תחשפו בה לסיכונים שעלולים להתממש תוך זמן קצר שנמדד בחודשים ספורים.
תקבלו גם כלים להשתמש נכון בכלי AI ולהימנע מהנזקים הקוגניטיביים החמורים שעלולים לקרות לכם.
את הצד הטכני תוכלו ללמוד בהדרגה. את ההימנעות מהסיכונים והנזקים לימוד מאוחר עלול להיות מאוחר מדי.
מקור הבעיה
כאזרח ותיק אני מוזמן לקורסים חינמיים ב-AI. הבעיה של המשתתפים בקורסים כאלה ובקורסים אחרים היא בהנחות היסוד של המשתתפים בהם.
הנחות היסוד של משתתפים בקורסי AI
1. כלי ה-AI הולכים להשתלט על העולם. הם יחליפו את בני האדם בעבודה ובמטלות רבות אחרות.
2. כלי הבינה המלאכותית פועלים באופן נכון. צריך לסמוך עליהם.
3. המחסום הוא של התלמיד
ככל שידע יותר על יותר כלי AI וישתמש ביותר כלים הוא יפיק יותר תועלת מהם.
התפיסה של השתלטות טכנית על מספר רב של כלים אינה ריאלית עבור רוב האנשים האלה. עדיף להצטמצם במספר קטן של כלים (2-3) וללמוד אותם טוב יותר.
הניסיון שלי
אני בא ממקום אחר:
1. יש לי ניסיון של יותר מארבעים שנים במחשבים ובטכנולוגיית המידע.
2. אני מומחה לניהול סיכונים בכלל ולסיכונים במערכות מחשוב בפרט.
3. התנסיתי בכלי בינה מלאכותית מדור קודם לפני הרבה שנים.
4. סיימתי קורס אקדמי מרתק בבינה מלאכותית.
הקורס התקיים באוניברסיטה העברית בירושלים בתחילת שנות ה-80 או אולי בסוף שנות ה-70 של המאה הקודמת.
5. יש לי קורס והרצאות על סיכוני בינה מלאכותית.
התפיסה שלי
1. לשימוש בכלי AI עלולים להיות נזקים, קוגניטיביים, מנטליים ואחרים ברמה האישית גם בטווח זמן קצר.
זו לא רק תפיסה שלי היא נתמכת במחקרים שהמפורסם בהם נעשה ב-MIT.
2. הנזקים עלולים להיות בלתי הפיכים.
3. כלי ה-AI מהדור הנוכחי רחוקים מלהיות מושלמים.
יש להם בעיות אינהרנטיות שבהכרח מובילות גם לטעויות.
4. יש דרכים להשתמש בהם מבלי להיפגע קוגניטיבית באופן משמעותי.
אני משתמש בדרכים האלה באופן קבוע.
5. פרספקטיבה היסטורית
ההרצאה הראשונה שלי בקורס סיכוני בינה מלאכותית.
עוסקת בהיסטוריה של הבינה המלאכותית.
יש היסטוריה ארוכה, ולא כל כך מוצלחת, לבינה מלאכותית.
מההיסטוריה אפשר ללמוד לא מעט על ההווה והעתיד.
לא בכדי פרופ' יואל מוקיר היסטוריון של כלכלה זכה בשנת 2025 בפרס נובל לכלכלה.
מחקריו של מוקיר מתמקדים במהפכה התעשייתית.
גם העיתוי לזכייה שלו בפרס נובל לא מקרי. מן הסתם יש מה ללמוד ממה שקרה במהפכה התעשייתית כשמדברים על מהפכת בינה מלאכותית.
ההנחה שלי היא שאנחנו רק בתחילת הדרך של AI. הדור הנוכחי יוחלף בדור מתקדם יותר, כנראה בתפיסה אחרת מהתפיסה של ה-Chat Bots של הדור הנוכחי.
הערת שוליים
אם וכאשר יהיה דור חדש של מערכות AI חברת Open AI נמצאת בסיכון גדול במיוחד.
