פוסט מעניין בבלוג הכלכלי המצוין "תועלת שולית" עוסק בקושי לניבוי מחירים עתידיים של תשתיות AI. כותרת הפוסט: מי יקבע את המחיר של כוח המחשוב?
הקושי הזה רלוונטי הן לספקי ה-Neo Cloud והן למשתמשים כמו Startups המפתחים מודלים של בינה מלאכותית ורוצים לאמן אותם.
מחבר הבלוג טוען שהיעדר מחיר של חוזים עתידיים עלול להביא למחירים גבוהים מדי או נמוכים מדי בעסקאות ארוכות טווח.
הפער בין המחיר שתכננו והמחיר שישלמו בפועל עשוי להיות קריטי לשרידותן של חברות אלה.
לדבריו במוצרים כמו נפט יש מחירים של חוזים עתידיים. קיומם של מחירים של חוזים עתידיים מאפשר תכנון כלכלי לטווח זמן ארוך.
הבעיה הגדולה היא הקושי בקביעת מדד ראוי למחיר שעת מחשוב בינה מלאכותית.
במאמר מוצגים מספר מודלים מתחרים הנותנים הערכות של מחירים. ההערכות של מודלים שונים שונות שונות מאוד זו מזו.
אף אחד מהמודלים לא הפך לתקן מקובל.
גורמים המקשים על קביעת מחיר מחשוב
בין הגורמים המקשים על קביעת המחיר יש גורמים שאני מכיר עוד מתקופה של לפני כמה עשרות שנים, כשכמומחה במערכות הפעלה של מחשבים ונאלצתי לנסות לכמת אותם באופן הכי טוב שיכולתי.
באותו זמן דיברו על CPU היום מדברים על GPU בהקשר של מחשוב AI.
להלן כמה גורמים המקשים על קביעת המחיר וגם על קביעת מודל התמחור.
1. המעבדים משתנים ומתפתחים
במקרים רבים מחיר מעבד של היום עשוי להיות לא רלוונטי בעוד כמה שנים משום שישתמשו במעבד חזק יותר שטרם יצא לשוק.
2. המחיר משתנה בהתאם למאפייני הלקוח
מי שקונה עוצמה גדולה יותר משלם פחות ליחידת מחשוב.
הפערים בחירים עשויים להיות גדולים מאוד לטובת ארגונים גדולים.
3. זה לא רק מעבד אלא תשתית מחשוב כוללת הבאה ביחד איתו.
מדובר בזיכרון מהיר (Cache), בזיכרון מחשב, ביחידות היקפיות לאחסון, בתשתית תקשורת וכיו"ב.
לרכיבים אלה יש עלות משמעותית והשפעה על ביצועי המעבד.
גורם נוסף הוא שחלק מהמודלים מסתמכים על הערכות של יצרני מחשבים ומעבדים העלולות להיות מוטות.
בנוסף, בחלק מהמודלים הערכות מחירים מסתמכות על מחירונים של ספקי מעבדים ומחשבים.
בין המחירונים המתייחסים לאותו מעבד יש הבדלים ענקיים ובנוסף לכך אינם מביאים בחשבון הנחות לרוכשים.
הבעיה הכלכלית
ספקי Neo Clouds וחברות הזנק לוקחים הלוואות בלי יכולת לדעת עד כמה גובה ההלוואה תואם את הצרכים העתידיים שלהם.
זה מעמיד אותם בסיכונים כלכלים. גם את הבנקים הנותנים הלוואות גדולות לחברות Neo Clouds.
כותב הפוסט משתמש במושג Basis Risk על מנת לתאר את הסיכון הזה.
הזווית שלי: שינוי תפקידה של Nvidia בשוק
פעם Nvidia הייתה כמעט אך ורק יצרנית שבבים. היום היא מונופול בתחום הייצור של שבבי GPU.
זה יוצר פרדוקס.
מצד אחד ל-Nvidia יש רווחים גדולים.
מצד שני היא תלויה בגורמים אחרים להם היא מוכרת שבבים.
הגורמים הללו מרוויחים הרבה פחות ולפעמים אפילו ההוצאות שלהם גדולות מההכנסות.
זה גורם ל-Nvidia לתת להם הלוואות ו/או להיות מעין חברת ביטוח שערבה להחזר ההלוואות שלהם.
זהו המצב בחברות Neo Clouds, שאינן דומות לחברות הענק השולטות ב-Public Cloud שאינו יעודי ל-AI. ב-Public Cloud הכללי מדובר בחברות יציבות כמו Amazon ,Microsoft ו-Google.
בנוסף לכך גם ענקיות ה-Ai Bots מבוססי מודל שפה מורחב, כמו Open AI ו-Anthropic מוציאות יותר מהכנסותיהן וזקוקות לתמיכה.
השורה התחתונה שלי
הסיכונים בהקשר של תשתיות בינה מלאכותית גדולים.
התייחסתי אליהם במספר פוסטים בבלוג שלי Risk and Crisis.
למשל:
תוסיפו לכך גם את הסיכון של התפוצצות בועת AI ותקבלו רמת סיכון גבוהה במיוחד.
