לאחרונה דיווחה רויטרס כי OpenAI שוקלת שבבים בפיתוח עצמי. על פי הדיווח, מאז השנה שעברה, OpenAI מחפשת באופן פעיל פתרונות למחסור בשבבי אימון עבור מודלים של בינה מלאכותית (באופן ספציפי, המחסור ב-Nvidia GPUs). נכון לעכשיו, OpenAI מתכוננת באופן פעיל לשבבים בפיתוח עצמי כדי לענות על הדרישות העתידיות לשבבי בינה מלאכותית. למעשה, לא מזמן, מנכ"ל OpenAI, סם אלטמן, הכיר בפומבי בהשפעה המשמעותית של המחסור ב-Nvidia GPU על OpenAI ועל תעשיית הבינה המלאכותית כולה. בנוסף, החל מהשנה, OpenAI מגייסת כישרונות בתחומים הקשורים לחומרה, כאשר מספר תפקידים הקשורים לעיצוב משותף של תוכנה-חומרה פורסמו באתר הרשמי שלהם. יתרה מכך, בספטמבר השנה גייסה OpenAI גם את אנדרו טולוך, מומחה בעל שם בתחום מהדרים בינה מלאכותית, מה שמעיד עוד יותר על השקעתם בשבבים בפיתוח עצמי. גורמים רשמיים ב-OpenAI סירבו להגיב לעניין זה, אבל אם זה יתממש, OpenAI תצטרף לשורות ענקיות הטכנולוגיה של עמק הסיליקון כמו גוגל, אמזון, מיקרוסופט וטסלה בפיתוח שבבים משלהן.

מדוע OpenAI רוצה לפתח שבבים משלה?

כפי שצוין קודם לכן, הסיבה העיקרית מאחורי פיתוח השבבים של OpenAI משלהם נובעת מהמחסור במעבדי GPU. ליתר דיוק, המחירים של רכישת Nvidia GPUs ושימוש בשירותי ענן מבוססי GPU גבוהים מדי, במיוחד בהתחשב בגידול האקספוננציאלי בכוח המחשוב הנדרש להכשרת המודלים העתידיים של OpenAI.

OpenAI משקיעה אסטרטגית בבינה מלאכותית גנרטיבית כבר כמה שנים. עם שחרורו של GPT-3 בשנה שעברה ו-ChatGPT במחצית השנייה של השנה, היכולות של מודלים של שפה גנרטיבית בקנה מידה גדול אלה השתפרו משמעותית במהלך השנים האחרונות, והגיעו לשלב שבו הם יכולים להשתתף בשיחות משמעותיות עם בני אדם . כתוצאה מכך, OpenAI התגלתה כמובילה בתחום הבינה המלאכותית, ובינה מלאכותית גנרטיבית הפכה לאחת הטכנולוגיות המשפיעות ביותר שצפויות לעצב את החברה האנושית בשנים הקרובות. לפי רויטרס, OpenAI רשמה בשנה שעברה הכנסות של 28 מיליון דולר, אך ספגה הפסד כולל של 540 מיליון דולר, בעיקר בשל ההוצאות הקשורות לכוח המחשוב. ראוי לציין שההפסד האדיר הזה של 540 מיליון דולר התרחש בשנת 2022, רגע לפני הזינוק בבינה המלאכותית הגנרטיבית.

במבט קדימה, ההוצאות הקשורות לכוח המחשוב צפויות לעלות באופן אקספוננציאלי. זה נובע בעיקר מ:

• התחרות בדגמים בקנה מידה גדול הולכת ונעשית עזה יותר, ומהירות התפתחות המודל הולכת ונעשית מהירה יותר, ומצריכה כוח מחשוב הגובר במהירות. בנוסף ל-OpenAI, ענקיות טכנולוגיה כמו גוגל דוחפות גם דגמים בקנה מידה גדול משלהן, מה שהאיץ משמעותית את קצב התפתחות המודלים. צפוי שדור חדש של דגמים יצטרך להתעדכן מדי רבעון עד חצי שנה, וכוח המחשוב הנדרש לדגמים החדישים ביותר מוערך לגדול בסדר גודל מדי שנה.

• מודלים בקנה מידה גדול מיושמים במגוון רחב יותר של תרחישים. נכון לעכשיו, מיקרוסופט וגוגל כבר החלו להשתמש במודלים רחבי היקף בתחומי החיפוש וכתיבת הקוד. צפוי שיהיו יישומים נוספים לדגמים בקנה מידה גדול בעתיד, כולל עיבוד משימות אוטומטי, שאלות ותשובות מולטי-מודאליות וכו' אלו יגדילו מאוד את מספר הדגמים השונים, וגם יגדילו משמעותית את עוצמת המחשוב הכוללת הנדרשת לפריסת המודל .

לפי ניתוח של חברת הפיננסים האמריקאית ברנשטיין, אם התעבורה של ChatGPT תגיע לעשירית מהחיפוש בגוגל (שזו גם אחת המטרות החשובות של OpenAI בעתיד), הוצאות ה-GPU השנתיות של OpenAI יסתכמו ב-16 מיליארד דולר. הוצאות כאלה עלולות להפוך לצוואר בקבוק משמעותי להרחבה נוספת של OpenAI.

אז, כמה עלות יכולה OpenAI לחסוך אם הם מפתחים שבבים משלהם? נכון לעכשיו, עלות הרכישה של שרת עם שמונה מעבדי Nvidia H100 GPU היא כ-300,000 דולר, והעלות הכוללת של שימוש בשרת זה במשך שלוש שנים, כולל הפרמיה מספקי שירותי ענן, עומדת על כמיליון דולר (זהו המחיר הרשמי שצוין על ידי AWS , כאשר המחירים מספקי שירותי ענן אחרים צפויים להיות באותו טווח). אם OpenAI יכול להוזיל את העלות של שרת כזה עם שמונה GPU עד מתחת ל-1 דולר עם השבבים שפותחו בעצמם, זה יוריד משמעותית את ההוצאות שלהם. מצד שני, אם השבבים בפיתוח עצמי יצליחו, מבטיח מאוד לשלוט בעלות של כרטיס מאיץ בודד עד מתחת ל-100,000$ במקרה של פריסה בקנה מידה גדול. במילים אחרות, שליטה בעלות של שרת עם שמונה GPU מתחת ל-$10,000 אינה מטרה בלתי מושגת.

המשך יבוא...