Nvidia רוצה לצייד חוקרי בינה מלאכותית וסטודנטים עם מיני PC מיוחד מאוד, חזק מאוד... וגם יקר מאוד.
Nvidiaהוא הבסיס המאפשר לטכנולוגיות AI גנרטיביות לשגשג. חלק גדול מהתעשייה מסתמך על היכולות של ה-GPUs והשרתים של Nvidia. והחברה לא רוצה לעצור שם. היא למעשה תשווק מחשב מיני המיועד לחוקרים,מדעני נתוניםולתלמידים; "מחשב העל AI" הזה יאפשר להם לעבוד עם מודלים של שפה גדולה (LLM), עד 200 מיליארד פרמטרים.
דגמי השפה העיקריים בשולחן העבודה
הפרמטרים של מודל שפה גדול הם האלמנטים המאפשרים ל-LLM לבצע חיזויים או ליצור טקסט. פרמטר הוא מספר המשמש את המודל להגדרת הקשרים הפנימיים בין רכיבים שונים של הרשת העצבית. במילים פשוטות, זה כאילו כל פרמטר הוא סרגל או משקל קטן שעוזר למודל להבין את הקשרים בין מילים, מושגים או רעיונות.
כדי לתת מושג, לגרסה 3.1 של Llama, ה-LLM הטוב ביותר של Meta, יש 405 מיליארד פרמטרים. די לומר שעם "פרויקט ספרות" הזה, Nvidia מציעה מכונה שכבר מסוגלת מאוד, במיוחד מכיוון שניתן לחבר שניים מהם כדי להפעיל 405 מיליארד פרמטרים, למעשה. משתמשים יוכלו ליצור אבות טיפוס ולבדוק מודלים מקומיים.
בלב המחשב הזה נמצא ה-GB10 Superchip, מערכת-על-שבב (SoC) המבוססת על ארכיטקטורת Grace Blackwell, המסוגלת לספק עד 1 petaflop של ביצועי בינה מלאכותית. השבב משלב GPU המכיל ליבות CUDA מהדור הבא וליבות Tensor מהדור החמישי, המחוברים ל-Grace CPU (20 ליבות ארכיטקטורת Arm יעילות) בעזרת מערכת החיבורים NVLink-C2C. MediaTek סייעה בפיתוח המנוע החדש הזה.
וכדי לתדלק את הכל,בקרבת מקום: שקע חשמל סטנדרטי פשוט יספיק. כל מיני מחשב מכיל 128 GB של זיכרון מאוחד ועד 4 TB של אחסון SSD. הכל בעיצוב שמזכיר את ה-Mac mini.
ספרות הפרויקט יהיו זמינות במאי, עם מחירים החל מ-3,000 דולר. AI עולה כסף!
🔴 כדי לא לפספס שום חדשות 01net, עקבו אחרינוחדשות גוגלetוואטסאפ.
מקור: Nvidia
