Για να βελτιώσει την απόδοση των chatbot, η Nvidia σχεδιάζει να διαθέσει στην αγορά ένα νέο είδος επεξεργαστή, τον LPU, ο οποίος έχει βελτιστοποιηθεί για την εκτέλεση μεγάλων γλωσσικών μοντέλων (LLMs). Το τσιπ «Nvidia Groq 3 LPU» ήταν ένα από τα επτά επερχόμενα τσιπ που παρουσίασε η Nvidia στην ετήσια εκδήλωση GTC της εταιρείας, όπου εξήγησε στον κλάδο της τεχνητής νοημοσύνης τους λόγους για τους οποίους τα τσιπ της Nvidia συνεχίζουν να κατέχουν ηγετική θέση. Η LPU, ή Language Processing Unit, προέρχεται από τη συμφωνία της Nvidia τον περασμένο Δεκέμβριο για την αδειοδότηση τεχνολογίας από μια εταιρεία τεχνητής νοημοσύνης που ονομάζεται Groq (δεν σχετίζεται με το chatbot τεχνητής νοημοσύνης Grok από την xAI). Η Groq, που ιδρύθηκε το 2016, κυκλοφόρησε στο παρελθόν τσιπ LPU ειδικά σχεδιασμένα για LLMs, ώστε να προσφέρουν υψηλότερες ταχύτητες και ενεργειακή απόδοση. Ο στόχος: Να δημιουργηθεί μια εναλλακτική λύση για τις εταιρικές GPUs της Nvidia, οι οποίες μπορούν να χρησιμοποιηθούν για ένα ευρύτερο φάσμα εργασιών τεχνητής νοημοσύνης. Η Nvidia επιθυμεί πλέον να συνδυάσει το πρόσφατα αποκαλυφθέν Groq 3 LPU με τα υπόλοιπα τσιπ τεχνητής νοημοσύνης επόμενης γενιάς της εταιρείας, γνωστά ως πλατφόρμα «Vera Rubin», η οποία περιλαμβάνει την επερχόμενη τεχνολογία GPU Rubin και CPU Vera για κέντρα δεδομένων. (Credit: Michael Kan) Έτσι, ένα κέντρο δεδομένων θα μπορούσε να αξιοποιήσει τόσο τις LPUs όσο και τις GPUs της Nvidia, κατανέμοντας τα φορτία εργασίας τεχνητής νοημοσύνης. Ο διευθύνων δύμβουλος της Nvidia, Jensen Huang, δήλωσε ότι η συνδυασμένη προσέγγιση ξεχωρίζει στο να βοηθά τις εταιρείες τεχνητής νοημοσύνης να ενισχύσουν την απόδοση με μακρύτερες προτροπές. (Credit: Michael Kan) Τα νέα συστήματα LPU και Vera Rubin πιθανότατα θα κοστίζουν δεκάδες χιλιάδες ευρώ ανά τσιπ, καθιστώντας τα απρόσιτα για τους καταναλωτές. Αντ’ αυτού, αναμένεται ότι οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των OpenAI, Anthropic και Meta, θα υιοθετήσουν αυτές τις τεχνολογίες, οι οποίες θα μπορούσαν να τροφοδοτήσουν τις ερωτήσεις σας σε chatbots ή τα αιτήματα δημιουργίας εικόνων στο εγγύς μέλλον.
