
Mistral AI και η NVIDIA λάνσαραν το Mistral NeMo 12B, ένα υπερσύγχρονο μοντέλο γλώσσας που έχει σχεδιαστεί για να φέρει επανάσταση στις επιχειρήσεις. AI εφαρμογές. Αυτό το προηγμένο μοντέλο, που καυχιέται 12 δισεκατομμύρια παραμέτρους, υπόσχεται απαράμιλλη ακρίβεια, ευελιξία και αποτελεσματικότητα, καθιστώντας το ένα ευέλικτο εργαλείο για διάφορες επιχειρηματικές ανάγκες.
Το Mistral NeMo 12B έχει σχεδιαστεί για να διαπρέπει σε ένα ευρύ φάσμα εργασιών, όπως chatbots , πολυγλωσσική επεξεργασία, κωδικοποίηση και σύνοψη. Ένα από τα ξεχωριστά χαρακτηριστικά του είναι το εντυπωσιακό παράθυρο περιβάλλοντος έως και 128,000 tokens , που επιτρέπει στο μοντέλο να επεξεργάζεται και να κατανοεί εκτεταμένες και σύνθετες πληροφορίες με μεγαλύτερη συνοχή από τους προκατόχους του.
Ο Guillaume Lample, συνιδρυτής και επικεφαλής επιστήμονας της Mistral AI , τόνισε τη σημασία αυτής της συνεργασίας:
Είμαστε τυχεροί που συνεργαζόμαστε με την ομάδα της NVIDIA, αξιοποιώντας το κορυφαίο υλικό και λογισμικό της. Μαζί, έχουμε αναπτύξει ένα μοντέλο με πρωτοφανή ακρίβεια, ευελιξία, υψηλή απόδοση και υποστήριξη και ασφάλεια εταιρικού επιπέδου χάρη στην NVIDIA. AI Ανάπτυξη σε επιχειρήσεις.

Το Mistral NeMo 12B εκπαιδεύτηκε στο NVIDIA DGX Cloud AI πλατφόρμα, η οποία παρέχει κλιμακωτή πρόσβαση στην τελευταία αρχιτεκτονική NVIDIA. Αυτό το μοντέλο χρησιμοποιεί NVIDIA TensorRT-LLM για ταχεία απόδοση συμπερασμάτων και την πλατφόρμα ανάπτυξης NVIDIA NeMo για την κατασκευή προσαρμοσμένων γενετική AI μοντέλα. Αυτός ο συνδυασμός διασφαλίζει ότι το Mistral NeMo 12B προσφέρει υψηλή απόδοση σε διάφορες εφαρμογές.
Μία από τις βασικές τεχνολογικές εξελίξεις στο Mistral NeMo 12B είναι η χρήση της μορφής δεδομένων FP8 για την εξαγωγή συμπερασμάτων μοντέλου. Αυτό μειώνει το μέγεθος της μνήμης και επιταχύνει την ανάπτυξη χωρίς να διακυβεύεται η ακρίβεια. Επιπλέον, η αρχιτεκτονική του μοντέλου επιτρέπει την προσαρμογή του στη μνήμη μίας μόνο κάρτας γραφικών NVIDIA L40S, NVIDIA GeForce RTX 4090 ή NVIDIA RTX 4500 , καθιστώντας το εξαιρετικά αποδοτικό και οικονομικά αποδοτικό.
Το Mistral NeMo 12B έχει σχεδιαστεί για παγκόσμιες εφαρμογές, με ισχυρές πολυγλωσσικές δυνατότητες . Διαπρέπει σε γλώσσες όπως Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινέζικα, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι. Αυτή η ευρεία γλωσσική επάρκεια επιτυγχάνεται μέσω του νέου tokenizer Tekken, το οποίο βασίζεται στο Tiktoken και έχει εκπαιδευτεί σε πάνω από 100 γλώσσες. Το Tekken είναι περίπου 30% πιο αποτελεσματικό στη συμπίεση πηγαίου κώδικα και αρκετών κύριων γλωσσών σε σύγκριση με προηγούμενους tokenizer, καθιστώντας το μια σημαντική πρόοδο στην επεξεργασία φυσικής γλώσσας.

Συσκευασμένο ως μικρουπηρεσία συμπερασμάτων NVIDIA NIM, Mistral NeMo 12B προσφέρει βελτιστοποιημένη απόδοση συμπερασμάτων με μηχανές NVIDIA TensorRT-LLM. Αυτή η μορφή σε κοντέινερ επιτρέπει την εύκολη ανάπτυξη σε διάφορα περιβάλλοντα, παρέχοντας βελτιωμένη ευελιξία για εταιρικές εφαρμογές. Το μοντέλο διαθέτει επίσης ολοκληρωμένη υποστήριξη και άμεση πρόσβαση σε NVIDIA. AI εμπειρογνώμονες και καθορισμένες συμφωνίες επιπέδου υπηρεσιών, διασφαλίζοντας αξιόπιστη και συνεπή απόδοση.
Mistral NeMo 12B's απελευθέρωση υπό την Άδεια Apache 2.0 ενθαρρύνει την καινοτομία και υποστηρίζει το ευρύτερο AI κοινότητα. Αυτή η προσέγγιση ανοιχτού κώδικα είναι πιθανό να επιταχύνει το μοντέλο's υιοθέτηση από ερευνητές και επιχειρήσεις, διευκολύνοντας την ανάπτυξη προηγμένων AI λύσεις. Το μοντέλο's τα βάρη φιλοξενούνται σε Πρόσωπο αγκαλιάς, καθιστώντας τα άμεσα διαθέσιμα σε προγραμματιστές και ερευνητές για να πειραματιστούν και να προσαρμοστούν στις συγκεκριμένες ανάγκες τους.


