Mistral NeMo 12B: Το νέο προϊόν της NVIDIA και της Mistral AI AI Μοντέλο

Mistral AI και μοντέλο NVIDIA Mistral NeMo 12B

Mistral AI και η NVIDIA λάνσαραν το Mistral NeMo 12B, ένα υπερσύγχρονο μοντέλο γλώσσας που έχει σχεδιαστεί για να φέρει επανάσταση στις επιχειρήσεις. AI εφαρμογές. Αυτό το προηγμένο μοντέλο, που καυχιέται 12 δισεκατομμύρια παραμέτρους, υπόσχεται απαράμιλλη ακρίβεια, ευελιξία και αποτελεσματικότητα, καθιστώντας το ένα ευέλικτο εργαλείο για διάφορες επιχειρηματικές ανάγκες.

Το Mistral NeMo 12B έχει σχεδιαστεί για να διαπρέπει σε ένα ευρύ φάσμα εργασιών, όπως chatbots , πολυγλωσσική επεξεργασία, κωδικοποίηση και σύνοψη. Ένα από τα ξεχωριστά χαρακτηριστικά του είναι το εντυπωσιακό παράθυρο περιβάλλοντος έως και 128,000 tokens , που επιτρέπει στο μοντέλο να επεξεργάζεται και να κατανοεί εκτεταμένες και σύνθετες πληροφορίες με μεγαλύτερη συνοχή από τους προκατόχους του.

Ο Guillaume Lample, συνιδρυτής και επικεφαλής επιστήμονας της Mistral AI , τόνισε τη σημασία αυτής της συνεργασίας:

Είμαστε τυχεροί που συνεργαζόμαστε με την ομάδα της NVIDIA, αξιοποιώντας το κορυφαίο υλικό και λογισμικό της. Μαζί, έχουμε αναπτύξει ένα μοντέλο με πρωτοφανή ακρίβεια, ευελιξία, υψηλή απόδοση και υποστήριξη και ασφάλεια εταιρικού επιπέδου χάρη στην NVIDIA. AI Ανάπτυξη σε επιχειρήσεις.

Απόδοση Mistral NeMo σε πολύγλωσσα σημεία αναφοράς
Πηγή Img- Mistral AI Blog

Το Mistral NeMo 12B εκπαιδεύτηκε στο NVIDIA DGX Cloud AI πλατφόρμα, η οποία παρέχει κλιμακωτή πρόσβαση στην τελευταία αρχιτεκτονική NVIDIA. Αυτό το μοντέλο χρησιμοποιεί NVIDIA TensorRT-LLM για ταχεία απόδοση συμπερασμάτων και την πλατφόρμα ανάπτυξης NVIDIA NeMo για την κατασκευή προσαρμοσμένων γενετική AI μοντέλα. Αυτός ο συνδυασμός διασφαλίζει ότι το Mistral NeMo 12B προσφέρει υψηλή απόδοση σε διάφορες εφαρμογές.

Μία από τις βασικές τεχνολογικές εξελίξεις στο Mistral NeMo 12B είναι η χρήση της μορφής δεδομένων FP8 για την εξαγωγή συμπερασμάτων μοντέλου. Αυτό μειώνει το μέγεθος της μνήμης και επιταχύνει την ανάπτυξη χωρίς να διακυβεύεται η ακρίβεια. Επιπλέον, η αρχιτεκτονική του μοντέλου επιτρέπει την προσαρμογή του στη μνήμη μίας μόνο κάρτας γραφικών NVIDIA L40S, NVIDIA GeForce RTX 4090 ή NVIDIA RTX 4500 , καθιστώντας το εξαιρετικά αποδοτικό και οικονομικά αποδοτικό.

Το Mistral NeMo 12B έχει σχεδιαστεί για παγκόσμιες εφαρμογές, με ισχυρές πολυγλωσσικές δυνατότητες . Διαπρέπει σε γλώσσες όπως Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινέζικα, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι. Αυτή η ευρεία γλωσσική επάρκεια επιτυγχάνεται μέσω του νέου tokenizer Tekken, το οποίο βασίζεται στο Tiktoken και έχει εκπαιδευτεί σε πάνω από 100 γλώσσες. Το Tekken είναι περίπου 30% πιο αποτελεσματικό στη συμπίεση πηγαίου κώδικα και αρκετών κύριων γλωσσών σε σύγκριση με προηγούμενους tokenizer, καθιστώντας το μια σημαντική πρόοδο στην επεξεργασία φυσικής γλώσσας.

Ρυθμός συμπίεσης Mistral NeMo Tekken
Πηγή Img- Mistral AI Blog

Συσκευασμένο ως μικρουπηρεσία συμπερασμάτων NVIDIA NIM, Mistral NeMo 12B προσφέρει βελτιστοποιημένη απόδοση συμπερασμάτων με μηχανές NVIDIA TensorRT-LLM. Αυτή η μορφή σε κοντέινερ επιτρέπει την εύκολη ανάπτυξη σε διάφορα περιβάλλοντα, παρέχοντας βελτιωμένη ευελιξία για εταιρικές εφαρμογές. Το μοντέλο διαθέτει επίσης ολοκληρωμένη υποστήριξη και άμεση πρόσβαση σε NVIDIA. AI εμπειρογνώμονες και καθορισμένες συμφωνίες επιπέδου υπηρεσιών, διασφαλίζοντας αξιόπιστη και συνεπή απόδοση.

Mistral NeMo 12B's απελευθέρωση υπό την Άδεια Apache 2.0 ενθαρρύνει την καινοτομία και υποστηρίζει το ευρύτερο AI κοινότητα. Αυτή η προσέγγιση ανοιχτού κώδικα είναι πιθανό να επιταχύνει το μοντέλο's υιοθέτηση από ερευνητές και επιχειρήσεις, διευκολύνοντας την ανάπτυξη προηγμένων AI λύσεις. Το μοντέλο's τα βάρη φιλοξενούνται σε Πρόσωπο αγκαλιάς, καθιστώντας τα άμεσα διαθέσιμα σε προγραμματιστές και ερευνητές για να πειραματιστούν και να προσαρμοστούν στις συγκεκριμένες ανάγκες τους.

Αφήστε μια απάντηση

Η διεύθυνση email σας δεν θα δημοσιευτεί. Τα υποχρεωτικά πεδία σημειώνονται με *

Γίνε μελος Aimojo Φυλή!

Εγγραφείτε σε 76,000+ μέλη για εμπιστευτικές συμβουλές κάθε εβδομάδα! 
🎁 BONUS: Πάρτε τα 200 δολάρια μας "AI «Εργαλειοθήκη Mastery» ΔΩΡΕΑΝ όταν εγγραφείτε!

Τάσεις AI Κόλλα
AI Άγγελοι

Δημιουργήστε ένα προσωπικό AI κοπέλα που σε θυμάται πραγματικά. Ιδιωτικές συνομιλίες, φωνητικές κλήσεις, προσαρμοσμένες φαντασιώσεις. Ενήλικος AI συντροφικότητα με επίμονη μνήμη και προσωπικό ρομαντισμό.

Ανοιχτός Κώδικας

Αποστολή αξιόπιστου κώδικα ταχύτερα χρησιμοποιώντας ευέλικτη AI πράκτορες. Ένας πράκτορας κωδικοποίησης, εκατοντάδες πάροχοι. Αυτοματοποίηση αποθετηρίων ανοιχτού κώδικα σε τερματικά και ροές εργασίας για υπολογιστές.

Σκρμπμπ

Πολωνικές ακαδημαϊκές εργασίες και έγκαιρος εντοπισμός σφαλμάτων παραπομπών. Εντοπίστε λάθη στις παραπομπές πριν από την τελική υποβολή. Ακαδημαϊκή διόρθωση κειμένων, έλεγχος πρωτοτυπίας και πιο έξυπνη διαχείριση αναφορών.

Εκμαιεύω

Μετατρέψτε την πολύπλοκη ακαδημαϊκή έρευνα σε αξιόπιστες, εφαρμόσιμες γνώσεις πιο γρήγορα. Βρείτε έγγραφα, εξαγάγετε αποδεικτικά στοιχεία, δημιουργήστε αναφορές. An AI Βοηθός έρευνας που κατασκευάστηκε για ανάλυση επιστημονικών στοιχείων.

Απελευθερώθηκε AI

Μετατρέψτε τις συνομιλίες των ασθενών σε οργανωμένες σημειώσεις χωρίς να κρατάτε γραφήματα αργά το βράδυ. Κλινική τεκμηρίωση που μαθαίνει το στυλ σας. An AI ιατρικός γραμματέας που δημιουργήθηκε για ανεξάρτητες κλινικές πρακτικές.

© Πνευματικά δικαιώματα 2023 - 2026 | Γίνετε AI Pro | Φτιαγμένο με ♥