ミストラル AI NVIDIAは、エンタープライズに革命を起こすために設計された最先端の言語モデルであるMistral NeMo 12Bを発表しました。 AI アプリケーション。この先進的なモデルは、 12億のパラメータは、比類のない精度、柔軟性、効率性を約束します。 さまざまな企業のニーズに対応する多目的ツールになります。
Mistral NeMo 12Bは、チャットボット、多言語処理、コーディング、要約など、幅広いタスクで優れた性能を発揮するように設計されています。特筆すべき機能の一つは、最大12万8000トークンという驚異的なコンテキストウィンドウです。これにより、従来モデルよりも広範かつ複雑な情報を、より首尾一貫して処理・理解することが可能になります。
ミストラルAIの共同創設者兼チーフサイエンティストであるギヨーム・ランプル氏は、この協力関係の重要性を次のように強調した。
私たちは、NVIDIAチームと協力し、彼らの最高レベルのハードウェアとソフトウェアを活用できることを幸運に思います。NVIDIAのおかげで、これまでにない精度、柔軟性、高効率性、そしてエンタープライズグレードのサポートとセキュリティを備えたモデルを開発することができました。 AI エンタープライズ展開。
ミストラルNeMo 12BはNVIDIA DGXクラウドでトレーニングされました AI 最新のNVIDIAアーキテクチャへのスケーラブルなアクセスを提供するプラットフォーム。このモデルは 推論パフォーマンスを高速化する NVIDIA TensorRT-LLM NVIDIA NeMo開発プラットフォームでカスタムビルドを実現 generative AI モデル。この組み合わせにより、Mistral NeMo 12B はさまざまなアプリケーションで高いパフォーマンスを発揮します。
Mistral NeMo 12Bにおける主要な技術的進歩の一つは、モデル推論にFP8データフォーマットを採用している点です。これにより、精度を損なうことなくメモリサイズを削減し、展開速度を向上させることができます。さらに、このモデルのアーキテクチャは、NVIDIA L40S、NVIDIA GeForce RTX 4090、またはNVIDIA RTX 4500といった単一のGPUのメモリに収まるように設計されているため、非常に効率的でコスト効率にも優れています。
Mistral NeMo 12Bは、堅牢な多言語機能を備え、グローバルなアプリケーション向けに設計されています。英語、フランス語、ドイツ語、スペイン語、イタリア語、ポルトガル語、中国語、日本語、韓国語、アラビア語、ヒンディー語などの言語に優れています。この幅広い言語能力は、Tiktokenをベースとし、100以上の言語で学習された新しいTekkenトークナイザーによって実現されています。Tekkenは、従来のトークナイザーと比較して、ソースコードといくつかの主要言語の圧縮において約30%効率が高く、自然言語処理における大きな進歩となっています。
NVIDIA NIM推論マイクロサービスとしてパッケージ化され、 ミストラル ネモ 12B NVIDIA TensorRT-LLMエンジンによるパフォーマンス最適化された推論を提供します。このコンテナ化されたフォーマットは、様々な環境への導入を容易にし、エンタープライズアプリケーションの柔軟性を高めます。このモデルには包括的なサポートが付属しており、NVIDIAへの直接アクセスも可能です。 AI 専門家と定義されたサービス レベル契約により、信頼性と一貫性のあるパフォーマンスが保証されます。
ミストラル ネモ 12B's リリース Apache 2.0ライセンス イノベーションを奨励し、より広範な AI コミュニティ。このオープンソースのアプローチは、モデルを加速させる可能性がある。's 研究者や企業に導入され、高度な技術開発を促進する AI ソリューション。モデル's ウェイトはホストされています 抱き合う顔開発者や研究者がすぐに利用でき、特定のニーズに合わせて実験したり適応したりできるようになります。
ボーナス： 200ドルの「AI 登録すると「マスタリーツールキット」が無料になります！
