Mistral NeMo 12B:NVIDIA 和 Mistral AI 的全新 AI 型号

寒冷西北风 AI 以及 NVIDIA Mistral NeMo 12B 型号

寒冷西北风 AI 和 NVIDIA 推出了 Mistral NeMo 12B,这是一款旨在彻底改变企业 AI 应用。这款先进的模型,拥有 12 亿个参数,保证无与伦比的准确性、灵活性和效率, 使其成为满足各种企业需求的多功能工具。

Mistral NeMo 12B 旨在出色完成各种任务,包括聊天机器人、多语言处理、编码和摘要生成。其突出特点之一是高达 128,000 个词元的强大上下文窗口,使该模型能够比其前代产品更连贯地处理和理解大量复杂的信息。

Mistral AI的联合创始人兼首席科学家 Guillaume Lample强调了此次合作的重要性:

我们很荣幸能与 NVIDIA 团队合作,利用他们顶尖的硬件和软件。在 ​​NVIDIA 的帮助下,我们共同开发了一个具有前所未有的准确性、灵活性、高效率以及企业级支持和安全性的模型。 AI 企业部署。

Mistral NeMo 在多语言基准测试中的表现
Img 来源- Mistral AI 博客

Mistral NeMo 12B 在 NVIDIA DGX Cloud 上进行训练 AI 平台,提供对最新 NVIDIA 架构的可扩展访问。该模型利用 NVIDIA TensorRT-LLM 可加速推理性能 以及用于构建定制的 NVIDIA NeMo 开发平台 生成式人工智能 型号。这种组合确保 Mistral NeMo 12B 能够在各种应用中提供高性能。

Mistral NeMo 12B 的一项关键技术进步在于其模型推理采用了 FP8 数据格式。这在不影响精度的前提下,减少了内存占用并加快了部署速度。此外,该模型的架构使其能够加载到单个 NVIDIA L40S、NVIDIA GeForce RTX 4090 或NVIDIA RTX 4500 GPU的内存中,从而实现了高效且经济的运行。

Mistral NeMo 12B 专为全球应用而设计,具备强大的多语言处理能力。它尤其擅长处理英语、法语、德语、西班牙语、意大利语、葡萄牙语、中文、日语、韩语、阿拉伯语和印地语等多种语言。这种广泛的语言兼容性得益于全新的 Tekken 分词器,该分词器基于 Tiktoken,并已在 100 多种语言上进行过训练。与之前的分词器相比,Tekken 在压缩源代码和处理多种主流语言方面的效率提高了约 30%,使其成为自然语言处理领域的一项重大进步。

Mistral NeMo Tekken 压缩率
Img 来源- Mistral AI 博客

打包为 NVIDIA NIM 推理微服务, 米斯特拉尔 NeMo 12B 借助 NVIDIA TensorRT-LLM 引擎,提供性能优化的推理能力。这种容器化格式支持在各种环境中轻松部署,为企业应用提供增强的灵活性。该模型还提供全面的支持,可直接访问 NVIDIA AI 专家和明确的服务级别协议,确保可靠和一致的性能。

米斯特拉尔 NeMo 12B's 根据释放 Apache 2.0许可证 鼓励创新并支持更广泛的 AI 社区。这种开源方法可能会加速模型's 研究人员和企业采用,促进先进 AI 解决方案。该模型's 权重托管在 拥抱脸使开发人员和研究人员可以随时尝试并适应他们的特定需求。

发表评论

您的电子邮件地址不会被公开。带*号的为必填项。

即刻加入 Aimojo 部落!

每周加入 76,000 多名会员获取内幕消息! 
🎁 奖金: 获得我们的 200 美元“AI 注册即可免费获得“精通工具包”!

热门 AI 工具
AI 天使

打造个人 AI 一个真正记得你的女朋友。 私密聊天、语音通话、定制幻想。 成人 AI 持久的记忆和个性化的浪漫陪伴。

开放代码

使用灵活的方式更快地交付可靠的代码 AI 代理商。 一位编码员,数百位服务提供商。 跨终端和桌面工作流程的开源存储库自动化。

斯克里布

润色学术论文,及早发现引用错误。 提交前找出引用错误。 学术校对、原创性筛选和更智能的参考文献管理。

引出

更快地将复杂的学术研究转化为可信、可操作的见解。 查找文件,提取证据,生成报告。 An AI 专为科学证据分析而设计的研究助手。

释放人工智能

无需熬夜记录,即可将患者谈话内容整理成有条理的笔记。 能够学习您写作风格的临床文档。 An AI 专为独立临床实践而设计的医疗记录员。

© 2023 - 2026 版权所有 | 成为 AI 专业版 | 用心打造