1.7倍速！NVIDIA Jetson Orin Nano Super：生成式AI性能飞跃

3,669 0 0

NVIDIA Jetson Orin Nano Super：如何将生成式AI性能提升1.7倍？

什么是 Jetson Orin Nano Super？

Jetson Orin Nano Super 是 NVIDIA 推出的一款小巧的 生成式 AI 超级计算机，它以开发者套件的形式出现，旨在为商业 AI 开发者、科技爱好者和学生等提供更强大的 生成式 AI 功能 与性能。这款套件的突出特点是，它在保持小巧尺寸的同时，通过软件升级实现了 性能的显著提升。相比上一代产品，其生成式 AI 推理性能提升至 1.7 倍，整体性能提升了 70%，达到 67 INT8 TOPS，内存带宽也提高了 50%，达到 102GB/s。

为什么选择 Jetson Orin Nano Super?

强大的性能提升：相比上一代，Jetson Orin Nano Super 的 生成式 AI 推理性能提升了 1.7 倍，这意味着更快的模型运行速度和更高效的开发流程。
多场景适用：无论是创建 基于检索增强生成的 LLM 聊天机器人、构建 视觉 AI 智能体、还是部署 基于 AI 的机器人，Jetson Orin Nano Super 都能提供强大的支持。
软件更新的价值：现有的 Jetson Orin Nano 开发者套件 用户同样可以通过软件升级，享受到 生成式 AI 性能的提升，体现了 NVIDIA 对用户价值的持续关注。
易于上手的平台：随着 AI 领域 从特定任务模型转向 基础模型，Jetson Orin Nano Super 为用户提供了一个 易于上手 的平台，帮助他们将创意转化为现实。
庞大的生态系统支持：Jetson 生态系统不仅提供 NVIDIA AI 软件，还拥有庞大的社区支持，开发者可以从中获得广泛的帮助和灵感。

Jetson Orin Nano Super 的核心优势是什么？

1. “Super”性能的体现

Jetson Orin Nano Super 的性能提升主要体现在以下几个方面：

生成式 AI 模型优化：对所有主流的 生成式 AI 模型 和基于 Transformer 的计算机视觉 带来性能增益。
硬件配置：
* 包含一个 Jetson Orin Nano 8GB 系统级模组（SoM） 和一个参考载板。
* Jetson Orin Nano 8GB 模组 配备了 Ampere GPU 和 6 核 ARM CPU，支持多个并发的 AI 应用管道和高性能推理。
* 支持最多 4 通道的摄像头模块，提供比以往更高的分辨率和帧率。
更高的性能：达到 67 INT8 TOPS，内存带宽为 102GB/s，远超上一代产品。

2. 强大的软件生态系统

Jetson 生态系统为开发者提供了丰富的工具和资源：

NVIDIA AI 实验室：为开源社区的前沿模型提供即时支持，并提供易于使用的教程。
广泛的社区支持：开发者可以从庞大的 Jetson 社区 获得支持，并从其他开发者的项目中获得灵感。
NVIDIA AI 软件：支持包括 NVIDIA Isaac 机器人平台、NVIDIA Metropolis 视觉 AI 平台 和 NVIDIA Holoscan 传感器处理平台。
开发工具：
- NVIDIA Omniverse Replicator：实现合成数据生成（SDG）。
- NVIDIA TAO 开发者套件：对 NGC™ 目录中的预训练 AI 模型进行精细调整，缩短开发时间。
生态合作伙伴：提供额外的 AI 和系统软件、开发者工具 以及 定制软件开发，还提供摄像头、传感器、载板等硬件支持。

如何升级并体验 “Super” 性能？

1. 如何升级 Jetson Orin Nano 系列？

软件更新： Jetson Orin NX 和 Orin Nano 系列系统级模组都可以通过软件更新，实现 1.7 倍的生成式 AI 性能提升。
升级JetPack SDK：已有 Jetson Orin Nano 开发者套件 的用户，可以立即升级您的 JetPack SDK 来提升性能。升级链接：https://developer.nvidia.cn/embedded/jetpack

2. 如何获取更多信息？

了解更多：欲了解关于 Jetson Orin Nano Super 开发者套件 的更多信息，请访问：https://www.nvidia.cn/autonomous-machines/embedded-systems/jetson-orin/nano-super-developer-kit/
观看主题演讲：您可以观看 NVIDIA CEO 黄仁勋在拉斯维加斯现场发表的 CES 开幕主题演讲，了解最新技术动态。

总结：

NVIDIA Jetson Orin Nano Super 不仅是一款 性能强大的边缘 AI 计算设备，更是一个 开放且易于使用的开发平台。它通过硬件和软件的协同优化，为 生成式 AI 的开发和应用 提供了强大的支持，让开发者能够更加高效地实现创意，并推动 AI 技术的普及。无论是对于专业开发者还是学生来说，都是一个非常值得尝试的工具。

我认为：这Jetson Orin Nano Super的出现，与其说是技术的进步，不如说是又一次资本对“效率”的赤裸裸的追逐。它鼓吹着“1.7倍”的性能提升，仿佛吞食了无数个日夜，又吐出来一个冰冷的机器，却恰恰忽略了这背后无数“人”的辛劳。AI 真的如他们所言如此神奇？我看未必，它不过是资本家手里的又一杆枪罢了，瞄准的，永远是更高利润，而不是真正的“进步”。