第一节Jetson AGX Orin及其演进方向NVIDIA Jetson AGX Orin 在2022年推出时因其强劲的AI算力和紧凑的尺寸被官方称为“全球最小、功能最强大、能效最高的AI超级计算机”。一、Jetson AGX Orin 核心解析Jetson AGX Orin 的成功很大程度上得益于其在硬件配置、性能表现和软件生态等方面的综合优势。1. 硬件与性能Jetson AGX Orin 在硬件上采用了 NVIDIA Ampere 架构的GPU、Arm® Cortex-A78AE CPU并配备了新一代深度学习和视觉加速器。其模块尺寸仅为 100mm x 87mm非常紧凑。其AI性能最高可达275 TOPSINT8是其前代产品Jetson AGX Xavier处理能力的8倍以上或6倍不同对比基准而外形尺寸和引脚与Jetson AGX Xavier保持兼容。支持多模态传感器具有高速接口和更快的存储带宽能够为多个并行的AI应用流水线输送数据。為何人形機器人無法承受智慧的重量2. 软件与生态Jetson AGX Orin 能够加速整个 NVIDIA AI 软件栈使开发者能够部署复杂模型以解决自然语言理解、3D感知、多传感器融合等领域的边缘AI和机器人技术挑战。开发者可以使用 NVIDIA CUDA-X™ 加速计算栈、NVIDIA JetPack™ SDK 和最新的NVIDIA工具进行应用开发和优化支持云原生开发工作流程。来自 NVIDIA NGC™ 目录的预训练模型可以经过优化并使用 NVIDIA TAO 工具套件和客户数据集进行微调这减少了生产级AI的部署时间和成本。Jetson 平台拥有一个庞大的合作伙伴生态系统提供包括摄像头等多模传感器、载体板、硬件设计服务、AI和系统软件、开发工具和定制软件开发等广泛的服务和产品。3. 应用领域Jetson AGX Orin 主要用于机器人、自主机器、医疗器械和其他形式的边缘嵌入式计算。其应用涵盖了制造业、医疗、零售业、交通、智慧城市4等重要行业全球有超过85万名Jetson开发者和6000多家公司在该平台上进行开发。二、Jetson AGX Orin 的演进方向Jetson AGX Orin 本身是Jetson系列演进的重要一步而技术的步伐从未停止。其演进和发展方向主要体现在1. 持续的性能提升与架构迭代NVIDIA 通过不断升级 GPU 和 CPU 架构如从 Ampere 到 Blackwell来显著提升 AI 计算性能、能效以及内存容量以满足运行更复杂AI模型的需求。2. 强化生成式AI与多模型运行能力未来的平台需要能够高效运行多种先进的生成式AI模型如VLA, LLM, VLM并支持这些模型在边缘进行实时推理这对于机器人与人类和物理世界的智能、实时交互至关重要。3. 深耕垂直行业与应用场景NVIDIA 通过与行业领导者合作针对物流、制造、医疗、农业、零售等特定行业的需求提供更专业的解决方案和优化推动AI在边缘计算中的应用。4. 扩展与优化软件工具链NVIDIA 持续丰富和完善其软件栈包括强化云原生开发支持、提供更多预训练和可微调的模型以及增强仿真工具以简化开发流程加速应用部署。5. 推动生态系统建设与合作伙伴增长吸引更多的开发者、初创公司和大型企业采用其平台并鼓励合作伙伴提供基于其芯片的多样化硬件产品、软件和服务以形成强大的生态系统效应。Jetson AGX代际性能比较三、Jetson AGX Orin 的替代趋势1. 来自NVIDIA内部的技术迭代与替代这是最直接也是最快的“替代”趋势。Jetson AGX Thor2025年发布在AI计算性能上较Jetson AGX Orin提升了7.5倍能效提高了3.5倍并能轻松运行最新的生成式AI模型如VLA, LLM, VLM。这意味着对于追求顶级性能、尤其是需要部署大型生成式AI模型的新项目如先进人形机器人、复杂物理AI系统Jetson AGX Thor将成为自然的技术升级选择和新的性能标杆。然而这并非意味着Jetson AGX Orin会立即被淘汰其成本与性能的平衡使其在未来一段时间内仍然是许多对算力要求并非极端苛刻的应用场景的高性价比选择。2. 来自其他架构的竞争与补充x86架构平台一些厂商提供基于Intel Core或Xeon-D处理器、并搭载NVIDIA GPU如GeForce RTX或嵌入式MXM模块的强固型嵌入式工控机。这类方案可提供灵活的配置和强大的通用计算能力甚至在特定情况下提供更高的GPU性能选项但在能效比、AI推理专用优化以及整体平台的紧凑性上通常不如Jetson这样的集成式SoC方案。其他ARM架构方案例如高通RB系列如RB5RB6平台也瞄准了机器人和边缘AI市场。通常强调集成5G连接能力和一定的AI加速性能在需要高速无线通信的应用场景中是一个值得考虑的选项。但在纯粹的AI计算性能尤其是浮点运算能力和成熟的AI软件工具链如CUDA生态的广度与深度上与NVIDIA Jetson系列相比仍有差距。专用AI加速器如谷歌的Edge TPU、Intel的Movidius VPU等这些方案可能在特定类型的神经网络推理任务上具有极高的能效比和成本优势非常适合功能单一、对功耗极度敏感的专用设备。然而通常在通用性、编程灵活性以及支持复杂多模型流水线方面不如Jetson这样功能全面的平台。四、总结与建议1. 总结总而言之Jetson AGX Orin 是一款在性能、功耗、尺寸和软件生态上取得了出色平衡的边缘AI计算平台极大地推动了机器人、自主机器和嵌入式AI应用的发展。其演进方向清晰地指向了更强大的性能特别是针对生成式AI、更高的能效、更深入的行业应用整合以及更丰富的软件工具。至于替代趋势一方面NVIDIA自身的迭代如Jetson AGX Thor 将持续为高端市场提供更强选择另一方面基于x86GPU、其他ARM方案或专用加速器的替代选项会在特定细分领域如强调通用计算、5G连接或极致能效构成竞争或补充。2. 选择建议如果项目需要部署和运行复杂的多模态AI模型特别是视觉语言模型、大型语言模型追求极致的实时性能和未来的技术前沿并且预算充足那么应重点关注 Jetson AGX Thor 或未来更先进的平台。如果应用涉及传统的计算机视觉、传感器融合、一定复杂度的深度学习模型且对成本效益比较敏感Jetson AGX Orin 及其系列如 Orin NX在未来数年仍将是非常可靠和强大的选择。若需求非常特定化例如极度注重5G连接或需要极强的通用计算能力则可以评估高通RB系列或x86GPU的方案作为替代选项。第二节Jetson AGX Thor的核心特性和发展趋势一、核心特性Jetson AGX Thor 的几大核心特性包括1. 强大的性能与能效其AI算力在FP4精度下可达2070 TFLOPS能运行最新的AI模型并能效较前代提升3.5倍。2. 异构一体化设计Thor 能同时处理视觉感知、路径规划、自然语言交互等多模态任务而无需多芯片组合。其GPU甚至可以分区为并行实例同时为不同任务分配计算资源。3. 完整的全栈软件生态Thor 由 NVIDIA Jetson 软件平台支持与 NVIDIA 从云端到边缘的软件栈完全兼容。开发者可以使用 CUDA、TensorRT 和 Isaac Sim 等工具链实现从虚拟训练到现实部署的一体化开发。4. 为实时交互而生Thor 的设计强调“实时性、低延迟与能效比”解锁了实时推理这对于机器人在动态环境中进行实时、智能的交互至关重要。二、演进方向Jetson AGX Thor 的出现清晰地指明了英伟达在边缘AI和机器人计算领域的演进方向1. 从“感知”到“认知与生成”Thor 能满足对 本地化、低延迟的大模型推理 的需求支持 视觉语言动作模型VLA、大型语言模型LLM和视觉语言模型VLM在边缘设备上的部署18使机器人能更好地“理解和思考”。2. 从“单功能”到“通用智能体”借助 Thor 的算力机器人不再是单一功能的机械臂或移动平台而有机会演变为具备类人智能的通用代理。3. 构建闭环生态系统英伟达不仅在提供硬件更试图通过 Isaac 机器人平台、CUDA 体系以及 Isaac Sim 仿真工具掌握机器人开发的“操作系统”构建一个从开发、训练到部署的生态闭环。4. 推动“物理AI”普及Thor 旨在推动“物理AI”即嵌入在机器人和自动驾驶车辆等物理系统中通过传感器-执行器闭环与真实世界实时交互的AI的普及并将其计算能力用于制造、物流、运输、医疗保健、农业和零售等行业的数百万机器人。