英伟达推出仅249美元的AI超级电脑 生成式AI性能提高达1.7倍
佚名
2024-12-21 09:04:17
0

英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示,这款开发者套件通过软件升级实现了更高性能和更低价格,仅售249美元,尺寸小巧,可放在手掌中,可将生成式AI性能提高高达1.7倍。

_英伟达gpu和高性能_英伟达显卡优化以提高计算性能

该公司表示,这款产品适合商业AI开发者、爱好者和学生,与其前代产品相比,其生成式AI推理性能提升了1.7倍,性能提高了70%,每秒可以执行高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也提升了50%,达到了102GB/s。

黄仁勋还特意为这款产品录制了一段视频,如同2021年发布Hopper H100时一样,展现英伟达对这款产品的重视。在视频中,黄仁勋表示,从Xavier开始,英伟达就创造了一种新的处理器,也就是机器人处理器,当时没人知道他们在做什么。

新的Jetson Orin Nano Super拥有将近70兆次的运算能力,功率25瓦,价格249美元,可以执行HGX的所有功能,甚至是执行大语言模型。

英伟达gpu和高性能_英伟达显卡优化以提高计算性能_

他表示,无论是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型语言模型(LLM)聊天机器人,构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的选择,这款套件都能以更低的成本提供强大的运算效能,主要由于产品支持低功耗设计,能以7瓦到25瓦的功耗运行,适合各种边缘设备云算场景,无论是智能城市、智能农业还是机器人开发。

持续提升的性能和体验

通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开发者套件的用户提升生成式AI性能。

黄仁勋表示,Jetson Orin Nano Super非常适合那些希望在生成式AI、机器人技术或计算机视觉领域发展技能的人士。在AI领域从任务专用模型向基础模型转变的趋势下,它也为开发者提供了一个将创意变为现实的易用平台。

为生成式AI提供强劲性能

Jetson Orin Nano Super性能增强,为所有流行的生成式AI模型,例如Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的计算机视觉模型带来了显著提升,进一步提升效能表现。

英伟达显卡优化以提高计算性能_英伟达gpu和高性能_

该公司表示,开发者套件包括一个Jetson Orin Nano 8GB系统模块(SoM)和一个参考载板,为边缘设备AI应用的原型设计提供了理想平台。

系统模块采用NVIDIA Ampere架构GPU,配备张量计算核心(Tensor Cores)和6核Arm CPU,能够处理多个并行AI应用管道,并提供高性能推理能力。此外,它还支持最多四个摄像头,分辨率和帧率均高于前代版本。

英伟达强调,随着AI技术逐渐从云端走向终端,实体AI将是下一波发展重点,Jetson Orin Nano Super不仅可以用于开发聊天机器人,也适合简历视觉AI代理或部署AI机器人等应用。

广泛的生成式AI软件生态系统与社区

此外,英伟达Jetson AI实验室提供对最新开源社区模型的支持,以及易于使用的教程。开发者还可以从更广泛的Jetson社区获得支持,并从其他开发者的项目中获得灵感。

Jetson支持英伟达的AI软件,包括用于机器人技术的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO工具包微调来自NGC目录的预训练AI模型,开发时间可以大幅缩短。

Jetson生态系统合作伙伴提供额外的AI和系统软件、开发工具以及定制软件开发服务。他们还提供与摄像头及其他传感器相关的支持,以及载板和产品解决方案的设计服务。

为所有Jetson Orin用户解锁性能提升:Super模式

英伟达也宣布将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super模式的性能提升,最高可达70%。这些更新将通过Jetpack SDK管理器发布在英伟达网站和GitHub上。

英伟达显卡优化以提高计算性能_英伟达gpu和高性能_

Jetson Orin Nano Super Developer Kit预计很快就会通过全球经销商开始供货。对于想要入门AI开发的学生、工程师或创客来说,这款开发套件提供了一个经济实惠且功能强大的平台选择。

英伟达将Jetson Orin Nano Super Developer Kit定位为推动生成式AI技术普及化的关键产品,希望在智能交通、零售管理以及物联网(IoT)应用中大放异彩。

相关内容

找靠谱展会搭建公司?这篇攻...
2025科技行业跨境展会展台设计搭建公司推荐榜-解决物流与搭建痛点...
2025-12-10 19:10:40
AI怎么重塑展会?从千人千...
当北京AI产业规模将破4500亿元、183款备案大模型领跑全国时,...
2025-12-10 19:09:35
最新面点设备展会揭秘!智能...
看到这些最新展会动向,确实让人觉得行业的火热程度远超预期。 现场...
2025-12-09 19:20:19
双城联动大揭秘!珠海澳门博...
这场首创双城联动模式的博览会亮点满满,在展区规划、展品技术、配套服...
2025-12-06 19:23:47
2026十大展会指南:工业...
对于工业品企业而言,参加专业展会是开拓市场、维系客户、洞察行业趋势...
2025-12-02 23:16:30
聚焦七大领域,共筑投资高地...
围绕AI、人工智能、生物医药、金融等7大重点领域组织主题招商活动;...
2025-12-02 19:15:04

热门资讯

3000+人次到场,大量行业首... 3000+人次到场,大量行业首发内容,2024甲子引力年终盛典成功举办丨甲子引力,机器人,人工智能,...
用OLED怕烧屏,华为新专利“... 新款 iPad Pro 克服了此前传统 OLED 屏幕的亮度问题,在平板电脑的尺寸下做到了 1000...
华米 Ov 们把手机电池搞得大... 话说,今年的国产旗舰手机,有一个特质很突出 —— 电池容量大。除了少数几款标准版机型,大多新机的电池...
雷蛇推出USB 4拓展坞:10... 这款拓展坞采用铝合金外壳,似乎不支持RGB灯效。
英国首相为“AI 校园”揭幕:... IT之家 11 月 28 日消息,据路透社报道,当地时间 27 日,英国首相基尔・斯塔默(Keir ...
生成式人工智能安全大赛完美收官... 生成式人工智能安全大赛完美收官 院士专家共谈AI安全与治理
一文看懂索尼、三星、豪威的各种... 1,三大厂家名词统一首先,“双原生ISO”这个词最先在手机端出现,还得追溯至绿厂 Find X2 P...
刚刚,OpenAI首个智能体提... 刚刚,OpenAI首个智能体提前曝光!高级编码AI剑指400万年薪L6级工程师,编程,工程师,智能体...
靠七天无理由退货赚了200万?... 漏洞不是随便钻的。
对标DeepSeek的深度思考... 对标DeepSeek的深度思考模式?OpenAI推出新功能Deep research,大模型,dee...