NVIDIA 发布能在 NVIDIA RTX™ AI PC 土产货运行的基础模子,为数字东说念主、实质创作、坐褥力和斥地提供庞大助力。
这些基础模子以 NVIDIA NIM™ 微管事的容颜提供,由全新 GeForce RTX™ 50 系列 GPU 加快,提供最高可达 2375 AI TOPS 和 32GB 显存。基于 NVIDIA Blackwell 架构的 RTX 50 系列 GPU是首批撑执 FP4 打算精度的花费级 GPU。与上一代居品比较,AI 推感性能晋升 2 倍,并让生成式 AI 模子在土产货以更小的显存占用空间运行。
始终以来,GeForce™ 一直是 AI 斥地者的进击平台。早在 2012 年,首个由 GPU 加快的深度学习蚁集 AlexNet 等于在GeForce GTX 580 上进行熟识的。在前年发表的 AI 商量论文中,进步 30% 都说起了对 GeForce RTX 的使用。
现如今,在生成式 AI 和 RTX AI PC 的助力下,任何东说念主都能成为斥地者。借助 AnythingLLM、 ComfyUI 和 LangFlow 等新一代低代码和无代码用具,发热友好像通过肤浅的图形用户界面 (GUI) 在复杂的责任流中使用 AI 模子。
衔尾到这些 GUI 的 NIM 微管事使赢得和部署最荣达成式 AI 模子举手之劳。NVIDIA AI Blueprint基于 NIM 微管事构建,旨在为数字东说念主、实质创作等应用提供易于使用的预树立参考责任流。
为得志 AI 斥地者和发热友日益增长的需求,最初 PC 制造商和系统集成商行将推出搭载 GeForce RTX 50 系列 GPU 且撑执 NIM 的 RTX AI PC。
NVIDIA 首创东说念主兼首席推行官黄仁勋暗示,“AI 正在以光速发展,从感知式 AI 到生成式 AI,再到如今的代理式 AI。NIM 微管事和 AI Blueprint 为 PC 斥地者和发热友探索 AI 提供了基础模块。”
NIM 提供迅捷 AI 体验
基础模子,即使用海量原始数据熟识而成的神经蚁集,是生成式 AI 的基础模块。
NVIDIA 将发布一系列来自包括 Black Forest Labs、Meta、Mistral 和 Stability AI 等顶尖模子斥地者的适用于 RTX AI PC 的 NVIDIA NIM 微管事。涵盖大谈话模子 (LLM) 、视觉谈话模子、图像生成、语音、检索增强生成 (RAG) 的镶嵌模子、PDF 索要和打算机视觉等应用场景。
Black Forest Labs 首席推行官 Robin Rombach 暗示,“撑执 FP4 打算精度的 GeForce RTX 50系列 GPU 将使一浩荡此前仅适用于大型数据中心的模子得以在 PC 上运行。把 Flux 打变成 NVIDIA NIM 微管事,让更多用户以更快的速率部署和体验 AI,同期提供超乎念念象的性能。”
NVIDIA 今天还告示推出 Llama Nemotron,这是一系列通达许可的基础模子,好像在种种代理式任务中提供极高的精度。Llama Nemotron Nano 模子将当作面向 RTX AI PC 和责任站的 NIM微管事提供,在指示免除、用具调用、聊天、代码和数学等代理式 AI 任务方面证实出众。
NIM 微管事包含在 PC 上运行 AI 所需的重要组件,并针对 NVIDIA GPU 的部署进行优化,不管GPU 在 RTX PC 、责任站,也曾在云表。斥地者和发热友将能快速下载这些 NIM 微管事,并可在带有适用于 Linux 的 Windows 子系统
(WSL) 的 Windows 11 PC 上诞生和运行。
微软副总裁,Windows 业务崇拜东说念主 Pavan Davuluri 暗示:“AI 正在快速驱动 Windows 11 PC 革命,适用于 Linux 的 Windows 子系统 (WSL) 和 Windows Copilot Runtime 为 Windows 11 上的 AI 斥地提供出色的跨平台环境。NVIDIA NIM 微管事为 Windows PC 提供优化,为斥地者和 发热友提供可立即集成到其 Windows 应用中的 AI 模子,从而进一步加快 Windows 用户的 AI 功能部署。”
运行在 RTX AI PC 上的 NIM 微管事将兼容先进 AI 斥地和智能体框架,包括 AI Toolkit for VSCode、AnythingLLM、ComfyUI、CrewAI、Flowise AI、LangChain、LangFlow 和 LM Studio。斥地者不错通过行业圭臬端点,将基于上述框架构建的应用和责任流衔尾到运行 NIM 微管事的 AI 模子,不管在云表、数据中心、责任站也曾 PC 上,都可通过息争的接口使用最新技 术。
发热友还可通过行将发布的 NVIDIA ChatRTX 时候 Demo 体验一系列 NIM 微管事。
让代理式 AI 领有拟东说念主色彩
为了向 RTX 发热友和斥地者展示使用 NIM 微管事构建 AI 智能体和助手的程序,NVIDIA 今天首 度公开 Project R2X。这是一款具有视觉智力的 PC 编造形象,它不错让用户需要的信息举手投足、协助用户使用桌面应用、进行视频会议、阅读和牵记文档等。
该编造形象接管全荣达成式 AI 算法 NVIDIA RTX Neural Faces 渲染而成,这种算法可诈欺王人备生成的像素来增强传统光栅化渲染。然后,面部通过基于扩散旨趣的全新 NVIDIA Audio2Face™- 3D 模子驱动动画,该模子可改善唇部和舌头动作。R2X 不错通过 CrewAI、Flowise AI 和 LangFlow 等斥地者框架衔尾到 OpenAI 的 GPT 4o 或 xAI 的 Grok 等云表 AI 管事,以及 NIM 微管事和 AI Blueprint,如 PDF 检索器或其他 LLM。注册以热心 Project R2X 的更新。
AI Blueprint 行将登陆 PC
近年来,女明星们的大胆穿着在娱乐圈引起了广泛争议。有些人认为这是女性的穿衣自由,而另一些人则认为这是对社会道德的伤害。让我们来看看这个话题的背后是谁,他们做了什么,以及最终的结果如何。
NIM 微管事还可通过 AI Blueprint(可在 RTX PC 上土产货运行的参考 AI 责任流)供 PC 用户使 用。借助这些蓝图,斥地者好像基于 PDF 文档创建播客、生成由 3D 场景指导的令东说念主惊艳的图像等。
将 PDF 同样为播客的蓝图可从 PDF 中索要文本、图像和表格,创建可供用户裁剪的播客剧本。它还能凭证此剧本,使用蓝图中提供的语音或基于用户的语音样本生成齐备的音频灌音。此外,用户还能与 AI 播客主执东说念主进行及时对话,了解连络特定主题的更多信息。
该蓝图诈欺像 Mistral-Nemo-12B-Instruct 这么的 NIM 微管事来惩处谈话,借助 NVIDIA Riva进行文本转语音和自动语音识别,以及使用 NeMo Retriever 微管事聚首进行 PDF 索要。
使用由 3D 指导的生成式 AI Blueprint,艺术家能对图像生成进行更抽象的截止。固然 AI 不错通过肤浅的文本领导生成令东说念主感触的图像,但仅使用笔墨截止图像的实质极具挑战。有了上述蓝 图,创作家不错借助使用 Blender 等 3D 渲染器打法肤浅的 3D 物体来指导 AI 图像生成。艺术家可手动或使用 AI 生成创建 3D 钞票,将其放弃在场景中,并诞生 3D viewport 相机。由 Flux NIM 微管事提供撑执的预打包责任流将不错通过插件 (举例 Blender 中由斥地者 ACGGit 斥地的 ComfyUI-BlenderAI-node )使用现时背景生成与 3D 场景相匹配的高质地图像。
NVIDIA NIM 微管事和 AI Blueprint 将从 2 月起启动提供,首发撑执的硬件包含 GeForce RTX 50 系列、GeForce RTX 4090 和 4080 以及 NVIDIA RTX 6000 和 5000 GPU ,改日还会赓续提供对其他 GPU 的撑执。宏碁、华硕、戴尔、惠普、联念念、微星、雷蛇将推出撑执 NIM 的 RTX AI PC。
热心 NVIDIA CES 动向加拿大pc28在线预测手机,了解 NIM 微管事、AI Blueprint 以及撑执 NIM 的RTX AI PC 若何加快生成式 AI。