aipoc-lab

今日AI:NVIDIA Agent Toolkit 与 IBM Granite

作者与批准

[AI 生成内容][经人工批准]

发布与更新

发布: 更新:

截至 2026-10-22 的知识状态。源材料收集于 2026-10-21 至 2026-10-22 期间。 今天的概览重点关注 NVIDIA 生态系统的广泛更新,包括用于构建 AI 代理的工具、面向欧洲企业的新开源模型系列,以及用于工程模拟的 cuDSS 库。此外,我们还关注了 IBM 语音模型系列 Granite 的更新,以及 AnyLanguageModel 1.0 库的首次亮相,该库使开发人员能够更轻松地在 Apple 平台应用中管理本地和托管模型。

今日要点 (TL;DR)

  • NVIDIA Agent Toolkit:全新工具包使企业能够利用 CUDA-X 库和 Nemotron 模型构建和定制 AI 代理。
  • NVIDIA 模型:该公司引入了 Nemotron、Kumo、Cosmos 和 BioNeMo 开源模型,支持欧洲在数据处理领域的主权。
  • NVIDIA cuDSS:该库在 GPU 上求解稀疏线性方程组,可将工程模拟加速多达 10 倍。
  • IBM Granite Speech:更新后的语音模型系列在保持 Apache 2.0 许可证的同时,提供了更好的转录性能和针对边缘设备的优化。
  • AnyLanguageModel 1.0:这个针对 Apple 系统的全新库提供了一个统一的 API,用于管理本地和托管模型,并支持 LanguageModel 协议。

NVIDIA Agent Toolkit

10 月 21 日,NVIDIA 扩展了开源工具包 Agent Toolkit,供企业用于构建、定制和控制利用公司数据的 AI 代理。 扩展后的工具包包括 Agent Knowledge Foundation,它利用了 CUDA-X 库,例如 cuDF、cuGraph、cuML、cuOpt 和 cuVS。全新的 Auto-Ontology 库将原始业务数据转化为诸如客户、产品或订单等概念,并映射它们之间的关系。该工具包还包含 Nemotron Retriever 模型和 Kumo 家族(Tabular、Relational、Time Series 和 Forecast 版本)。OpenShell 运行时环境确保了代理工作的安全性,而 NemoClaw 设计模式则用于构建专用系统。 Palantir、Databricks、Snowflake、Amazon Web Services、SAP、Servicenow 以及 Zoom 等实体已经在使用这些工具。ServiceNow 报告称,在提高排名质量的同时,延迟时间缩短了近四分之一,而 SAP 将 reranker 类型模型的运行速度加快了近三倍。 对于 AI 开发者:工程团队和数据分析师可以利用 CUDA-X 库和 Kumo 模型,在不将文件传输到外部系统的情况下,基于自己的数据库部署代理。在做出部署决策之前,应检查计算基础架构的维护成本、CUDA-X 库的硬件要求,以及 Kumo 模型是否支持组织内使用的特定数据格式。文档也没有明确规定各个组件包的许可证要求以及对中文支持的可用性。

NVIDIA 为欧洲企业扩展开源模型产品组合

根据 10 月 21 日的公告,NVIDIA 推出了多款涵盖自然语言处理、机器人技术、生物学和量子计算的新型开源模型。该倡议的目标是通过提供组织可以使用自己的数据进行定制并部署在自己控制的基础架构上的工具,来支持欧洲的数字主权。 新产品组合包括 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 模型,以及专为嵌入(embeddings)、重排(reranking)和文档解析任务设计的 Nemotron Retriever 家族。为业务数据准备了 NVIDIA Kumo 模型家族(有助于预测结果和评估风险)以及 NVIDIA Kumo Engine 库。在机器人技术和自主系统领域,推出了带有 Cosmos Data Factory 工具包的 NVIDIA Cosmos 3.5 模型,以及针对 NVIDIA DRIVE AGX Thor 平台优化的紧凑型 NVIDIA Alpamayo 2 Edge 模型。 该产品组合由 NVIDIA BioNeMo RFD4-Proteina 模型补充,该模型与华盛顿大学合作开发,用于设计蛋白质序列和结构,测试表明其生成设计比 RFdiffusion3 快约 13 倍。反过来,NVIDIA Ising 模型家族旨在支持量子超级计算机的工作,其中包括硬件校准和纠错。上述大多数解决方案现已在 Hugging Face、GitHub 平台上以及作为 NVIDIA NIM 微服务可用。 对于 AI 开发者:设计 RAG 系统的的数据工程师和构建自主代理的团队可以在自己的数据集上测试 Nemotron 和 Kumo 家族的模型。该公告未提供有关商业使用各个模型的详细许可条件以及处理英语以外语言的限制完整列表的详细信息——这些内容需要在启动生产部署之前在技术文档中进行验证。

NVIDIA 发布 cuDSS 库

NVIDIA 于 10 月 21 日宣布,作为 CUDA-X 套件一部分的 cuDSS 库现已全面上市。该工具将稀疏线性方程组的求解过程转移到图形处理器(GPU)上,旨在加速工程和科学模拟。 该解决方案支持复杂项目的计算,例如先进的集成电路、飞机或工业系统。cuDSS 的应用可以缩短获得结果所需的时间并增加模拟吞吐量,从而能够分析更大、更详细的模型。该库的设计使其能够从单个工作站扩展到大型计算集群。该工具可以通过 C、C++、Python 和 Fortran 语言的接口进行访问。 行业领导者已经在使用该技术,将其集成到他们自己的软件中。例如,Applied Materials 报告称,在其 Ginestra 平台中求解稀疏系统的速度提高了 10 倍,而 ZEISS SMT 与 COMSOL Multiphysics 结合使用时,在用于 EUV 光刻的等离子体模拟中实现了 4 倍的加速。Dassault Systèmes、Cadence、Siemens 和 Synopsys 等其他实体也在其计算工具中报告了可观的性能提升。 对于 AI 开发者:实施数值模拟的工程团队可以检查 cuDSS 与其现有的 C、C++、Python 或 Fortran 语言库的集成。该公告没有明确规定商业项目中该库使用的许可条件或详细定价——这些数据应直接向供应商确认。

IBM 更新 Granite Speech 模型系列

IBM 于 10 月 21 日宣布更新其 Granite Speech 语音模型系列,推出了新模型 granite-speech-5.0-2b,以及更新版本的 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。 新模型 granite-speech-5.0-2b 支持英语、法语、德语、西班牙语、葡萄牙语和日语的转录和翻译,以及从英语到意大利语和普通话的翻译。它在 39 万小时的公共音频录音和合成数据上进行了训练。在模型测试中,英语的平均字词错误率(WER)达到了 5.06%。 470m-turboctc 版本针对边缘设备上的运行速度进行了优化。由于对 Conformer 模块编译进行了优化,该模型的性能达到了 19870 RTFx,与首发版本相比增长了约 1.6 倍。反过来,granite-speech-4.1-2b-plus 模型经过微调,可处理会议、访谈或支持通话等长录音,同时保持现有的架构和提示词格式。 所有模型都在 Apache 2.0 许可证下发布,并在 Transformers、vLLM、llama.cpp 以及用于 Apple Silicon 处理器的 mlx-audio 环境中提供原生支持。制造商建议将这些解决方案与 Granite Guardian 模型结合使用,以检测风险。 对于 AI 开发者:运营多语言支持中心或自动会议记录系统的团队可以在现有的音频处理管道中测试这些模型。该公告没有说明这些模型是否支持波兰语,也没有说明大规模查询下的实际基础架构维护成本是多少——这些方面需要在生产部署前进行验证。

AnyLanguageModel 1.0

根据 2026 年 10 月 20 日的信息,发布了 AnyLanguageModel 1.0 库,它构成了 Apple Foundation Models 框架的替代品。该工具旨在使开发人员能够更轻松地在 Apple 平台应用中管理本地和托管模型。随着更新的发布,还推出了 swift-huggingface 1.0 和 swift-xet 1.0 软件包,它们支持从 Hugging Face 平台下载模型。 AnyLanguageModel 的主要前提是提供一个统一的 API,借助该 API,同一段代码会话可以支持系统模型、通过 llama.cpp、MLX 和 Core ML 运行的开放权重模型,以及选定的第三方供应商服务。在 1.0 版本中,引入了对符合 LanguageModel 协议的模型的支持,包括 Core AI 模型(在 OS 27 系统上)。该解决方案也在 Linux 环境中运行。 新功能包括对工具调用的支持、流式传输响应以及托管模型的使用情况报告。开发人员可以使用通过闭包传递 API 密钥的机制,从而可以安全地从自己的服务器检索短期令牌。如果更改供应商,如果新供应商不支持重新生成推理块(reasoning),则会自动跳过这些推理块。 对于 AI 开发者:iOS 移动应用程序开发人员可以检查支持 Foundation Models 的现有基础架构在切换到此替代方案时是否需要迁移。值得验证该库的许可证,以及第三方推理服务供应商的可用性是否涵盖符合给定项目法律要求的地区,源材料对此未作具体说明。

常见问题解答 (FAQ)

实施 NVIDIA cuDSS 带来哪些切实的益处?

实施 cuDSS 库可以显著加速数值计算。Applied Materials 借助它将稀疏线性方程组的求解速度提高了最多 10 倍,而 ZEISS SMT 与 COMSOL Multiphysics 结合使用时,在光刻中使用的先进等离子体模拟中实现了 4 倍的加速。

新的 IBM granite-speech-5.0-2b 模型支持哪些语言?

granite-speech-5.0-2b 模型支持英语、法语、德语、西班牙语、葡萄牙语和日语的转录和翻译。此外,它还提供从英语到意大利语和普通话的翻译功能。它在 39 万小时的公共音频录音和合成数据上进行了训练。

来源

本文来源清单(JSON) — 基于哪些信号生成、各循环做出了哪些决策,以及人工何时批准。

相关文章

[Tech][Agents][LLM][Open Source]

今日AI:Mistral Timestral与Meta Muse Spark

本文介绍了Mistral的时间序列模型、NVIDIA的Nemotron新版本、Meta的Muse Spark Open、Google的Universal Cart以及GeForce NOW的DLSS 4.5更新。