aipoc-lab

今日AI动态:NVIDIA DGX Spark与OpenAI Astra Ultrafast

作者与批准

[AI 生成内容][经人工批准]

发布与更新

发布: 更新:

知识状态截至2026-10-03。源材料收集于2026-10-02至2026-10-03期间。

今天的概览涵盖硬件和模型领域的关键更新。NVIDIA推出了用于本地AI计算的DGX Spark单元,而OpenAI则提高了GPT-6 Astra Ultrafast模型的性能。在开源解决方案领域,推出了AstaBrief 8B工具和Olmo-core 3训练基础设施。最后一条信息是关于Anthropic为部署工程师启动的新培训计划。

今日要点 (TL;DR)

  • NVIDIA DGX Spark:基于Grace Blackwell架构的本地计算单元,支持高达1000亿参数的模型。
  • GPT-6 Astra Ultrafast:OpenAI模型的新模式,使用NVIDIA Blackwell处理器,提供快8倍的Token生成速度。
  • AstaBrief 8B:针对根据文献快速生成科学报告进行优化的开源模型。
  • Olmo-core 3:来自Allen Institute for AI的基础设施,能够训练规模高达1万亿参数的Mixture-of-Experts类型模型。
  • Claude Frontier Academy:Anthropic的教育计划,旨在培训10000名工程师在企业中部署Claude模型。

NVIDIA DGX Spark 64GB

NVIDIA宣布将于10月23日推出配备64 GB统一内存的DGX Spark设备,旨在构建和扩展本地人工智能系统。该硬件基于Grace Blackwell架构,并包含完整的NVIDIA软件栈,包括DGX OS。

该平台允许直接在设备上运行尺寸达1000亿参数的模型,从而无需借助云端即可开展AI智能体、推理、模型微调和数据分析工作。套件包含ConnectX-7网卡,通过NVIDIA Sync Cluster Assistant能够将两个单元连接成集群。在此配置下,用户可获得128 GB统一内存并支持高达2000亿参数的模型,在配合Qwen 3.8 27B模型的性能测试中,其性能比单系统提升了1.7倍。

该设备支持常用工具和框架,例如NVIDIA Agent Toolkit、Ollama、vLLM、带CUDA的PyTorch以及CUDA-X AI库。该硬件将通过以下制造商提供:Acer、ASUS、Dell、Gigabyte、HP和MSI,起售价为4999美元。本月底计划推出NVIDIA Sync Model Launcher,这是一款便于在单节点和多节点环境中配置模型的工具。

对于AI构建者:从事本地智能体的系统工程师和研究人员可以利用该硬件在与外部网络隔离的环境中测试模型。公告未提供该设备在世界不同 regions 的可用性信息、随附软件的具体许可条件以及多节点集群的基础设施维护成本——这些数据应在购买前向选定的制造商进行核实。

OpenAI发布GPT-6 Astra Ultrafast

OpenAI于10月1日发布了GPT-6 Astra Ultrafast模型,该模型利用NVIDIA Blackwell图形处理器来提高数据生成性能。目前,该新模式可通过OpenAI API以及ChatGPT Work和Codex用户使用。

GPT-6 Astra Ultrafast提供的Token生成速度比Astra Standard版本快高达8倍。利用NVIDIA Blackwell架构可以创建高性能Kernel,从而减少编程、使用工具或智能体测试解决方案等操作循环中的延迟。OpenAI还利用自身模型来优化NVIDIA基础设施上的推理软件,这使得不断改进模型的响应速度和有效管理计算资源成为可能。NVIDIA平台的编程能力使团队能够在训练、推理和强化学习过程中重复利用基础设施。

对于AI构建者:自动编程智能体的开发者可以在编辑、测试和调试循环内部检查响应生成时间。通告并未提供使用Ultrafast模式的具体定价以及Token消耗限制的信息,在决定迁移生产环境之前,这需要在技术文档中进行核实。

发布AstaBrief模型

Asta平台组织者于10月2日以开源形式发布了AstaBrief 8B模型,旨在根据文献快速生成科学报告。该工具的设计旨在通过在单次运行中生成完整报告来缩短文档创建时间,这替代了以往基于外部模型的按章节工作模式。

据创作者测量,部署AstaBrief 8B可将报告的平均生成时间缩短至51.1秒,这比使用专有模型的Thinking mode(178.5秒)快约3.5倍。该模型的学习过程基于47,000个训练示例,这些示例是从90,000个研究查询中根据质量和与科学文献的关联性过滤出来的。该模型使用监督微调(SFT)和DPO(Direct Preference Optimization)方法进行训练,放弃了基于强化学习的更高成本的方法。用户可以直接在Asta平台上以Fast mode使用AstaBrief,或者下载模型权重以在自己的基础设施上运行,这将使其能够处理敏感或未公开的数据。

对于AI构建者:致力于科学文献综合系统的团队可以分析共享的工作流(workflow),用于从自己的PDF文件生成报告。公告未明确该模型是否支持英语以外的语言、高查询量下的实际基础设施维护成本是多少,以及共享权重和训练数据涵盖哪些具体的许可证——这些问题在部署前需要独立核实。

Olmo-core 3

Allen Institute for AI于10月1日推出了Olmo-core 3训练基础设施,旨在训练大型Mixture-of-Experts(MoE)模型。该系统旨在实现在保持计算效率的同时将模型学习过程扩展到1万亿参数级别。

与先前基于FSDP(Fully Sharded Data Parallelism)的实现相比,新版本采用了基于DDP(Distributed Data Parallelism)的方法,这允许将专家保留在GPU内存中,并消除了重复的权重收集。在对8个NVIDIA B300图形处理器进行的测试中,拥有470亿参数的模型达到了每个GPU每秒52,000个Token的吞吐量,该结果比前一个解决方案高出2.7倍。

Olmo-core 3结合了专家并行、流水线并行和分布式优化器技术,减少了在单个芯片内存中存储完整模型和训练状态的必要性。该解决方案支持MXFP8数字格式,在测试中,与BF16格式相比,该格式在将峰值内存需求从103 GiB降至95 GiB的同时,使吞吐量提高了约21%。作为研究工作的一部分,测试了规模达到2.38万亿参数的配置。技术文档还包含关于“token gerrymandering”现象以及在训练期间平衡专家负载相关挑战的分析。

对于AI构建者:研究MoE模型扩展的研究人员可以在Hugging Face平台上检查源代码和交互式演示。发布的报告未明确该工具是否对NVIDIA以外制造商的硬件提供原生支持,以及长期训练万亿参数规模模型时的能源成本是多少——在开始自己基础设施的工作之前,必须核实这些信息。

Anthropic启动Claude Frontier Academy

Anthropic投资1亿美元启动了Claude Frontier Academy,其目标是到2027年底前培训10,000名前沿部署工程师(Frontier Deployed Engineers,简称FDE)。根据10月2日的公告,该计划旨在解决熟练员工短缺的问题,这些员工有能力在大企业内部部署基于Claude模型的解决方案。

第一批学员由来自以下公司的工程师组成:Accenture、Bain、Capgemini、Commonwealth Bank of Australia、Deloitte、Mckinsey、Morgan Stanley和Novo Nordisk。教育模式模仿了医学实习实践:学员向实践者学习,在现实场景中工作,并在获得证书之前通过评估过程。

培训过程由几个阶段组成。该计划从与Anthropic工程师进行的为期几天的现场课程开始,在此期间学员通过模拟部署——从用例的选择、安全审查,到将系统移交运营。通过实践考试后,学员获得Claude Resident Engineer徽章,并开始为期12周的驻场。在此期间,他们在Anthropic专家的支持下,在自己的组织中开展利用Claude的实际项目。驻场的结束和重新评估以授予Claude Frontier Deployed Engineer徽章告终。

参与该计划仅通过提名方式进行。目前,会议在旧金山、纽约和伦敦举行。

对于AI构建者:该计划面向有使用LLM模型经验并在业务环境中部署它们的实践软件工程师。技术团队中的决策者应联系其在Anthropic的客户经理,以核实提名的资格标准。公告不包含关于各个组织参与培训成本的信息,也不包含关于非合作伙伴网络公司培训材料可用性的信息。

常见问题 (FAQ)

连接两个NVIDIA DGX Spark设备提供什么功能?

通过ConnectX-7网卡和NVIDIA Sync Cluster Assistant软件,用户可以将两个单元连接成集群。这提供了128 GB的统一内存并支持高达2000亿参数的模型,在测试中,与单系统相比,这转化为1.7倍的性能提升。

谁可以参加Claude Frontier Academy计划?

该计划面向在大组织中工作、拥有使用LLM模型经验的工程师。参与仅通过提名方式进行,培训课程目前在旧金山、纽约和伦敦举行。有兴趣的人士应联系其在Anthropic的客户经理。

来源

--- 文本由 aipoc-lab (AI) 实验室根据上述公开可用的来源自动准备。自有摘要,非复制。人工编辑前的版本。

本文来源清单(JSON) — 基于哪些信号生成、各循环做出了哪些决策,以及人工何时批准。

相关文章

[Tech][Agents][LLM][Open Source]

今日AI:Mistral Timestral与Meta Muse Spark

本文介绍了Mistral的时间序列模型、NVIDIA的Nemotron新版本、Meta的Muse Spark Open、Google的Universal Cart以及GeForce NOW的DLSS 4.5更新。