KI heute: NVIDIA Agent Toolkit und IBM Granite

Stand des Wissens zum 22.10.2026. Quellmaterial gesammelt im Zeitraum vom 21.10.2026 bis zum 22.10.2026.

Der heutige Überblick konzentriert sich auf umfassende Aktualisierungen des NVIDIA-Ökosystems, die Werkzeuge zur Erstellung von KI-Agenten, ein neues Open-Modell-Angebot für europäische Unternehmen sowie die cuDSS-Bibliothek für technische Simulationen umfassen. Darüber hinaus betrachten wir das Update der Sprachmodellserie Granite von IBM sowie das Debüt der AnyLanguageModel 1.0-Bibliothek, die Entwicklern die Verwaltung lokaler und gehosteter Modelle in Apps für Apple-Plattformen erleichtert.

Das Wichtigste in Kürze (TL;DR)

• NVIDIA Agent Toolkit: Ein neues Tool-Paket ermöglicht Unternehmen die Erstellung und Anpassung von KI-Agenten unter Verwendung von CUDA-X-Bibliotheken und Nemotron-Modellen.
• NVIDIA Modelle: Das Unternehmen hat offene Nemotron-, Kumo-, Cosmos- und BioNeMo-Modelle eingeführt und unterstützt damit die europäische digitale Souveränität bei der Datenverarbeitung.
• NVIDIA cuDSS: Die Bibliothek löst dünnbesetzte Gleichungssysteme auf Grafikkarten, was eine bis zu 10-fache Beschleunigung technischer Simulationen ermöglicht.
• IBM Granite Speech: Die aktualisierte Sprachmodellserie bietet eine verbesserte Transkriptionsleistung und Edge-Optimierung bei gleichzeitiger Beibehaltung der Apache 2.0-Lizenz.
• AnyLanguageModel 1.0: Eine neue Bibliothek für das Apple-System bietet eine einheitliche API zur Verwaltung lokaler und gehosteter Modelle und unterstützt das LanguageModel-Protokoll.

NVIDIA Agent Toolkit

NVIDIA hat am 21. Oktober das offene Agent Toolkit erweitert, ein Toolkit, das Unternehmen dazu dient, künstliche Intelligenz-Agenten zu erstellen, anzupassen und zu steuern, die Unternehmensdaten nutzen.

Der erweiterte Satz enthält die Agent Knowledge Foundation, die CUDA-X-Bibliotheken wie cuDF, cuGraph, cuML, cuOpt und cuVS nutzt. Die neue Bibliothek Auto-Ontology wandelt rohe Geschäftsdaten in Begriffe wie Kunden, Produkte oder Bestellungen um und bildet Beziehungen zwischen ihnen ab. Das Paket enthält außerdem Nemotron Retriever-Modelle und die Kumo-Familie (Tabular-, Relational-, Time Series- und Forecast-Versionen). Die Sicherheit der Arbeit von Agenten wird durch die OpenShell-Laufzeitumgebung gewährleistet, und NemoClaw-Entwurfsmuster dienen dem Aufbau spezialisierter Systeme.

Zu den Nutzern der Tools gehören bereits Unternehmen wie Palantir, Databricks, Snowflake, Amazon Web Services, SAP, ServiceNow und Zoom. ServiceNow verzeichnete eine Latenzzeitverkürzung um fast ein Viertel bei gleichzeitiger Verbesserung der Ranking-Qualität, während SAP die Leistung eines Reranker-Modells nahezu verdreifachte.

Für KI-Entwickler: Ingenieurteams und Datenanalysten können CUDA-X-Bibliotheken und Kumo-Modelle nutzen, um auf eigenen Datenbanken basierende Agenten einzusetzen, ohne Dateien in externe Systeme übertragen zu müssen. Vor einer Implementierungsentscheidung sollten die Kosten für die Wartung der Recheninfrastruktur, die Hardwareanforderungen für CUDA-X-Bibliotheken sowie die Frage überprüft werden, ob Kumo-Modelle die in der jeweiligen Organisation verwendeten spezifischen Datenformate unterstützen. Die Dokumentation präzisiert zudem nicht die Lizenzanforderungen für die einzelnen Paketkomponenten sowie die Verfügbarkeit von Support in polnischer Sprache.

NVIDIA erweitert das Portfolio offener Modelle für europäische Unternehmen

Laut der Ankündigung vom 21. Oktober hat NVIDIA eine Reihe neuer offener Modelle auf den Markt gebracht, die natürliche Sprachverarbeitung, Robotik, Biologie und Quantencomputing umfassen. Ziel der Initiative ist es, die europäische digitale Souveränität zu unterstützen, indem Werkzeuge bereitgestellt werden, die Organisationen mit ihren eigenen Daten anpassen und auf einer selbst kontrollierten Infrastruktur einsetzen können.

Das neue Angebot umfasst die Modelle Nemotron 3.5 Super VL und Nemotron 3.5 Bolt sowie die Nemotron Retriever-Familie, die für Einbettungs-, Reranking- und Dokumentenparsungsaufgaben bestimmt ist. Für Geschäftsdaten wurden die NVIDIA Kumo-Modellfamilie, die die Ergebnisvorhersage und Risikobewertung erleichtert, sowie die NVIDIA Kumo Engine-Bibliothek vorbereitet. Im Bereich Robotik und autonome Systeme wurden NVIDIA Cosmos 3.5-Modelle zusammen mit dem Cosmos Data Factory-Toolkit und das kompakte Modell NVIDIA Alpamayo 2 Edge, das für die NVIDIA DRIVE AGX Thor-Plattform optimiert ist, zur Verfügung gestellt.

Das Portfolio wird durch das Modell NVIDIA BioNeMo RFD4-Protein vervollständigt, das in Zusammenarbeit mit der University of Washington entwickelt wurde und dem Entwurf von Proteinsequenzen und -strukturen dient; Tests zufolge generiert es Entwürfe etwa 13-mal schneller als RFdiffusion3. Die NVIDIA Ising-Modellfamilie wiederum soll die Arbeit an Quantensupercomputern u. a. bei der Hardwarekalibrierung und Fehlerkorrektur unterstützen. Die Mehrheit der genannten Lösungen ist bereits auf der Hugging Face-Plattform, GitHub und als NVIDIA NIM-Mikrodienste verfügbar.

Für KI-Entwickler: Dateningenieure, die RAG-Systeme entwerfen, und Teams, die autonome Agenten bauen, können Modelle aus der Nemotron- und Kumo-Familie an ihren eigenen Datensätzen testen. Die Ankündigung nennt keine detaillierten Lizenzbedingungen für die kommerzielle Nutzung der einzelnen Modelle sowie keine vollständige Liste der Einschränkungen bei der Verarbeitung anderer Sprachen als Englisch – dies muss vor dem Start der Produktionseinrichtung in der technischen Dokumentation verifiziert werden.

NVIDIA stellt die cuDSS-Bibliothek zur Verfügung

NVIDIA gab am 21. Oktober die allgemeine Verfügbarkeit der cuDSS-Bibliothek bekannt, die Teil des CUDA-X-Pakets ist. Dieses Tool verlagert den Prozess der Lösung dünnbesetzter Gleichungssysteme auf Grafikprozessoren (GPUs), um technische und wissenschaftliche Simulationen zu beschleunigen.

Die Lösung unterstützt Berechnungen für komplexe Projekte wie fortgeschrittene integrierte Schaltungen, Flugzeuge oder industrielle Systeme. Der Einsatz von cuDSS ermöglicht eine Reduzierung der für die Ergebnisfindung benötigten Zeit sowie eine Erhöhung des Simulationsdurchsatzes, was die Analyse größerer und detaillierterer Modelle erlaubt. Die Bibliothek wurde so konzipiert, dass sie von einzelnen Workstations bis hin zu großen Rechenclustern skaliert. Das Tool kann über Schnittstellen in den Sprachen C, C++, Python und Fortran genutzt werden.

Branchenführer nutzen diese Technologie bereits und integrieren sie in ihre eigene Software. Beispielsweise verzeichnete das Unternehmen Applied Materials bis zu 10-mal schnellere Lösungsprozesse dünnbesetzter Systeme in seiner Ginestra-Plattform, und ZEISS SMT erzielte in Kombination mit COMSOL Multiphysics eine 4-fache Beschleunigung bei Plasmasimulationen für die EUV-Lithographie. Andere Akteure wie Dassault Systèmes, Cadence, Siemens und Synopsys berichten ebenfalls über messbare Leistungsgewinne in ihren Berechnungstools.

Für KI-Entwickler: Ingenieurteams, die numerische Simulationen implementieren, können die Integration von cuDSS mit vorhandenen Bibliotheken in den Sprachen C, C++, Python oder Fortran überprüfen. Die Ankündigung präzisiert weder die Lizenzbedingungen noch eine detaillierte Preisliste für die Nutzung der Bibliothek in kommerziellen Projekten – diese Daten müssen direkt beim Anbieter bestätigt werden.

IBM aktualisiert die Granite Speech-Modellsammlung

IBM kündigte am 21. Oktober ein Update seiner Sprachmodellserie Granite Speech an und führte das neue Modell granite-speech-5.0-2b sowie aktualisierte Versionen von granite-speech-5.0-470m-turboctc und granite-speech-4.1-2b-plus ein.

Das neue Modell granite-speech-5.0-2b unterstützt Transkription und Übersetzung in den Sprachen Englisch, Französisch, Deutsch, Spanisch, Portugiesisch und Japanisch sowie die Übersetzung vom Englischen ins Italienische und Mandarin. Es wurde mit 390.000 Stunden öffentlicher Audionaufnahmen und synthetischer Daten trainiert. In Tests des Modells wurde eine durchschnittliche Wortfehlerrate (WER – Word Error Rate) von 5,06% für die englische Sprache erzielt.

Die Version 470m-turboctc wurde im Hinblick auf die Ausführungsgeschwindigkeit auf Edge-Geräten optimiert. Dank der Optimierung der Kompilierung des Conformer-Blocks erreicht das Modell eine Leistung von 19.870 RTFx, was einem Anstieg um das etwa 1,6-Fache im Vergleich zur Debütversion entspricht. Das Modell granite-speech-4.1-2b-plus wurde wiederum für die Handhabung langer Aufnahmen wie Meetings, Interviews oder Support-Gespräche abgestimmt, wobei die bisherige Architektur und das Prompt-Format beibehalten wurden.

Alle Modelle wurden unter der Apache 2.0-Lizenz mit nativer Unterstützung in den Umgebungen Transformers, vLLM, llama.cpp und mlx-audio für Apple Silicon-Prozessoren zur Verfügung gestellt. Der Hersteller empfiehlt, diese Lösungen zur Erkennung von Risiken mit dem Modell Granite Guardian zu kombinieren.

Für KI-Entwickler: Teams, die mehrsprachige Support-Center oder Systeme zur automatischen Protokollierung von Meetings betreuen, können diese Modelle in bestehenden Audioverarbeitungspipelines testen. Die Ankündigung gibt nicht an, ob die Modelle Unterstützung für die polnische Sprache bieten oder wie hoch die tatsächlichen Kosten für die Aufrechterhaltung der Infrastruktur bei hohem Anfragevolumen sind – diese Aspekte sollten vor der Produktionseinrichtung verifiziert werden.

AnyLanguageModel 1.0

Gemäß Informationen vom 20. Oktober 2026 wurde die Bibliothek AnyLanguageModel 1.0 veröffentlicht, die als Ersatz für das Apple Foundation Models-Framework dient. Dieses Tool wurde entwickelt, um Entwicklern die Verwaltung lokaler und gehosteter Modelle in Apps für Apple-Plattformen zu erleichtern. Mit dem Update wurden die Pakete swift-huggingface 1.0 und swift-xet 1.0 bereitgestellt, die das Herunterladen von Modellen von der Hugging Face-Plattform unterstützen.

Das Hauptziel von AnyLanguageModel ist die Bereitstellung einer einheitlichen API, dank der dieselbe Codesitzung Systemmodelle, über llama.cpp, MLX und Core ML ausgeführte Modelle mit offenen Gewichten sowie ausgewählte Dienste externer Anbieter unterstützen kann. In der Version 1.0 wurde die Unterstützung von Modellen eingeführt, die dem LanguageModel-Protokoll entsprechen, einschließlich Core AI-Modellen (unter OS 27). Die Lösung funktioniert auch in einer Linux-Umgebung.

Zu den neuen Funktionen gehören die Unterstützung von Tool-Aufrufen, das Streaming von Antworten und die Meldung der Token-Nutzung für gehostete Modelle. Entwickler können den Mechanismus zur Weitergabe von API-Schlüsseln über Closures nutzen, was das sichere Abrufen kurzlebiger Token von eigenen Servern ermöglicht. Bei einem Anbieterwechsel werden Reasoning-Blöcke automatisch übersprungen, falls der neue Anbieter deren Wiederherstellung nicht unterstützt.

Für KI-Entwickler: Ein Entwickler mobiler Apps für iOS kann überprüfen, ob seine bisherige Infrastruktur zur Unterstützung von Foundation Models beim Wechsel zu diesem Ersatz eine Migration erfordert. Es lohnt sich, die Lizenz der Bibliothek zu überprüfen und festzustellen, ob die Verfügbarkeit externer Inferenz-Dienstanbieter Regionen abdeckt, die den rechtlichen Anforderungen des jeweiligen Projekts entsprechen, was die Quelle nicht präzisiert.

Häufig gestellte Fragen (FAQ)

Welche messbaren Vorteile bringt die Implementierung von NVIDIA cuDSS?

Die Implementierung der cuDSS-Bibliothek ermöglicht eine signifikante Beschleunigung numerischer Berechnungen. Das Unternehmen Applied Materials erzielte damit bis zu 10-mal schnellere Lösungsprozesse dünnbesetzter Gleichungssysteme, und ZEISS SMT erreichte in Kombination mit COMSOL Multiphysics eine 4-fache Beschleunigung bei fortgeschrittenen Plasmasimulationen, die in der Lithographie eingesetzt werden.

Welche Sprachen unterstützt das neue Modell IBM granite-speech-5.0-2b?

Das Modell granite-speech-5.0-2b unterstützt Transkription und Übersetzung in den Sprachen Englisch, Französisch, Deutsch, Spanisch, Portugiesisch und Japanisch. Darüber hinaus bietet es Übersetzungsfunktionen aus dem Englischen ins Italienische und Mandarin. Es wurde mit 390.000 Stunden öffentlicher Audionaufnahmen und synthetischer Daten trainiert.

Quellen

• NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data — 2026-10-21
• NVIDIA Open Models Advance Europe’s Sovereign Intelligence Across Industries — 2026-10-21
• NVIDIA cuDSS Now Generally Available to Accelerate Engineering and Scientific Simulations — 2026-10-21
• Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster — 2026-10-21
• AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms — 2026-10-20