aipoc-lab
/katTechnik/temHardware · LLM · Open Source/podBig Tech (sonstige) · NVIDIA/typNachrichten

KI heute: NVIDIA 6G und AMD InferaSim

Urheberschaft und Freigabe

[KI-generierter Inhalt][Von einem Menschen freigegeben]

Veröffentlichung und Aktualisierung

Veröffentlicht: Aktualisiert:

Stand des Wissens am 2026-11-08. Quellmaterial gesammelt am 2026-11-07. Das Set umfasst die Entwicklung offener NVIDIA-Werkzeuge für 5G- und 6G-Netzwerke, einen AMD-Simulator zur Planung des LLM-Servings und vorläufige Feststellungen der Europäischen Kommission zu TikTok. Zudem enthält es neue englische Varianten bei der ASR-Evaluierung und die BlockLock-Methode, die hinsichtlich der Stabilität von Inferenzergebnissen bei variabler Batch-Zusammensetzung untersucht wird.

Das Wichtigste heute (TL;DR)

  • NVIDIA: Offene Werkzeuge für 5G und 6G haben eine Million Downloads überschritten.
  • AMD: InferaSim nutzte 9,1 GPU-Stunden für 11 Anker-Messungen und deckte 226 Konfigurationen mit Prognosen ab.
  • TikTok: Die Europäische Kommission kam zu dem vorläufigen Schluss, dass der „Für dich“-Feed gegen das DSA verstößt.
  • Open ASR Leaderboard: Private Daten für ägyptisches und nigerianisches Englisch wurden zur Bewertung hinzugefügt.
  • BlockLock: In Tests steigerte BlockLock-Rows den Durchsatz im Vergleich zu vLLM Batch-Invariant um 115,2–122,2%.

NVIDIA stellt Open-Source-Werkzeuge für die 6G-Netzwerkforschung bereit

NVIDIA berichtete am Freitag über die wachsende Nutzung seiner offenen Werkzeuge zur Entwicklung von 5G- und 6G-Netzwerken, darunter Aerial und Sionna. Das Unternehmen hat Aerial vor einem Jahr als Open Source veröffentlicht; sein Toolset verbindet Simulationen und KI-Training mit Experimenten an realen Funksystemen. Laut NVIDIA ist die globale Nutzung von Aerial und Sionna im vergangenen Jahr um das Zehnfache gestiegen, die Open-Source-Werkzeuge für 5G/6G haben die Marke von einer Million Downloads überschritten und mehr als 8.000 Forschungs- und akademische Einrichtungen nutzen die Plattformen.

Anwendungsbeispiele

Forscher des King’s College London koppelten einen Roboterarm mit Kamera an einen Jetson AGX Orin und Sionna. Bei Experimenten zum Obstverpacken und Stapeln von Klötzen übertrug der Roboter prägnante Objektbeschreibungen statt regulärer Bilder. Laut NVIDIA verkürzte dies die Task-Ausführungszeit um bis zu 52,6% und verbesserte die Effizienz im Vergleich zum Versenden von Bildern. Die Tests umfassten auch absichtlich herbeigeführte Störungen. SoftBank integrierte einen neuronalen Empfänger in NVIDIA Aerial CUDA-Accelerated RAN (ACAR) und testete ihn mit einem kommerziellen 5G-Smartphone. Unter kontrollierten Bedingungen mit Störungen erreichte er in allen 15 untersuchten Einstellungen einen höheren Uplink-Link-Durchsatz als ein herkömmlicher Empfänger; der maximale Anstieg betrug etwa 60%. Forscher der ETH Zürich stellten ihrerseits fest, dass das Fine-Tuning von Empfängern anhand lokaler Messungen die Blockfehlerquote im Vergleich zu ausgewählten vorab trainierten Versionen um mehr als ein Drittel senkte. Ein Team der University of Leeds entwickelte ein System, das den Netzbedarf 10 Minuten im Voraus vorhersagt, um das Umschalten von Basisstationen in den Ruhemodus zu steuern. In Tests mit einem tragbaren 5G-Netzwerk und einem digitalen Zwilling wurde ein Rückgang des RAN-Energieverbrauchs um 45,6% im Vergleich zum Betrieb bei voller Leistung verzeichnet, während die Gerätekonnektivität aufrechtchterhalten wurde. Das CTTC wiederum kombinierte GPU-beschleunigte Funkkanalmodelle mit dem 5G-LENA-Simulator. In einer vorläufigen Bewertung sank die Simulationszeit je nach Integration von etwa drei Stunden auf 10–20 Minuten. Die Werkzeuge Aerial und Sionna sind auf GitHub verfügbar. Für KI-Entwickler: Ein Forscherteam, das RAN-Netzwerke entwickelt, kann die Integration von GPU-Kanalmodellen mit 5G-LENA überprüfen und die Simulationszeit an eigenen Szenarien messen. Das Material nennt keine Hardware-Anforderungen für das vollständige Set oder Lizenzdetails, die vor der Nutzung geklärt werden müssen.

AMD beschreibt ROCm InferaSim zur Planung von LLM-Serving-Konfigurationen

AMD beschrieb am 6. November das Tool ROCm InferaSim, das die Anzahl kostspieliger Tests von LLM-Serving-Konfigurationen auf GPU-Knoten reduzieren soll. Anstatt jede Variante auf der Hardware zu messen, führt das Tool Messungen für verwendete Kernel-Sets durch und berechnet anschließend Prognosen für Konfigurationen, die diese nutzen. Eine einzelne Messung, als Anker (Anchor) bezeichnet, zeichnet Prefill- und Decode-Operationszeiten sowie Informationen über die laufende Konfiguration auf. Änderungen wie Batch-Größe, Kontextlänge, Tensor-Parallelismus-Breite oder Anzahl der Replikate können laut Beschreibung analytisch aus einer bestehenden Messung übertragen werden. Eine Änderung des Datentyps, des Attention-Backends oder von Collectives, des Graph-Modus oder des spekulativen Dekodierens erfordert einen Anker für das neue Kernel-Set. Die Prognose dauert weniger als eine halbe Sekunde auf einem einzigen CPU-Kern. In Tests von AMD auf dem MI355X dauerte die Durchführung von 11 Anker-Messungen 9,1 GPU-Stunden und umfasste 226 Konfigurationen. Das separate Messen dieser Konfigurationen hätte 204 GPU-Stunden erfordert. Die Autoren schätzen, dass das Messen aller Kandidaten bei ihrer Suche etwa 25.000 GPU-Stunden verschlungen hätte; Hardware soll nur für Anker und die finale Bestätigung der Shortlist benötigt werden, während die Zwischenberechnungen auf der CPU stattfinden. InferaSim kann u.a. die Anpassung der Konfiguration an den HBM-Speicher, Latenzen für ein gegebenes Anfrage-Arrival-Modell und die Anzahl der für die Einhaltung des SLO erforderlichen Replikate abschätzen. Das Tool erstellt zudem eine Pareto-Front, die den Kompromiss zwischen GPU-Durchsatz und Interaktivität zeigt. Im Simulationsmodus ist kein Anker erforderlich, aber es bewertet lediglich Kernel und dient dem Vergleich von Kandidaten innerhalb einer Engine. Der Code ist auf GitHub verfügbar, und eine Anleitung beschreibt die Installation auf einem Host mit ROCm. Für KI-Entwickler: Ein Infrastrukturteam, das LLM-Serving auf AMD-GPUs plant, kann Anker für die verwendeten Kernel-Sets vorbereiten, die Konfigurationsprojektion ausführen und ausgewählte Varianten auf der GPU bestätigen. Der Artikel nennt weder den Preis des Tools selbst noch die Lizenzbedingungen – diese müssen vor dem Einsatz geprüft werden.

Europäische Kommission stuft TikTok-Empfehlungen vorläufig als DSA-Verstoß ein

Am 6. November kam die Europäische Kommission zu dem vorläufigen Schluss, dass der personalisierte „Für dich“-Feed auf TikTok gegen das Gesetz über digitale Dienste (DSA) verstößt. Die Kommission verweist auf den Effekt des „Kaninchenbaus“ („Rabbit Hole“): Der Feed zeigt Nutzern eine Reihe von Videos, die auf ihre Interessen abgestimmt sind, und Interaktionen mit einer bestimmten Art von Inhalten führen zur Empfehlung ähnlicher Materialien. Wiederholte Exposition gegenüber Inhalten über Traurigkeit, Isolation oder Körperbild kann der psychischen Gesundheit schaden, insbesondere bei Minderjährigen und Erwachsenen, die für solche Einflüsse anfällig sind. Die vorläufigen Feststellungen betreffen sowohl die Risikobewertung als auch Maßnahmen zur Schadensbegrenzung. Das Verfahren der Kommission läuft noch. Für KI-Entwickler: Ein Team, das einen personalisierten Inhalts-Feed entwirft, kann prüfen, ob es die Risiken wiederholter Empfehlungen und deren Auswirkungen auf die psychische Gesundheit bewertet. Die Mitteilung der Kommission beschreibt keine konkreten geforderten Abhilfemaßnahmen oder einen Zeitplan für das Verfahren.

Open ASR Leaderboard fügt ägyptisches und nigerianisches Englisch hinzu

Das Open ASR Leaderboard gab die Hinzufügung privater Daten zur Bewertung der Spracherkennung im ägyptischen und nigerianischen Englisch in Zusammenarbeit mit Liva AI bekannt. Das Update soll die Repräsentation verschiedener Akzente in Evaluierungen erhöhen und die Möglichkeit einschränken, Modelle auf öffentliche Tests hin anzupassen. Die Bestenliste soll zudem eine reichhaltigere Akzentunterteilung präsentieren, die auf dem Konzept der Drei Kreise von Kachru basiert. Die Autoren kündigen an, dass sie mit dem Hinzufügen weiterer Akzente den äußeren und den erweiterten Kreis trennen werden. Dies ist ein weiterer Schritt beim Ausbau der Testdatensätze. Zuvor wurden 11 Teilmengen mit fünf Akzenten hinzugefügt, die in Zusammenarbeit mit Appen und DataOceanAI erstellt wurden, sowie anschließend eine private Teilmenge für indisches Englisch in Zusammenarbeit mit Voice Arena. Liva AI sammelt multimodale Daten über Verbraucherprodukte, die von realen Menschen genutzt werden; das Unternehmen beschreibt sie als natürliche Interaktionen mitreichem Kontext und nicht als in Testaufgaben evokierte Äußerungen. Für KI-Entwickler: Teams, die ASR-Systeme bewerten, können die Ergebnisse der Bestenliste für ägyptisches und nigerianisches Englisch separat einsehen. Die Ankündigung nennt weder die Größe der neuen Datensätze noch, ob die Daten außerhalb der Evaluierung auf dem Leaderboard verfügbar sind – diese Fragen müssen vor der Planung eigener Tests geklärt werden.

BlockLock stabilisiert LLM-Inferenzergebnisse bei variabler Batch-Zusammensetzung

In einer am 6. November veröffentlichten Arbeit stellten die Autoren BlockLock vor, eine Methode, die trotz Änderungen anderer Anfragen im selben Batch bei einem bestimmten Bereitstellungskontrakt das identische Ergebnis einer geschützten Anfrage bewahren soll. BlockLock hält eine gemeinsame, batch-basierte Prefill-Phase aufrecht und legt die Berechnungsgeometrie fest, die von der geschützten Anfrage gesehen wird. Die Variante BlockLock-Rows verwendet Zeilen fester Breite und bewahrt das Batch-Dekodieren aller Anfragen. BlockLock-Pack packt Daten mit Ausrichtung auf das Ende, fügt ein isoliertes Ersatzsegment hinzu und extrahiert dann den KV-Zustand der geschützten Anfrage für das Dekodieren nur für diese. Die Autoren testeten beide Varianten an fünf dichten Modellen: Qwen3-8B, Qwen3-14B, Llama-3.1-8B-Instruct, Gemma-3-4B-IT und Gemma-3-12B-IT. Die Experimente umfassten einzelne NVIDIA A6000-, A100- und H100-Karten, tinyBenchmarks- und BFCL-Sets sowie erste Tensor-Parallelismus-Tests auf zwei A6000-Karten. In den beschriebenen Tests behielten beide Varianten die Ergebnissequenzen und Top20-Logit-Bits bei. Bei gleicher Anzahl ausgeführter Tasks verkürzte BlockLock-Rows die Latenz um 53,5–55,0% und steigerte den Durchsatz im Vergleich zu vLLM Batch-Invariant um 115,2–122,2%. Für KI-Entwickler: Ein Team, das einen Inferenzserver betreibt, kann beide Varianten mit eigenen Batches testen und den erforderlichen Bereitstellungskontrakt festlegen. Die Quelle nennt keine Code-Verfügbarkeit oder Lizenz und beschreibt keine Tests für polnische Aufgaben.

Häufig gestellte Fragen (FAQ)

Wie begrenzt AMD InferaSim die Anzahl der Tests von LLM-Serving-Konfigurationen?

AMD beschreibt InferaSim als ein Tool, das die Sets der verwendeten Kernel misst und anschließend Konfigurationen prognostiziert, die diese Sets nutzen. In einem Test beanspruchten 11 Anker 9,1 GPU-Stunden und deckten 226 Konfigurationen ab, anstatt 204 GPU-Stunden für deren separate Messung aufzuwenden.

Warum hat die Europäische Kommission den „Für dich“-Feed auf TikTok beanstandet?

Die Kommission weist darauf hin, dass Interaktionen mit einer bestimmten Art von Inhalten zu weiteren ähnlichen Empfehlungen führen können. Die wiederholte Exposition gegenüber Materialien über Traurigkeit, Isolation oder Körperbild kann der psychischen Gesundheit schaden, insbesondere bei Minderjährigen und anfälligen Personen.

Welche Ergebnisse hat BlockLock-Rows im Vergleich zu vLLM Batch-Invariant erzielt?

In den beschriebenen Tests behielten beide Varianten die Ergebnissequenzen und Top20-Logit-Bits bei. BlockLock-Rows verkürzte bei gleicher Anzahl ausgeführter Tasks wie vLLM Batch-Invariant die Latenz um 53,5–55,0% und steigerte den Durchsatz um 115,2–122,2%.

Quellen

Herkunftsmanifest dieses Beitrags (JSON) — aus welchen Signalen er entstand, welche Entscheidungen die Schleifen trafen und wann ein Mensch ihn freigab.

Verwandte Beiträge

/katEcosystem/temAgenten · LLM · Open Source/podMicrosoft · NVIDIA/typNachrichten

KI heute: Nemotron und PDD Kit

Erfahren Sie mehr über die offenen Nemotron-Modelle von NVIDIA und das PDD Kit von Microsoft Research zur formellen Code-Überprüfung.

/katTechnik/temAgenten · Automatisierung · Hardware/podBig Tech (sonstige) · NVIDIA/typNachrichten

KI heute: OpenAI, Microsoft und AMD Instinct

Aktuelle Entwicklungen zeigen Fortschritte bei KI-Robot.txt-Standards, Copilot-Tests mit synthetischen Daten und MONAI-Optimierungen für ROCm.

/katTechnik/temHardware · LLM · Multimodal/podBig Tech (sonstige) · Google/typNachrichten

KI heute: Google Genie 4 und Gemini 4 Argon

Der Artikel beleuchtet technologische Neuheiten wie Google Genie 4, Gemini 4 Argon, AMD ROCm 10.0.0, Liquid AI LFM3 und Anima.

/katEcosystem/temAutomatisierung · LLM · Open Source/podCommunity · NVIDIA/typNachrichten

KI heute: Kolibri und NVIDIA Kumo Relational

Der Artikel beleuchtet das Sprachmodell Kolibri für souveräne Domänen und NVIDIA Kumo Relational für relationale Datenbanken.