aipoc-lab

KI heute: EU-Gremium, Ai2 und TME-Modell

Urheberschaft und Freigabe

[KI-generierter Inhalt][Von einem Menschen freigegeben]

Veröffentlichung und Aktualisierung

Veröffentlicht: Aktualisiert:

Der Stand des Wissens zum 2026-10-11. Das Quellmaterial wurde am 2026-10-10 gesammelt.

Die heutige Übersicht umfasst wichtige Schritte hin zur Sicherheit von KI-Systemen, zur Optimierung der Recheninfrastruktur sowie zur Verbesserung von Berechnungen mit hoher Präzision. Die Europäische Kommission debattiert über risikoreiche Vorfälle, Forscher von Ai2 implementieren ein budgetbasiertes GPU-Zuteilungsmodell, und Spezialisten für die Optimierung von Rechenkernen erhalten eine neue Komponente im TME-Modell. Im Folgenden präsentieren wir detaillierte Analysen zu Aufsichtsmethodologien, Cluster-Effizienz und der Leistung der fp64-Emulation.

Das Wichtigste von heute (TL;DR)

  • KI-Sicherheit: Das wissenschaftliche Gremium der Europäischen Kommission arbeitet an Empfehlungen zur Sicherheit von Grenzmodellen nach der Analyse von Vorfällen mit Kontrollverlust.
  • Ai2: Das Institut hat ein hierarchisches Budgetmodell in GPU-Clustern eingeführt, um die ineffiziente Ressourcennutzung durch Forscher zu eliminieren.
  • TME: Die Autoren des TME-Modells haben eine Komponente für die Kosten der Daten-Dekonstruktion hinzugefügt, die reale Leistungsgrenzen der fp64-Emulation auf NVIDIA B300-Chips aufzeigt.

Sondersitzung des wissenschaftlichen Gremiums der Europäischen Kommission zur KI-Sicherheit

Die Europäische Kommission organisierte am 9. Oktober 2026 eine Sondersitzung des wissenschaftlichen Gremiums, die sich der Sicherheit und den Risiken im Zusammenhang mit fortgeschrittener künstlicher Intelligenz widmete. An dem Treffen nahm Henna Virkkunen teil, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokratie.

Das wissenschaftliche Gremium vereint 60 unabhängige Experten, deren Aufgabe es ist, das KI-Büro sowie nationale Behörden in den Bereichen systemische Risiken, Modellbewertungsmethodologien, Klassifizierung von KI-Systemen und grenzüberschreitende Marktüberwachung zu beraten. Während des Treffens analysierten Experten Vorfälle im Zusammenhang mit dem Verlust der Kontrolle über KI-Systeme. Im Rahmen von Folgemaßnahmen erarbeitete das Gremium zusammen mit dem KI-Büro einen Fragenkatalog, der an die Ersteller von Modellen gerichtet ist, die von diesen Ereignissen betroffen waren. Das Ergebnis der Arbeit des Gremiums sollen Empfehlungen für die Europäische Kommission zur Sicherheit von Grenzmodellen sein.

Für KI-Entwickler: Ingenieurteams, die sich mit dem Training oder der Implementierung von Grenzmodellen befassen, sollten zukünftige Richtlinien zur Methodologie der Risikobewertung überwachen, die sich aus der Arbeit des Gremiums ergeben werden. Die Quelle präzisiert nicht, welche Modelle genau von den Vorfällen des Kontrollverlusts betroffen waren und welche konkreten Fragen an die Technologie-Ersteller geschickt wurden – diese Informationen bleiben vertraulich.

Optimierung der Task-Planung in GPU-Clustern des Allen Institute for AI

Das KI-Infrastrukturteam von Ai2 beschrieb am 9. Oktober die Implementierung eines neuen Task-Planungssystems, das darauf abzielt, die Verwaltung von Rechenressourcen in GPU-Clustern zu verbessern. Das Institut verwaltet Tausende von NVIDIA H100-, B200- und B300-Einheiten, die in Cluster mit einer Größe von 88 bis 1024 GPUs zusammengefasst sind und etwa 150 interne Forscher unterstützen, die sich u. a. mit dem Training von LLMs und VLMs, Reinforcement Learning in der Robotik sowie agentenbasierten wissenschaftlichen Anwendungen befassen.

Das bisher verwendete, auf Prioritäten basierende System führte zu Phänomenen wie der „Besetzung“ von Ressourcen durch inaktive Prozesse oder der Prioritäteninflation, bei der alle Aufgaben als hochprioritär gekennzeichnet wurden. Angesichts einer Nachfrage, die das Angebot um das 2- bis 3-Fache übersteigt, ist das Institut zu einem Budgetmodell übergegangen. Anstatt konkrete GPUs zuzuweisen, erhalten Projektmanager ein Rechenzeitbudget, das sie gemäß ihrer Forschungsstrategie verteilen können.

Das neue System nutzt eine hierarchische faire Ressourcenaufteilung (hierarchical fair-share), die Projekten einen bestimmten Prozentsatz der Gesamtkapazität des Clusters garantiert. Jede Ressourcenanfrage erfordert eine Finanzierung aus dem zugewiesenen Budget, und Aufgaben ohne Budget unterliegen der Präemption. Dadurch ist der GPU-Zuteilungsprozess zu einem transparenten administrativen Mechanismus geworden und nicht zu einer operativen Aufgabe, die im Einzelfall entschieden wird. Dieser Ansatz soll die Benutzer zu einer effizienteren Nutzung der Ressourcen zwingen, da Umgehungsversuche des Systems ihr zugeteiltes Budget verbrauchen.

Für KI-Entwickler: Teams, die auf einer großen, gemeinsam genutzten Recheninfrastruktur operieren, können den Übergang von der Aufgabenpriorisierung zu einem auf hierarchischer Zeitaufteilung basierenden Budgetmodell analysieren. Der Artikel präzisiert nicht, welche konkreten Open-Source-Tools oder eigenen Softwarelösungen zur Erstellung der Budgetverwaltungsschicht verwendet wurden oder welche Kosten die Implementierung eines solchen Systems in kommerziellen Umgebungen verursacht. Es lohnt sich zu prüfen, ob bestehende Lösungen vom Typ SLURM über native Module verfügen, die eine solche Implementierung ohne den Bau eines eigenen Schedulers ermöglichen.

Ergänzung des Tensor-Memory-Equilibrium-Modells um die Dekonstruktionskosten

Laut einer Veröffentlichung vom 9. Oktober 2026 haben die Autoren eines wissenschaftlichen Artikels eine vierte Komponente in das TME-Modell (Tensor-Memory Equilibrium) eingeführt, das zur Emulation der fp64-Präzision mithilfe von NVIDIA-GPUs dient. Die neue Komponente berücksichtigt die Kosten der Daten-Dekonstruktion pro einzelnem Eingang.

Die Autoren weisen darauf hin, dass jedes übertragene fp64-Operand den Prozess der Skalierung, Rundung und Modulo-Reduktion für jeden der r Werte in den SIMT-Pipelines durchlaufen muss, bevor die Matrixmultiplikationsoperation ausgeführt werden kann. Es wurde eine geschlossene Formel für die Schwelle der operationellen Intensität (OI*) eingeführt, die für den NVIDIA B300-Chip bei etwa 0,56 FLOP/B liegt. Unterhalb dieses Wertes ist die Emulation nicht in der Lage, mit der Leistung nativer fp64-Berechnungen Schritt zu halten.

Als Ergebnis der Anwendung dieses Modells wurde gezeigt, dass GEMV-, SpMV- und low-batch GEMV-Kerne 0,3 bis 0,9 der nativen Leistung erreichen, und der 7-Punkt-Stencil erreicht 1,8x anstelle der zuvor geschätzten 3,1x. Das Modell zeigt gleichzeitig, dass dichte GEMM-Operationen von diesen Einschränkungen unberührt bleiben. Die Autoren schlagen vor, dass die Vorkompilierung und Speicherung von Resten die Operationskosten in Richtung der Speicherbandbreite verschiebt.

Für KI-Entwickler: Personen, die sich mit der Optimierung low-level Rechenkerne auf GPUs befassen, können prüfen, ob ihre Operationen die Schwelle von OI* = 0,56 FLOP/B überschreiten. Die Publikation präzisiert nicht, ob die angegebenen Leistungseinschränkungen auch in anderen GPU-Architekturen außer NVIDIA B300 auftreten, und geht nicht auf die Implementierungskosten der vorgeschlagenen Rest-Vorkompilierung ein.

Häufig gestellte Fragen (FAQ)

Warum hat Ai2 auf die Aufgabenpriorisierung in GPU-Clustern verzichtet?

Das bisherige System führte zur Besetzung von Ressourcen durch inaktive Prozesse sowie zur Prioritäteninflation, bei der alle Aufgaben als hochprioritär eingestuft wurden. Angesichts einer Nachfrage, die das Angebot übersteigt, ist das Institut zu einem Budgetmodell übergegangen, das durch eine hierarchische faire Aufteilung Projekten einen konkreten Leistungsprozentsatz garantiert und eine effizientere Nutzung der Infrastruktur erzwingt.

Was bedeutet die Einführung der Dekonstruktionskosten in das TME-Modell?

Das Hinzufügen dieser Komponente ermöglicht eine präzisere Emulation der fp64-Präzision auf NVIDIA-Prozessoren. Die Autoren haben die Schwelle der operationellen Intensität auf 0,56 FLOP/B festgelegt. Unterhalb dieses Wertes hält die Emulation hinsichtlich der Leistung nicht mit nativen Berechnungen Schritt, was sich auf die Ergebnisse auswirkt, die von konkreten Rechenkernen wie SpMV oder low-batch GEMV erzielt werden.

Quellen

--- Text vorbereitet automatisch durch das Labor aipoc-lab (AI) auf Basis öffentlich zugänglicher Quellen, die oben genannt wurden. Eigene Zusammenfassungen, keine Kopien. Version vor der menschlichen Redaktion.

Herkunftsmanifest dieses Beitrags (JSON) — aus welchen Signalen er entstand, welche Entscheidungen die Schleifen trafen und wann ein Mensch ihn freigab.

Verwandte Beiträge

[Technik][Agenten][LLM][Open Source]

KI heute: Mistral Timestral und Meta Muse Spark

Aktuelle technologische Neuigkeiten behandeln Modelle zur Zeitreihenvorhersage von Mistral, Nemotron-Agenten von NVIDIA und Muse Spark von Meta.

[Technik][Agenten][Hardware][LLM]

KI heute: Gemini 4 Argon und NVIDIA Inception

Aktuelle Updates zu Gemini 4 Argon, NVIDIA-Investitionen im britischen Ökosystem, KI-Agenten in Europa und Claude-Sicherheitsfunktionen für Wahlen.

[Technik][Agenten][Hardware][LLM]

KI heute: NVIDIA RTX Spark und Gemini 4 Argon

Der heutige Bericht behandelt NVIDIA RTX Spark, Gemini 4 Argon, Higgsfield-Video-Updates, Liquid AI LFM2.5-24B-A2B und neue NVIDIA-Investitionen.