Die Open Secure AI Alliance vereint führende Unternehmen aus Cloud-Computing, Cybersicherheit und KI-Forschung zu einem mächtigen Bündnis. Das Ziel ist klar: offene Technologien, Modelle und Werkzeuge zu entwickeln, mit denen Verteidiger weltweit KI-basierte Bedrohungen besser analysieren und abwehren können. Aufbauend auf Initiativen der Linux Foundation setzt die Allianz auf Transparenz statt undurchsichtiger Monokulturen. Lesen Sie jetzt, welche konkreten Projekte bereits gestartet sind und wer die ersten Partner sind.

Warum offene Modelle die Cyber-Verteidigung stärken

Offene Software ist das Rückgrat der globalen Wirtschaft. Die Open Secure AI Alliance baut auf der Linux-Foundation-Initiative Akrites und der OpenSSF-Community auf, um Schwachstellen mithilfe offener Technologien zu beheben. Gerade in der Cybersecurity ermöglicht Open Source eine breite, dezentrale und selbstbestimmte Verteidigung ohne Single Point of Failure.

Ein praktisches Beispiel liefert der jüngste Sicherheitsvorfall bei Hugging Face. Als proprietäre KI-Tools zur forensischen Analyse blockierten, setzte das Unternehmen das offene Modell GLM 5.2 auf eigener Infrastruktur ein. Damit konnten über 17.000 Aktionen analysiert und der Angriff eingedämmt werden. Dies zeigt: Verteidiger müssen in kritischen Momenten in der Lage sein, fortschrittliche KI eigenständig zu prüfen und auszuführen.

Partner und Ziele der Open Secure AI Alliance

Zu den ersten Partnern zählen Branchenschwergewichte wie NVIDIA, Microsoft, IBM, Cisco, CrowdStrike, Palo Alto Networks, Salesforce und SAP. Auch Open-Source-Organisationen wie Hugging Face, Red Hat und LangChain sowie Forschungseinrichtungen wie Nous Research und Thinking Machines Lab sind von Beginn an dabei. Gemeinsam wollen sie eine offene Verteidigungsinfrastruktur etablieren, die sich nicht auf wenige geschlossene Anbieter verlässt.

Kritiker warnen, offene Modelle könnten für Angriffe missbraucht werden. Die Allianz kontert jedoch, dass solche Risiken in proprietären Systemen nicht verschwinden. Die Lösung liegt in der Kombination aus Offenheit, strengen Sicherheitsvorkehrungen, klaren Regeln gegen Missbrauch und rasanter Fehlerbehebung. Für Cyber-Experten ist der sicherste Weg jener, der möglichst vielen Verteidigern erlaubt, Systeme zu testen und zu stärken.

Offene Forschung für den Agenten-Stack

Echte KI-Sicherheit hängt vom gesamten Agenten-Stack ab – von Identität und Berechtigungen über Harnesses und Guardrails bis hin zu Logs und Evaluierung. Die Open Secure AI Alliance treibt deshalb gezielt die Entwicklung offener Werkzeuge für diese Kontrollschichten voran.

NVIDIAs NOOA-Framework

NVIDIA liefert offene Modelle, Gewichte und Daten. Das NVIDIA Labs Object-Oriented Agent (NOOA) steht jetzt als Open-Source-Projekt auf GitHub bereit. Das Framework erleichtert es Entwicklern, Agenten-Verhalten besser zu testen, nachzuvollziehen, zu prüfen und zu regulieren.

Beiträge weiterer Mitglieder

HPE arbeitet an SPIFFE/SPIRE-Standards für Zero-Trust-Identitäten, um KI-Agenten kryptografisch zu verifizieren. Hugging Face hat das Format Safetensors – das sichere Speichern von Modellgewichten ohne Remote-Code-Ausführung – der PyTorch Foundation angeboten. IBM und Red Hat erweitern mit Lightwell die Supply-Chain-Sicherheit durch digital signierte Patches.

Microsofts MDASH orchestriert spezialisierte Agenten, um Schwachstellen aufzuspüren und zu beweisen. SpaceXAI hat den Coding-Agenten Grok Build unter einer Open-Source-Lizenz veröffentlicht und plant zudem, die Gewichte der Grok-Modelle frei zugänglich zu machen.

Appell an Regulierer und Entscheidungsträger

Die Allianz appelliert an Politik und Regulierer, offene Modelle und Sicherheitstools als Verteidigungsassets zu werten. Pauschale Beschränkungen für offene KI-Systeme würden die defensive Handlungsfähigkeit schwächen und Macht auf wenige proprietäre Anbieter konzentrieren. Stattdessen sollten Staaten und Unternehmen in gemeinsame offene Infrastrukturen investieren.

Fazit: Sicherheit durch Offenheit statt Geheimhaltung

Die Zukunft der KI-Sicherheit wird nicht durch Geheimhaltung gewährleistet, sondern durch Systeme, die Prüfung standhalten und flexibel verbesserbar sind. Die Open Secure AI Alliance lädt Regierungen, Industrie und Forschung ein, gemeinsam die nötigen Werkzeuge für eine resiliente KI-Ära zu entwickeln. Wer mit offenen Technologien verteidigt, schützt die digitale Gesellschaft als Ganzes.

Quelle: https://blogs.nvidia.com/blog/open-secure-ai-alliance/