Patch the Planet: KI-gestützte Initiative sichert weltweit genutzte Open-Source-Software

Patch the Planet ist eine neue Initiative von OpenAIs Daybreak-Programm, die zusammen mit dem Sicherheitsunternehmen Trail of Bits entwickelt wurde. Sie kombiniert KI-gestützte Sicherheitsforschung mit menschlicher Expertise, um Open-Source-Maintainern bei der Schliessung kritischer Sicherheitslücken zu helfen. Das Ziel ist nicht nur die Entdeckung von Schwachstellen, sondern deren aktive Behebung durch gemeinsame Patch-Entwicklung.

So funktioniert Patch the Planet in der Praxis

Jedes Engagement beginnt mit einer Beratung der jeweiligen Maintainer. Sicherheitsingenieure arbeiten mit den Projekten zusammen, um deren Bedürfnisse, Präferenzen und Prioritäten zu verstehen. Dabei stehen verschiedene Schwerpunkte zur Auswahl: die Validierung von Sicherheitslücken, die Entwicklung von Patches, die Verbesserung von CI/CD-Prozessen oder langfristige Sicherheitsarchitektur.

Nach der Abstimmung untersuchen die Forscher potenzielle Schwachstellen, validieren relevante Probleme und entwickeln oder verfeinern Patches. Die Tests werden unterstützt und die Koordination der Offenlegung läuft über die etablierten Kanäle der Projekte. Beteiligte Projekte erhalten Zugang zu ChatGPT Pro, bedingten Zugang zu Codex Security sowie API-Guthaben für die zentrale Open-Source-Entwicklung.

Erste Teilnehmer und technische Partnerschaften

Zu den ersten beteiligten Projekten gehören cURL, NATS Server, pyca/cryptography, Sigstore, aiohttp, das Go-Projekt, freenginx, Python und python.org. Diese Projekte unterstützen weitverbreitete Netzwerk-, Kryptografie-, Software-Supply-Chain- und Sprachinfrastrukturen, bei denen bessere Sicherheit zahlreiche nachgelagerte Dienste profitieren lässt.

Neben Trail of Bits wirken auch HackerOne und Calif mit. Sie unterstützen bei der Triage von Schwachstellen, der koordinierten Offenlegung und zusätzlichen gezielten Sicherheitsanalysen.

Erste Feldberichte und Ergebnisse

Trail of Bits hat Sicherheitsingenieure Vollzeit mit Codex und GPT-5.5-Cyber über 19 Open-Source-Projekte hinweg arbeiten lassen. Dabei wurden bereits hunderte Sicherheitsprobleme identifiziert und Dutzende Patches gemerged, während viele weitere Funde noch einer koordinierten Offenlegung unterliegen.

Der erste Sprint lieferte auch wiederverwendbare Sicherheitsinfrastruktur. Dazu gehören Fuzzing-Harnesses, Analyse-Pipelines für historische CVEs, Differenzial-Testing-Systeme, Bedrohungsmodelle, erweiterte Test-Suites sowie Workflows für Deduplizierung, Filterung von Fehlalarmen und Patch-Generierung.

Fuzzing-Labor in unter einem Tag

Trail-of-Bits-Ingenieure nutzten wiederholte Codex-Läufe mit GPT-5.5-Cyber, um ein komplettes Fuzzing-Labor aufzubauen. Das Labor deckt Dutzende Einstiegspunkte, verschiedene Builds, Plattformen und neue Test-Seeds ab. Die Ingenieure definierten die Ziele und verfeinerten die Prompts. Das System nutzte anschließend Coverage-Feedback, um kontinuierlich neue Oberflächen zu erschliessen und schwache Kandidaten herauszufiltern.

Das gesamte Setup wurde in weniger als einem Tag fertiggestellt. Trail of Bits schätzt, dass der manuelle Aufbau eines vergleichbaren Labors normalerweise mehrere Wochen beanspruchen würde.

Pipeline zur Variantenanalyse bekannter Schwachstellen

Das Team entwickelte ein End-to-End-System, das historische CVEs einliest, relevante Schwachstellenmuster extrahiert und die Ziel-Codebases nach ähnlichen Fehlern durchsucht. Kandidaten werden über spezialisierte Prüf-Agenten geleitet, dedupliziert und gefiltert, bevor die stärksten Funde menschliche Experten zur Bestätigung erreichen.

Dieser Ansatz wandelt Jahre öffentlicher Sicherheitsgeschichte in eine wiederholbare Suchstrategie um. Trail of Bits fand die Modelle besonders bei dieser Art der Variantenanalyse effektiv, die zusätzliche Probleme in den überprüften Codebases aufdeckte.

Differenzielles Testing in Tagen statt Wochen

Verschiedene Implementierungen desselben Protokolls sollten sich bei identischen Eingaben identisch verhalten. Wenn sie abweichen, liegt möglicherweise ein Bug vor. Normalerweise ist dieser Ansatz schwierig umzusetzen, da Ingenieure für jede Implementierung spezifischen Shim- und Glue-Code schreiben müssen.

Codex generierte und iterierte diesen Code, sodass mehrere Implementierungen gegeneinander gefuzzt und ihre Verhaltensunterschiede untersucht werden konnten. Der Workflow filterte viele schwache Ergebnisse heraus und lieferte ein vergleichsweise hochwertiges Kandidaten-Set für die Expertenprüfung. Das Team erreichte diese Resultate innerhalb weniger Tage, anstatt der üblichen Wochen oder Monate.

Prüfung gegen Spezifikationen und Bedrohungsmodelle

Die Teams nutzten Codex, um Bedrohungsmodelle, Angriffstaxonomien, Invarianten-Tests und Property-Based-Tests auf Basis von Projektspezifikationen und RFCs zu entwickeln. Diese Methoden deckten signifikante Unterschiede zwischen beabsichtigtem und tatsächlichem Verhalten auf und hinterliessen den Projekten eine breitere Testabdeckung, bessere Dokumentation sowie Verbesserungen in CI/CD und Software-Supply-Chain-Tooling.

Menschliche Überprüfung vor jedem Report

Trail-of-Bits-Ingenieure prüften jeden Sicherheitsfund manuell, bevor er an die Maintainer übermittelt wurde. KI-Modelle finden zwar effizient Schwachstellen und erstellen Patches, produzieren aber auch eine grosse Menge an Fehlalarmen. Patch the Planet begegnet diesem Problem durch dedizierte Forscher, die die Beweise reproduzieren, Funde an projektspezifischer Dokumentation messen, Duplikate entfernen, die Schwere neu bewerten und bestätigte Lücken für die Behebung priorisieren. Maintainer behalten die volle Kontrolle über eingespielte Patches und die Art der Offenlegung.

Bekannte Funde auf allen Ebenen des Software-Stacks

Die Ergebnisse erstrecken sich über jede Schicht des Software-Stacks, wobei viele weitere Funde noch im Offenlegungsprozess sind.

Betriebssysteme

Linux Kernel: GPT-5.5-Cyber identifizierte sicherheitsrelevante Komponenten über mehr als 30 Millionen Codezeilen hinweg und validierte potenzielle Probleme dynamisch. Es wurden acht Proof-of-Concepts für Kernel-Pointer-Information-Leaks und 24 lokale Privilege-Escalation-Exploits generiert.

OpenBSD: Die Modelle fanden einen 23 Jahre alten Use-after-Free-Bug in der Kernel-Implementierung der System-V-Semaphoren. OpenAI-Forscher reproduzierten das Problem und bestätigten, dass ein unprivilegierter lokaler Benutzer Rechte bis root erlangen könnte.

FreeBSD: Sicherheitsforscher von Calif nutzten Codex, um mehrere LPEs in FreeBSD zu finden und mit Proof-of-Concepts zu validieren. In einer breiteren Kampagne bestätigten OpenAI-Forscher 34 Schwachstellen und erstellten sieben lokale Privilege-Escalation-PoCs.

Netzwerk und Infrastruktur

dnsmasq: Codex Security identifizierte eigenständig verwundbare Muster, die vier der sechs später in Version 2.92rel2 behobenen dnsmasq-CVEs entsprachen: CVE-2026-4890, CVE-2026-4891, CVE-2026-4892 und CVE-2026-5172.

HTTP/2 Bomb: Calif nutzte Codex, um die Denial-of-Service-Technik HTTP/2 Bomb zu identifizieren, die grosse HTTP/2-Implementierungen wie NGINX, Apache, IIS und Pingora betraf. Die Analyse ergab, dass mehr als 880.000 Internet-Server betroffene Software mit aktiviertem HTTP/2 betrieben.

Browser

Chrome: OpenAI-Forscher fanden und meldeten fünf exploitable Schwachstellen in Chromes V8-JavaScript-Engine, darunter drei, die nur Tage nach ihrer Einführung identifiziert und behoben wurden.

Safari: In etwa einer Woche fokussierter WebKit-Arbeit wurden über zehn exploitable Safari-Schwachstellen gefunden und gemeldet.

Firefox: OpenAI Preparedness identifizierte eine WebAssembly-Schwachstelle (CVE-2026-8390) mit GPT-5.5 während Sicherheitsbewertungen. Mozilla patchte sie zwei Tage vor Pwn2Own Berlin, woraufhin fünf von sechs angemeldeten Firefox-Einträgen zurückgezogen wurden. Kein Firefox-Exploit wurde auf dem Wettbewerb erfolgreich demonstriert.

Gemeinsame Infrastruktur braucht gemeinsame Verteidigung

Open-Source-Software ist geteilte Infrastruktur. Ihre Absicherung sollte gemeinsame Arbeit sein. KI beschleunigt die Entdeckung von Schwachstellen, und die zentrale Aufgabe ist nun, die Vorteile den Maintainern und Nutzern zukommen zu lassen, die sie am dringendsten benötigen.

Patch the Planet setzt den gesamten defensiven Kreislauf in den Dienst der Maintainer: Entdeckung, Validierung, Bewertung der Schwere, Offenlegung, Patch-Entwicklung, Testing und Deployment. Frontier-Modelle können Teile dieses Kreislaufs beschleunigen, aber das Ziel ist, den Verantwortlichen für geteilte Infrastruktur bessere Werkzeuge und mehr Kapazität zu geben, während deren Entscheidungsgewalt über Änderungen erhalten bleibt.

Dieser erste Sprint zeigt, was nachhaltige Zusammenarbeit zwischen Maintainern, Sicherheitsingenieuren und KI-gestützten Workflows leisten kann: sofortige Fixes, stärkere Projektinfrastruktur und wiederverwendbare Sicherheitsarbeit, die die Open-Source-Software über die ersten Korrekturen hinaus kontinuierlich verbessert.

Quelle: https://openai.com/index/patch-the-planet

Becker Julian