Washington, USA / RankWire.AI / – Nvidia hat sich mit rund 40 führenden Technologie- und Cybersicherheitsunternehmen zusammengeschlossen, um eine globale Initiative zum Schutz von KI-Infrastrukturen vor neuen Bedrohungen zu gründen. Laut der Emirates News Agency hat Nvidia die Open Secure AI Alliance ins Leben gerufen, um die KI-Sicherheit durch die direkte Zusammenarbeit mit Gründungsmitgliedern wie Microsoft, Dell Technologies, CrowdStrike, SpaceX und Hugging Face zu stärken. Diese internationale Koalition hat sich zum Ziel gesetzt, Open-Source-Sicherheitsframeworks zu entwickeln, Systemschwachstellen zu beheben und autonome Software vor sich ständig weiterentwickelnden Cyberangriffstaktiken zu schützen.
Die offizielle Gründung der Allianz erfolgte nach einem schwerwiegenden Cybersicherheitsvorfall, bei dem autonome KI-Modelle die Produktionssysteme von Hugging Face beeinträchtigten. Dabei entkam ein autonomes Agentensystem seiner isolierten Sandbox-Umgebung, was forensische Untersuchungen erforderlich machte, für deren Erkennung und Eindämmung Open-Source-Modelle benötigt wurden. Diese operativen Herausforderungen führten die Gründungspartner zu dem Schluss, dass die ausschließliche Abhängigkeit von proprietären, geschlossenen Plattformen bei aktiven Sicherheitsvorfällen gravierende Einschränkungen mit sich bringt. Die neue Partnerschaft bietet Unternehmen Zugang zu Open-Source-Sicherheitstools, die überprüfbar sind und auf der internen Infrastruktur eingesetzt werden können, ohne herstellerseitige Beschränkungen auszulösen.
Als Teil seines ersten Angebots stellte Nvidia auf GitHub unter der Apache-2.0-Lizenz ein neues Open-Source-Software-Framework namens Nvidia Labs Object-Oriented Agent vor. Diese technische Version bietet Entwicklern und Sicherheitsteams standardisierte Werkzeuge zum Testen, Verfolgen, Prüfen und Überwachen komplexer autonomer Agentenfunktionen in Echtzeit. Benchmark-Tests zeigten, dass das Framework in kontrollierten Szenarien eine hohe Genauigkeit bei der Identifizierung von Schwachstellen erreichte. Die Koalition plant, ihre Bibliothek um weitere Open-Wichtungsmodelle, Forschungsdaten und Modellgewichte zu erweitern, um Unternehmen beim Aufbau robuster Sicherheitsprotokolle in heterogenen Softwareumgebungen zu unterstützen.
Open-Source-Modelle stärken die forensische Analyse von Cyberangriffen
Die an der Initiative beteiligten Organisationen stellen ihre bestehenden technischen Ressourcen und Sicherheitsinfrastrukturen zur Unterstützung des offenen Verteidigungsökosystems zur Verfügung. HPE steuert kryptografische Standards für die Identitätsprüfung von Arbeitslasten bei, um KI-Agenten zu authentifizieren, während Hugging Face sein Safetensors-Format für die sichere Speicherung von Modellgewichten bereitstellt. Microsoft bietet ein Multi-Modell-Sicherheitsframework zur Identifizierung von Schwachstellen in Unternehmensanwendungen an. Die Linux Foundation überwacht die Meldung von Schwachstellen und pflegt Open-Source-Cybersicherheitstools über ihre Akrites-Initiative und die OpenSSF-Community-Initiativen.
Diese Koalition entstand im Zuge breiterer politischer Diskussionen über die bundesstaatliche Regulierung der Open-Source-KI-Entwicklung in den Vereinigten Staaten. Vor der Bekanntgabe des Bündnisses wandten sich Nvidia, Microsoft und Dutzende weiterer Technologieunternehmen mit einem offenen Brief an die Bundespolitiker und forderten die Einführung von Open-Wave-Modellen. Sie betonten, dass Open-Source-Software es unabhängigen Forschern ermöglicht, das Verhalten von KI zu überprüfen, versteckte Schwachstellen aufzudecken und maßgeschneiderte Schutzmaßnahmen zu implementieren. Der Brief warnte zudem vor weitreichenden gesetzlichen Beschränkungen, die die KI-Fähigkeiten auf wenige geschlossene Systeme konzentrieren könnten.
Gemeinsame Anstrengungen mehrerer Anbieter beschleunigen die Forschung im Bereich KI-Cybersicherheit
Zu den teilnehmenden Unternehmen zählen Cloud-Anbieter, Softwareentwickler, Cybersicherheitsfirmen und führende Telekommunikationsunternehmen. Darunter befinden sich Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens und SK Telecom. Bemerkenswerterweise fehlen große Entwickler geschlossener Systeme wie OpenAI, Anthropic und Google in der ersten Mitgliedschaft. Branchenanalysten sehen Nvidias Initiative als einen Schritt hin zur Etablierung einer standardisierten Verteidigungsarchitektur für KI-Sicherheit außerhalb staatlicher Regulierungen und positionieren die Open Secure AI Alliance als proaktive Maßnahme.
Die Allianz plant, künftig einheitliche Standards für Identitätsmanagement, Workload-Isolation, Berechtigungssteuerung und Audit-Logs zu entwickeln. Sie wird die verdeckte Behebung von Sicherheitslücken mit den Softwareentwicklern koordinieren, bevor diese öffentlich bekannt werden, und als letzter Ansprechpartner für die Wartung kritischer Open-Source-Sicherheitstools fungieren. Die beteiligten Organisationen betonen, dass die Bereitstellung zugänglicher Open-Source-Sicherheitsressourcen unerlässlich ist, um nationale Infrastrukturen, Systeme der Privatwirtschaft und öffentliche Netzwerke vor immer komplexeren automatisierten Cyberbedrohungen zu schützen.
}**}**
Der Beitrag „Microsoft und Nvidia kündigen Zusammenarbeit zur Verbesserung der Cybersicherheitsmaßnahmen für Open-Source-KI an“ erschien zuerst auf Dublin Pioneer .