Unter anderem Microsoft, Nvidia und Red Hat haben ein Open-Source-Projekt angestossen, das es für Unternehmen und Behörden einfacher machen soll, KI-Systeme dahingehend zu überprüfen, ob sie ihren Compliance- und Security-Richtlinien entsprechen. Aufwendige manuelle Review- und Freigabeprozesse sollen so vermieden werden können.

Im Projekt Asago (AI Safety And Governance Orchestration) soll eine Open-Source-Plattform entstehen, welche Review und Audit-Funktionen automatisieren kann. Das Projekt befindet sich allerdings erst in der Gründungsphase, noch ist diese Plattform Zukunftsmusik. Neben Microsoft, Nvidia und Red Hat gehören auch Alquimia AI, Brave Software, die Evaleval Coalition, IBM Research, die Interdisciplinary Transformation University Austria, das MIT Lincoln Laboratory, die North Carolina State University, und das Alan Turing Institute zu den Gründungsmitgliedern der Projekt-Community.

Wenn die Entwicklung gelingt, soll die Plattform laut Red Hat einen belastbaren Audit-Trail für alle Massnahmen und Änderungen liefern. Asago soll demnach das Risk Mapping übernehmen, also die Zuordnung unternehmensspezifischer Governance-Richtlinien zu etablierten Standards und Frameworks für KI-Risiken. Des Weiteren soll sie auf den Anwendungsfall und die identifizierten Risiken zugeschnittene Sicherheitstests durchführen, um belastbare Risikobewertungen zu erstellen. Anschliessend soll sie Massnahmen zur Risikominimierung empfehlen und die empfohlenen Kontrollen auch automatisiert in sofort einsatzbereite Konfigurationen für verschiedene Umgebungen umwandeln. Diese Konfigurationen sollen sowohl in Hybrid Clouds als auch in Kubernetes funktionieren, so dass Unternehmen die Kontrollen nicht selbst entwickeln und orchestrieren müssen.

Die Asago-Community plant, die Plattform letztlich unter der Apache-Lizenz 2.0 zu veröffentlichen.