Google, Microsoft, OpenAI und Anthropic haben das "Frontier Model Forum" gegründet. Beim Branchenverband gehe es um die "sichere und verantwortungsvolle Entwicklung" von KI-Pioniermodellen, heisst es in einer Mitteilung.

"Unternehmen, die KI-Technologie entwickeln, haben die Verantwortung sicherzustellen, dass diese sicher ist und unter menschlicher Kontrolle bleibt", sagte Brad Smith, der Präsident von Microsoft. Die Initiative sei ein wichtiger Schritt, um den Technologiesektor zusammenzubringen und KI verantwortungsvoll voranzutreiben.

Ziel des Gremiums sei es, die Forschung im Bereich der KI-Sicherheit zu fördern – etwa bei der Regulierung oder Entwicklung von Standards. Aber auch die Zusammenarbeit mit politischen Entscheidungsträgern, Wissenschaftlerinnen, der Bevölkerung und mit Unternehmen sei wichtig, um Wissen über Sicherheitsrisiken auszutauschen. Die Unterstützung bei der Entwicklung von KI-Modellen zur Bewältigung der grössten gesellschaftlichen Herausforderungen ist ebenfalls eines der Hauptziele. Dazu zählt das Gremium etwa die Einschränkung des Klimawandels oder die Abwehr von Cyberangriffen.

Demnächst will der Verband noch einen Beirat gründen, der die weitere Strategie vorgibt. Ausserdem wollen Microsoft und Co. mit einer Arbeitsgruppe und einem Komitee eine Führungsstruktur und die Finanzierung des Vorhabens festlegen.

Vergangene Woche einigten sich die Gründungsmitglieder des Frontier Model Forums und andere Tech-Firmen nach einem Treffen im Weissen Haus auf weitere KI-Schutzmassnahmen. Dazu gehörten zum Beispiel Wasserzeichen für KI-Inhalte, um Deepfakes leichter erkennen zu können.