Weder die Tech-Konzerne noch prominente KI-Unternehmen wie OpenAI geben ihre genauen Forschungs- und Entwicklungskosten bekannt. Doch grosse KI-Modelle gehen ins Geld, wie der "AI Index 2024" der Stanford University berechnet hat. Als Grundlage dienten die Trainingsdauer der Modelle sowie die Art, Menge und Auslastung der Trainingshardware.

Blickt man zurück, waren die anfänglichen Kosten bescheiden. So kam die 2017 von Google vorgestellte Deep Learning Architektur "Transformer" laut Index auf bloss 900 Dollar für die Schulung. Das Modell "Roberta Large" von Meta aus dem Jahr 2019 kostete 160'000 Dollar – trainiert wurde es mit 160 Gigabyte an Textmaterial aus verschiedenen Quellen.

Seither ist das Training von grossen KI-Modellen eine immer teurere Angelegenheit geworden. Metas Llama 2 brachte es auf 3,9 Millionen Dollar. GPT-3 von OpenAI kostete 4,3 Millionen Dollar, der Nachfolger GPT-4 dann schon 78,3 Millionen. Den Spitzenwert erreichte im Jahr 2023 gemäss Index Googles Gemini Ultra mit rund 191 Millionen Dollar.

Dieser Anstieg der Trainingskosten habe "Universitäten, traditionell Zentren der KI-Forschung, praktisch davon ausgeschlossen, ihre eigenen hochmodernen Grundlagenmodelle zu entwickeln", konstatiert der Report. So führen auch Unternehmen die Rangliste nach Anzahl der 2023 veröffentlichten Basismodelle (Foundation Models) an. Google liegt mit 18 Modellen an der Spitze, gefolgt von Meta (11), Microsoft (9) und OpenAI (8). Die akademische Einrichtung, die im Jahr 2023 die meisten Foundation-Modelle herausbrachte, war die UC Berkeley mit 3.