Die Fachhochschule Nordwestschweiz (FHNW) und die Lausanner KI-Firma Giotto.ai haben eine Zusammenarbeit im Bereich der Künstlichen Intelligenz angekündigt. Gemeinsam wollen sie untersuchen, wie sich der Rechenaufwand von KI-Modellen und deren Inferenz reduzieren lässt, ohne die Leistungsfähigkeit der Modelle zu beeinträchtigen.
Beteiligt sind das High-Performance-Computing-Labor der FHNW unter der Leitung von Tomasz Kacprzak sowie die KI-Spezialisten von Giotto.ai. Untersucht werden unter anderem die Optimierung von Serving Engines, unterschiedliche Einsatzprofile sowie Konfigurationen von Hardware-Beschleunigern.
Ressourceneffizienz statt immer grösserer Modelle
Nach Angaben der Projektpartner gewinnt die Effizienz beim Betrieb von KI-Modellen zunehmend an Bedeutung. Während in den vergangenen Jahren vor allem leistungsfähigere Modelle entwickelt wurden, rücken nun die benötigten Rechenressourcen für deren Ausführung stärker in den Fokus, heisst es im gemeinsamen Communiqué. "Fortschrittliche KI sollte portabel und vorhersehbar sein und auf einer Infrastruktur laufen können, die von den Nutzenden selbst ausgewählt und kontrolliert wird", lässt sich Wallyson Lemes, Chief AI von Giotto.ai, zitieren.
Insbesondere Modelle mit erweiterten Schlussfolgerungsfähigkeiten würden hohe Anforderungen an Rechenleistung und Infrastruktur stellen. Mit dem Forschungsprogramm wollen die Partner eigenen Angaben nach auch die Annahme hinterfragen, dass leistungsfähigere KI zwangsläufig immer grössere Modelle und mehr Rechenleistung erfordert. Stattdessen sollen Ansätze untersucht werden, die den Einsatz fortschrittlicher KI-Modelle effizienter und flexibler machen.