Meta veröffentlicht KI-Modell Llama 3

19. April 2024 um 12:38
image
Mark Zuckerberg kündigte an der Connect 2023 den KI-Assistenten von Meta an. Foto: Meta

Meta stellt sein neues Large Language Model vor und macht seinen KI-Assistenten in weiteren Ländern verfügbar. In Europa muss man sich aber noch gedulden.

Der US-Konzern Meta hat sein neuestes Sprachmodell Llama 3 vorgestellt und als Open Source für die Entwickler-Community freigegeben. Der Textgenerator wurde zudem in den virtuellen Assistenten Meta AI integriert, der wiederum Teil von Instagram, Facebook und den weiteren Plattformen des Konzerns ist.
Meta AI wurde vergangenen Herbst vorgestellt. Der Konzern bezeichnet den KI-Assistenten bei der Ankündigung von Llama 3 als "den fortschrittlichsten der kostenlos Nutzbaren". Gleichzeitig erhält Meta AI die eigenständige Website "meta.ai", wie man es beispielsweise auch von ChatGPT kennt.
Der KI-Assistent sowie die Website sind zwar in mehreren Märkten ausserhalb der USA verfügbar, aber noch nicht in Europa. Man arbeite daran, "es in Europa richtig zu machen", erklärte das Unternehmen – wohl mit Blick auf die strengen Datenschutzrichtlinien in der EU.

Meta betont Qualität der Trainingsdaten

Der Trainingsdatensatz von Llama 3 sei siebenmal grösser als der des Vorgängermodells, so das Unternehmen. Man habe eine Reihe von Datenfiltern entwickelt, um sicherzustellen, dass das neue Modell mit so wenig schlechten Informationen wie möglich trainiert wurde. Um die Qualität von Trainingsdaten zu bewerten, setzt Meta auch auf Llama 2. Das Modell war "überraschend gut darin, qualitativ hochwertige Daten zu identifizieren", so das Unternehmen.
Llama 3 sei in Versionen mit Parametern von acht Milliarden oder 70 Milliarden Parametern verfügbar, so Meta. Man trainiere zudem gegenwärtig auch ein 400-Milliarden-Parameter-Modell. Zum Vergleich: die grössten Modelle von OpenAI und Google nähern sich der Grenze von zwei Billionen Parametern. Trotzdem soll Llama 3 mit diesen grösseren Modellen mithalten können und Konkurrenzmodelle seiner Klasse bei wichtigen Benchmarks übertreffen. Meta führt dies unter anderem auf die hochwertigen Trainingsdaten und zusätzliche Feinabstimmungen zurück.
Meta hat zunächst zwei kleinere Llama-3-Modelle veröffentlicht. Diese können derzeit nur Text ausgeben. In den kommenden Monaten soll eine viel grössere, multimodale Version erscheinen.

Loading

Mehr erfahren

Mehr zum Thema

image

Google: KI-Suche und eine Antwort auf ChatGPT-4o

Die mit KI angereicherte Suche wirft ernste Fragen für Site-Betreiber auf. Google kündigte auch viele weitere KI-Neuerungen an.

publiziert am 15.5.2024
image

Machen xAI und Oracle bei KI gemeinsame Sache?

Gerüchten zufolge will das KI-Startup von Elon Musk GPU-Server bei Oracle mieten. Dafür sollen 10 Milliarden Dollar fliessen.

publiziert am 15.5.2024
image

Swiss Digital Initiative trimmt Label auf KI

Mit einem aktualisierten Kriterienkatalog soll der vertrauenswürdige und verantwortungsvolle Einsatz von KI vorangetrieben werden.

publiziert am 14.5.2024
image

Anthropic bringt Claude in die Schweiz

Das KI-Startup macht seinen Chatbot in weiten Teilen Europas verfügbar. Er ist ab sofort nutzbar. Für die Pro-Version fallen allerdings Gebühren an.

publiziert am 14.5.2024