OpenAI-Mitgründer geht neues KI-Vorhaben an

20. Juni 2024 um 07:59
image
Foto: Bret Kavanaugh / Unsplash

Einer der OpenAI-Mitgründer macht sich mit einem neuen KI-Startup selbstständig: Safe Superintelligence hat sich der Entwicklung eines sicheren und leistungsstarken KI-Systems verschrieben.

Ilya Sutskever, Mitbegründer und ehemaliger Chefwissenschaftler von OpenAI, gründet ein neues KI-Unternehmen. Safe Superintelligence (SSI) sei ein Startup mit "einem Ziel und einem Produkt": die Entwicklung eines sicheren und leistungsstarken KI-Systems, so Sutskever auf X.
Sutskever war Forschungschef bei OpenAI. Im vergangenen Jahr war er an dem überraschenden Rauswurf des OpenAI-Chefs Sam Altman beteiligt, der nur wenige Tage später nach Druck von Mitarbeitenden und des Grossinvestors Microsoft wieder rückgängig gemacht wurde. Sutskever blieb danach im Hintergrund und verliess den ChatGPT-Entwickler im Mai. Zu den weiteren SSI-Mitgründern gehören Daniel Gross, der zuvor bei Apple an KI arbeitete, sowie Daniel Levy, der einst mit Sutskever bei OpenAI tätig war.
Die Frage, ob KI-Systeme gefährlich für die Menschheit werden könnten, wenn sie erst einmal leistungsstärker und eigenständiger sind, beschäftigt die Branche schon seit Jahren. Es gibt immer wieder Warnungen von Experten sowie Versuche von Regierungen, Risiken durch strikte Vorgaben und Meldungspflichten zu minimieren.

Finanzierung ist unklar

OpenAI kam einige Jahre nach der Gründung zum Schluss, dass man sich ohne ein kommerzielles Produkt nicht über Wasser halten können werde. So kamen ein milliardenschwerer Pakt mit dem Software-Riesen Microsoft und die Veröffentlichung von ChatGPT zustande. Wie sich Sutskevers neues KI-Vorhaben finanzieren wird, blieb bisher unklar.
Während OpenAI Partnerschaften mit Apple und Microsoft vorantreibt, werde man SSI wahrscheinlich nicht so schnell wiedersehen, glaubt 'The Verge'. Denn Sutskever erklärt, dass das erste Produkt von SSI eine sichere Superintelligenz sein soll. Das Unternehmen werde bis dahin "nichts anderes machen", so der Gründer zu 'Bloomberg'.
(Mit Material von Keystone-sda)

Loading

Mehr erfahren

Mehr zum Thema

image

Blick in die Zukunft: KI, Quantum & das Metaverse

Die IT-Welt entwickelt sich aktuell so rasant wie kaum ein anderer Bereich. Künstliche Intelligenz bietet nahezu unbegrenzte Möglichkeiten, um Prozesse zu beschleunigen und Anwendungen zu automatisieren. Aber auch andere Technologien erhalten immer mehr Beachtung und versprechen Potenziale.

image

ETH-Forschende entwickeln (fast) perfekten Fluss-Algorithmus

Ein Team der ETH hat einen Algorithmus geschrieben, der für Netz­werke jeglicher Art den maximalen Transportfluss mit minimalen Kosten berechnen kann – sei es für Schiene, Strasse oder Strom.

publiziert am 1.7.2024
image

Parlament will Simultanübersetzung mit Künstlicher Intelligenz

Die Staatspolitische Kommission des Nationalrats will prüfen lassen, ob eine Simultanübersetzung von Sitzungen mithilfe von KI-unterstützter Software möglich ist.

publiziert am 1.7.2024 2
image

Stellenabbau bei Cargo Sous Terrain, Zukunft ungewiss

Beim Logistikprojekt kommt es zu Verzögerungen und einem Personalabbau. An Cargo Sous Terrain beteiligt sind auch Swisscom und SAP.

publiziert am 28.6.2024