Bund sucht Leitung E-ID
Der bisherige Chef E-ID geht in Pension. Das Bundesamt für Justiz äussert sich zur Nachfolge und dem Stand der E-ID.
VBS will Sicherheit von KI prüfen können
1. November 2024 um 10:59
In der Startup-Challenge von Armasuisse hat sich Patronus AI durchgesetzt. Das amerikanische Unternehmen soll nächstes Jahr zeigen, wie sich seine Lösung für sichere LLMs bewährt.
Über die Cyber Startup Challenge sucht Armasuisse jährlich Jungunternehmen und neue Technologien. Bei der diesjährigen Ausgabe hat das Startup Patronus AI mit seiner Plattform zur automatisierten Bewertung und Sicherung von Large Language Models (LLMs) überzeugt. Patronus hat sich im finalen Pitch gegen QuantPi und Dynamo AI durchgesetzt.
2025 werde das in den USA ansässige Jungunternehmen dem VBS seine Lösung in einer Machbarkeitsstudie in der Praxis demonstrieren, heisst es in einer Mitteilung.
Die Technologie von Patronus helfe einerseits bei der Entwicklung von KI-Anwendungen – vom Prototypen bis zur Produktion, so Armasuisse. Andererseits könnten Sprachmodelle damit getestet werden, um Risiken wie Halluzinationen und Prompt-Injektionen zu minimieren.
Zuverlässigkeit von LLMs
Die Plattform von Patronus nutzt den Unternehmensangaben zufolge KI, um automatisch Prompts generieren zu können. Diese sollen die Zuverlässigkeit von LLMs bewerten, indem sie versuchen, unbeabsichtigte Antworten hervorzurufen.
Patronus AI wurde 2023 von zwei ehemaligen Meta-Mitarbeitenden gegründet. Im Mai dieses Jahres gab das Unternehmen den Abschluss einer Finanzierungsrunde in der Höhe von 17 Millionen Dollar bekannt. Zu den Investoren gehören Notable Capital, Datadog, Lightspeed Venture Partners und weitere.
Zu den Kunden des Startups gehören unter anderem HP und Pearson, daneben vermeldet die Firma Partnerschaften mit Tech-Konzernen wie Nvidia und IBM.
Loading
Basel-Stadt will KI nicht besteuern
Ein Vorstoss verlangte die Prüfung einer Abgabe auf durch KI und Robotik erzielte Wertschöpfung. Der Grosse Rat ist dagegen.
EFK sieht Verbesserungsbedarf bei M365 beim Bund
Bei der Sicherheitsüberwachung und dem Backup von Microsoft 365 in der Bundesverwaltung sieht die EFK Handlungsbedarf.
Milliardenstrafe für Meta wegen Cambridge Analytica
Der Skandal um Cambridge Analytica erschütterte einst das Vertrauen in Facebook. Jahre später bekommt Meta im US-Bundesstaat New Mexico nun die Quittung.