Über die Cyber Startup Challenge sucht Armasuisse jährlich Jungunternehmen und neue Technologien. Bei der diesjährigen Ausgabe hat das Startup Patronus AI mit seiner Plattform zur automatisierten Bewertung und Sicherung von Large Language Models (LLMs) überzeugt. Patronus hat sich im finalen Pitch gegen QuantPi und Dynamo AI durchgesetzt.
2025 werde das in den USA ansässige Jungunternehmen dem VBS seine Lösung in einer Machbarkeitsstudie in der Praxis demonstrieren, heisst es in einer Mitteilung.
Die Technologie von Patronus helfe einerseits bei der Entwicklung von KI-Anwendungen – vom Prototypen bis zur Produktion, so Armasuisse. Andererseits könnten Sprachmodelle damit getestet werden, um Risiken wie Halluzinationen und Prompt-Injektionen zu minimieren.
Zuverlässigkeit von LLMs
Die Plattform von Patronus nutzt den Unternehmensangaben zufolge KI, um automatisch Prompts generieren zu können. Diese sollen die Zuverlässigkeit von LLMs bewerten, indem sie versuchen, unbeabsichtigte Antworten hervorzurufen.
Patronus AI wurde 2023 von zwei ehemaligen Meta-Mitarbeitenden gegründet. Im Mai dieses Jahres gab das Unternehmen den Abschluss einer Finanzierungsrunde in der Höhe von 17 Millionen Dollar bekannt. Zu den Investoren gehören Notable Capital, Datadog, Lightspeed Venture Partners und weitere.
Zu den Kunden des Startups gehören unter anderem HP und Pearson, daneben vermeldet die Firma Partnerschaften mit Tech-Konzernen wie Nvidia und IBM.
