Die Ombudsstelle Krankenversicherung sieht sich vermehrt mit KI-generierten Anfragen und Eingaben konfrontiert. Dabei stösst sie häufig auf rechtlich unzutreffende Verweise, wie sie in ihrem Jahresbericht schreibt. Mit diesem Problem steht sie nicht alleine da.

Im vergangenen Jahr gingen bei der Ombudsstelle Krankenversicherung 4906 Fallanfragen ein, 72 mehr als noch im Jahr zuvor. Damit sei der anhaltende Aufwärtstrend der Anfragen bestätigt worden, heisst es im Bericht.

Zum Mehraufwand beigetragen habe der Trend, dass Versicherte bei der Formulierung ihrer Anfragen vermehrt auf KI zurückgreifen. Ersichtlich werde dies am Umfang der Eingaben, die statt knappe Sachverhaltsschilderungen mit konkreten Fragen dicht geschriebene, mehrseitige rechtliche Würdigungen enthalten.

Dabei zeigt sich gemäss Jahresbericht, dass viele von der KI zitierten Gesetzesartikel nicht einschlägig oder zum Teil gar nicht mehr in Kraft sind. Auch würden sich Verweise auf die Rechtsprechung häufig als unzutreffend erweisen.

Die Ombudsstelle Krankenversicherung steht mit diesem Problem nicht alleine da. "KI-generierte Antworten sind einerseits häufig fehlerhaft und führen nicht selten zu unzutreffenden rechtlichen Schlussfolgerungen, was die Nutzerinnen und Nutzer in ihrer Auffassung bestärkt, der Versicherer habe Fehler begangen", schreibt die Ombudsstelle Privatversicherung und Suva in ihrem Jahresbericht.

Auch der Bankenombudsman sieht sich mit vielen KI-generierten Eingaben konfrontiert. "Die Texte sind sprachlich überraschend gut, aber argumentativ oft schwach – vor allem, wenn Ansprüche aus ausländischem respektive nicht anwendbarem Recht abgeleitet werden", lässt sich Ombudsmann Andreas Barfuss in einem Text zur KI zitieren. Der Einsatz von KI wecke somit häufig überhöhte Erwartungen bei den Kunden, wodurch das Konfliktpotenzial zunehme.