Die Generali Schweiz ist in einen Rechtsstreit um Mietzinsgarantien verwickelt. Der Fall bekommt eine Komponente um den eigenen Chatbot.
Jeden Tag erreichen unser Wirtschaftsnews-Portal muula.ch bizarre Fälle.
Daraus hat die Redaktion mal einen Rechtsstreit herausgepickt, der eine neue Dimension um künstliche Intelligenz KI beinhaltet und somit viele Firmen interessieren könnte.
Irreführende Infos verbreitet
Der Schweizer Ableger des italienischen Versicherungskonzerns Generali ist von dem Berner Unternehmen goCaution verklagt worden, weil die Trennung offenbar nicht zur Zufriedenheit beider Parteien vollzogen wurde.
Im Nachgang der Klageeinreichung beim Handelsgericht Bern sorgt nun der Chatbot «Leo» von der Generali für neuen Unmut.
goCaution sehe sich veranlasst, auf die Verbreitung von Falschinformationen durch die Generali und deren Chatbot «Leo» hinzuweisen, hiess es in einem Communiqué.
Der Chatbot gebe irreführende Informationen wieder, darunter die Behauptung, goCaution sei von Generali übernommen worden und eine Marke der Generali, erklärte die Berner Firma.
Wenige Themen betroffen
Kunden von Generali müssten ja eigentlich darauf vertrauen können, dass der Versicherungskonzern keine Falschangaben verbreitet, noch dazu, wenn zu einem Themengebiet ein Rechtsstreit besteht.
Nun bat muula.ch den Versicherer um eine Stellungnahme zu der Situation.
Generali habe festgestellt, dass der Chatbot «Leo» bei speziell formulierten Anfragen tatsächlich unrichtige Antworten generiert habe, teilte ein Mediensprecher der Gesellschaft mit.
Dies betreffe nach ersten Erkenntnissen nur sehr eingeschränkte Themenbereiche, wie die per 31. Oktober 2023 beendete Zusammenarbeit mit dem Mietkautionsversicherer goCaution, hiess es weiter.
Kleingedrucktes wichtig
Generali Schweiz habe diesen Mangel aber behoben, bekräftigte der Versicherer.
Gleichzeitig stellte der Mediensprecher nochmals klar, dass goCaution weder ein Versicherungsunternehmen, noch von Generali übernommen worden sei.
Auch wenn die Qualität des Chatbots «Leo» laufend verbessert würde, gib es da offenbar wirklich Probleme mit der künstlichen Intelligenz.
In den Nutzungsbedingungen zu «Leo» stünde aber, dass die Anfragen möglicherweise nicht alle korrekt oder vollständig beantwortet würden, so die Generali weiter.
Bedauernde Worte
Bezüglich des rechtlichen Verfahrens, das goCaution am 10. April 2024 beim Handelsgericht des Kantons Bern eingereicht hat, habe Generali am 14. Juni 2024 fristgerecht reagiert, erklärte der Mediensprecher weiter.
Die von goCaution mit der Klage geltend gemachten Ansprüche seien aber unbegründet.
Generali bedauere, dass goCaution den Rechtsweg eingeschlagen habe, hiess es lediglich mit Verweis auf das laufende Verfahren.
Doch auch dabei sind schon Diskrepanzen sichtbar, denn goCaution spricht in seiner Medienmitteilung anders als Generali davon, «die Zusammenarbeit per Ende Juni 2023» beendet zu haben.
KI-Modelle nicht ausgereift
Andere Unternehmen können aus der Situation zumindest lernen, dass ihre Chatbots unbedingt korrekte Informationen liefern müssen.
Unausgereifte Sprachmodelle um KI dürfen da nicht vorzeitig scharfgeschaltet werden.
Wenn es hart auf hart kommt, kann die Verbreitung von Falschinformationen schliesslich zu Problemen, wie bei dem Versicherer, führen.
goCaution kämpft auf dem Markt von Mietzinsgarantien mit dem neuen Partner Uniqa um die Hoheit und irreführende Angaben des einstigen Partners missfallen da logischerweise.
Formulierungen entscheiden
Gerade Versicherer legen normalerweise jedes Wort der Vertragsbedingungen auf die Goldwaage. Daran hängt meist viel Geld.
Da dürfen Externe schon erwarten, dass ihre Kommunikationssysteme korrekte Informationen nach aussen geben.
06.12.2024/kut.
