Auf künstlicher Intelligenz (KI) basierende Chatbots beantworten mittlerweile nicht nur detailliert Fragen zu Sportereignissen wie der Fußball-Weltmeisterschaft, sondern geben auch konkrete Tarifempfehlungen für Versicherungsprodukte. Das hat nun den Deutschen Industrie- und Handelskammertag (DIHK) und die Finanzaufsicht Bafin auf den Plan gerufen. Beide drängen bei der Europäischen Kommission und der EU-Versicherungsaufsicht Eiopa auf die Klärung der Frage, ob diese Empfehlungen rechtlich zulässig sind – und wer bei einer Fehlberatung haftet. Das berichtet das "Handelsblatt". 

"Wir sehen, dass KI-Chatbots und KI-Agenten zunehmend konkrete Produktempfehlungen geben oder sogar Verträge vorbereiten und damit derzeit in eine rechtliche Grauzone hineinreichen", sagte DIHK-Chefjustiziar Stephan Wernicke der Wirtschaftszeitung. Denn: Wer in Deutschland gewerbsmäßig zu Versicherungen berät und diese vermittelt, benötigt entweder eine Erlaubnis gemäß Paragraf 34d Gewerbeordnung (GewO) oder muss für einen Versicherer tätig sein.

EU-weite Lösung notwendig
Ein anderes Problem ist, dass die KI-Chatbots grenzüberschreitend entwickelt und genutzt werden, sodass auch eine entsprechende europäische Lösung nötig sei. Daher hält auch die Bafin eine europaweit einheitliche Beurteilung des Sachverhalts für geboten. Ein Sprecher der Bafin teilte dem "Handelsblatt" mit, dass die Eiopa die Europäische Kommission bereits vor einiger Zeit gefragt habe, ob und wann die Tätigkeit eines KI-Chatbots als Versicherungsvertriebstätigkeit anzusehen sei.

Den Anstoß für die Initiativen der Bafin und des DIHK gab eine Anfrage des Votum-Verbandes Ende Mai. Votum bezog sich auf dokumentierte Fälle, in denen KI-Chatbots wie ChatGPT oder Claude in konkreten Dialogen individuelle Versicherungsempfehlungen ausgesprochen haben sollen, ohne über eine Erlaubnis nach Paragraf 34d GewO zu verfügen. (fp)