Der Verband Unabhängiger Finanzdienstleistungs-Unternehmen in Europa (Votum) hat sich mit einer Anfrage an die deutsche Finanzaufsicht Bafin sowie die Deutsche Industrie- und Handelskammer (DIHK) gewandt. Der Anlass sind dokumentierte Fälle, in denen KI-Chatbots wie ChatGPT oder Claude in konkreten Dialogen individuelle Versicherungsempfehlungen ausgesprochen haben sollen, inklusive Tarifbezeichnung und Begründung auf Basis einer Bedarfsanalyse – ohne über eine Erlaubnis nach Paragraf 34d Gewerbeordnung zu verfügen.

Votum fordert die zuständigen Aufsichtsbehörden auf, zeitnah eine klare regulatorische Einordnung der Empfehlungen auf Basis künstlicher Intelligenz (KI) vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen.

Wer haftet bei fehlerhafter KI-Empfehlung?
"Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung", begründet Martin Klein, geschäftsführender Vorstand des Votum-Verbands. "Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?"

Der Verband sieht darin erhebliche Risiken für Verbraucher. Während zugelassene Versicherungsvermittler gesetzlichen Beratungs- und Dokumentationspflichten unterliegen und für Beratungsfehler haften, gebe es bei KI-Anbietern bislang weder eine berufsrechtliche Zulassung noch eine vergleichbare Haftungsabsicherung.

Unklare Datengrundlage
Nach Ansicht von Votum vermitteln KI-Systeme durch ihre Antworten ein hohes Maß an Verlässlichkeit. Gleichzeitig bleibe für Nutzer häufig unklar, auf welcher Datenbasis Empfehlungen entstehen oder wie aktuell diese Informationen sind.

Der Verband verweist zudem auf einen zentralen Unterschied zwischen menschlicher Beratung und KI-Systemen: Versicherungsvermittler begleiteten Kunden dauerhaft und passten den Versicherungsschutz an veränderte Lebenssituationen an. Zudem unterstützten sie im Schadenfall. "Eine KI-Konversation endet mit dem Schließen des Browserfensters", heißt es in der Mitteilung.

Forderung nach regulatorischer Einordnung
"Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist", betont Klein. Der Verband fordert daher von den zuständigen Aufsichtsbehörden eine zeitnahe regulatorische Einordnung sowie gegebenenfalls aufsichtsrechtliche Maßnahmen.

Zugleich betont Votum, dass KI-Systeme als unterstützendes Werkzeug für qualifizierte Vermittler erhebliches Potenzial zur Effizienzsteigerung und Beratungsoptimierung bieten könnten. Verbindliche Versicherungsempfehlungen sollten nach Auffassung des Verbands jedoch ausschließlich von Personen oder Unternehmen mit entsprechender Erlaubnis und Haftungsabsicherung ausgesprochen werden. (mb)