Die EU-Kommission hat mit der Verordnung 2024/1689 zur künstlichen Intelligenz (KI-VO) einen Rahmen geschaffen, der die Grundrechte der Bürger trotz Weiterentwicklung der Technik schützen soll. Der Großteil der Regeln der KI-VO zielt nicht auf Finanz- und Versicherungsmakler, betroffen sind sie als Betreiber von KI-Systemen dennoch, zu denen etwa auch KI-gestützte Chatbots auf Webseiten oder der öffentlich zugängliche KI-Chatbot ChatGPT gehören. Vor allem müssen sie bei der Verwendung von Kundendaten in KI-Systemen aufpassen (FONDS professionell ONLINE berichtete). 

Die Verordnung schreibt Vermittlern ferner vor, sich und ihr Personal im Umgang mit KI zu schulen. Einschlägig ist hier Artikel 4 des Regelwerkes. "Dieser zielt darauf ab, Bewusstsein für die Gefahren und Funktionsweisen von KI zu entwickeln. Nutzer und damit Makler müssen die Fähigkeit entwickeln, mit KI-Systemen fundiert umzugehen, ihre Potenziale und Risiken zu erkennen und Transparenzpflichten nachzukommen", erklärt Frank Rottenbacher, Vorstand des AfW Bundesverbandes Finanzdienstleistung und des Bildungsdienstleisters Going ­Public. Leider gibt das Regelwerk weder einen Schulungskanon noch Mindestkriterien vor. "Was ein 'ausreichendes Maß' an KI-Kompetenz ist, wird in der KI-VO nicht konkretisiert", so Rottenbacher. 

Empfohlene Inhalte
Rottenbacher empfiehlt Maklern, zunächst selbst den Rahmen für die Schulungen abzustecken, da deren Umfang von den im Unternehmen eingesetzten KI-Systemen sowie den Kenntnissen der Mitarbeiter abhängt. Daher müssen sie ihre Systeme und die KI-Kompetenzen der Mitarbeiter analysieren und so den Schulungsbedarf ermitteln. In vielen Fällen dürften daraufhin für alle Mitarbeiter allgemeine Schulungen zu Grundkenntnissen über KI, deren Funktionsweise sowie rechtlichen und ethischen Aspekten folgen.

Laut Rottenbacher sollten die Seminare Wissen zu folgenden Themen vermitteln:

  • Definition und verschiedene Konzepte der KI
  • Unterschiedliche Arten von KI, beispielsweise maschinelles Lernen oder neuronale Netze
  • Anwendungsfälle und Branchenbeispiele aus der Praxis
  • Ethische Überlegungen im Zusammenhang mit KI
  • Verantwortungsvoller Einsatz von KI und die Auswirkungen auf die Gesellschaft
  • Richtlinien und Vorschriften, die den Einsatz von KI betreffen

Auf den "Lehrplan" gehörten auch Fallstudien zu praktischen Anwendungen der Technologie. Für Angestellte, die mit sicherheitskritischen oder branchenspezifischen KI-Systemen arbeiten, seien weiterführende Schulungen notwendig. Die Makler müssen natürlich nicht selbst unterrichten, Bildungsdienstleister werden entsprechende Seminare anbieten.

Tests als Nachweise für die Schulungen
Ferner rät Rottenbacher zu Tests, obwohl die KI-VO keine Wissensabfrage vorschreibt und es Stand heute auch keine bundeseinheitlichen Prüfungen geben wird. Allerdings werde sich über die Aufsichtsbehörden ein Branchenstandard mit Blick auf den notwendigen Umfang, die Tiefe und den Rhythmus der Schulungen ergeben, über den dann Verbände wie der AfW infor­mieren.

"Mit einer Prüfung und einem Zertifikat darüber kann der Makler die Schulungen dokumentieren, sich so vor Haftungsrisiken schützen und bei den jeweiligen Aufsichtsbehörden nachweisen, dass man die Anordnungen der Verordnung erfüllt hat", begründet der Going-Public-Vorstand seine Empfehlung. Weil sich die Technologie rasant weiterentwickelt, empfiehlt Rottenbacher zudem, es nicht bei ­einer einmaligen Prüfung zu belassen, sondern regelmäßig Tests zu absolvieren. (jb)

Weitere Details zur KI-VO finden Sie ab Seite 406 in der aktuellen Ausgabe 2/2025 von FONDS professionell oder nach Anmeldung hier im E-Magazin.