FONDS professionell Deutschland, Ausgabe 2/2025

Einordnung in die verschiedenen Stufen richtet sich nach den potenziellen Gefah- ren bei der Nutzung. Hochrisikosysteme im Visier Großen Raum räumt das Regelwerk den beiden erstgenannten Arten von Systemen ein. Hersteller und Betreiber von Hochrisi- ko-KIs müssen hohe Standards im Hin- blick auf Sorgfaltsp ichten, Überwachung und Dokumentation der Systeme einhal- ten. „Makler stehen damit nicht direkt im Fokus dieser Regulierung, da die für den Finanzsektor typischen Hochrisiko-KI- Systeme, etwa zur Kreditvergabe oder zur Risiko- und Preisbewertung in der Lebens- und Krankenversicherung, in der Regel bei Banken, Versicherern oder Fintechs einge- setzt werden“, sagt Rechtsanwalt Norman Wirth, geschäftsführender Vorstand des AfW. Eventuell seien große Maklerhäuser und Vertriebe sowie Pools von den strikten Regeln für Hochrisiko-KIs betro en, wenn sie solche Tools im Rahmen des Personal- managements einsetzen. KI-Anwendungen mit begrenztem und mit keinem oder minimalem Risiko nut- zen Makler aber sehr wohl.Darunter fallen etwa KI-gestützte Chatbots auf Webseiten, generative KI-Inhalte wie Texte oder Videos zu Marketingzwecken oder der ö entlich zugängliche KI-Chatbot ChatGPT. „Daraus folgen gemäß Artikel 50 der KI-VO ver- schiedene Transparenzverp ichtungen oder zumindest Informationsp ichten, die un- abhängig von der Größe eines Unterneh- mens gelten“, so Wirth. „Auch ein Makler muss seine Kunden aktiv darauf hinweisen, dass sie mit einer KI interagieren.“ Die genauen P ichten ergeben sich dabei aus den jeweiligen Systemen und der konkre- ten Anwendung – Vermittler müssen das im Einzelfall prüfen. DSGVO und Datenschutz Ein weiterer wichtiger Bereich, der Mak- ler betri t, ist die Einhaltung der Daten- schutzbestimmungen. „Die Nutzung von KI stellt eine Form der automatisierten Datenverarbeitung dar, wie sie Artikel 22 der DSGVO beschreibt“, erklärt Wirth weiter. „Daher gelten die Bestimmungen der DSGVO uneingeschränkt, wenn in KI- Systemen personenbezogene Daten ver- arbeitet werden.“ Dem Juristen zufolge müssen Makler grundsätzlich drauf achten, dass IT-Systeme trotz KI datenschutzfreundlich gestaltet sind. Das sei insbesondere bei der Nach- vollziehbarkeit der Verarbeitungsschritte eine große Herausforderung. Ferner haben Makler sicherzustellen, dass sie betro ene Kunden umfassend über die Verarbeitung ihrer personenbezogenen Daten informie- ren – dazu zählen etwa Angaben zu Ein- künften und Vermögenswerten oder Ge- sundheitsdaten – und die notwendige Ein- willigung einholen, sei es von den Kunden selbst oder durch eine andere rechtmäßige Grundlage gemäß Artikel 6 DSGVO. „Das beinhaltet explizit auch die Klärung der Zulässigkeit entsprechender Verfahren zur automatisierten Einzelfallentscheidung“, so Wirth, der die Wichtigkeit dieses Punktes betont. Darunter versteht die DSGVO (Artikel 4 Absatz 4) Entscheidungen, die ohne menschliche Eingri e getro en wer- den und auf der Verarbeitung personenbe- zogener Daten beruhen. In der Praxis heißt das für Makler, dass sie Kunden über den Zweck der Datenverarbeitung zu informie- ren haben. Ferner müssen sie ihren Kun- den mitteilen, wer Zugang zu den Daten hat oder haben könnte, einschließlich etwaiger externer KI-Dienstleister. KI muss vergessen können Makler müssen dann die Rechte der Betro enen auf Auskunft, Berichtigung oder Löschung von Daten berücksichtigen. „Es können nur KI-Systeme eingesetzt wer- den, die in der Lage sind, personenbezo- gene Daten im originären KI-System und auch in nachgelagerten Anwendungen zu beauskunften, zu berichtigen, zu sperren und zu löschen. KI-Systeme, die einmal dort gespeicherte personenbezogene Daten nicht wieder löschen können, sind unzu- lässig“, betont Wirth. In diesen Kontext gehört, dass Makler angeben müssen, wie lange die personen- bezogenen Daten voraussichtlich gespei- chert werden oder nach welchen Kriterien diese Dauer bestimmt wird. Bei der Nut- zung von KI-Systemen, die eine erhebliche Verarbeitung personenbezogener Daten beinhalten, sei ferner oft eine Datenschutz- folgeabschätzung erforderlich, um die Risi- ken der Datenverarbeitung zu bewerten und zu minimieren. Alle Datenverarbei- tungen, die unter Einsatz von KI erfolgen, müssen zudem im Verarbeitungsverzeich- nis dokumentiert werden. Schließlich ist es Wirth zufolge wichtig, dass Makler sicherstellen, dass die eingesetz- ten KI-Systeme nicht „voreingenommen“ sind und keine diskriminierenden Ergeb- nisse liefern (Art. 5 DSGVO). Dazu seien » Was ein ›ausreichendes Maß‹ an KI-Kompetenz ist, wird in der KI-VO nicht konkretisiert. « Frank Rottenbacher, Going Public Akademie fondsprofessionell.de 2/2025 407 FOTO: © ANDREAS KLINGBERG | AFW BERLIN