"KI ist ein hochmotivierter, aber schlampiger Mitarbeiter"
Welche Möglichkeiten und Risiken künstliche Intelligenz birgt, diskutierten Oxford-Professorin Sandra Wachter, Publizist Richard David Precht sowie FPSB-Mann Marcel Reyers und Galileo-Moderator Stefan Gödde zur Eröffnung des zweiten Tages des FONDS professionell KONGRESSES.
Der Einsatz von künstlicher Intelligenz (KI) in der Finanzwelt kann an vielen Stellen die Arbeit erleichtern, jedoch nicht die zwischenmenschliche Beziehung ersetzen. Diese Einschätzung kristallisierte sich bei der Eröffnungsdiskussion zum zweiten Tag des FONDS professionell KONGRESSES heraus. "Wenn man blind der KI vertraut, dann wird das schlecht ausgehen", sagte Sandra Wachter, Professorin und leitende Forscherin am Oxford Internet Institute. "KI ist kein Orakel von Delphi und keine Kristallkugel."
"Wenn man aber weiß, was KI leisten kann, dann mag ihr Einsatz die Arbeit erleichtern und effizienter gestalten", führte Wachter aus, die an der Universität Wien Jura studierte und nun in Oxford in den Bereichen Datenethik, künstliche Intelligenz, Robotik, Algorithmen und Regulierung forscht. "KI ist wie ein hochmotivierter, aber unzuverlässiger und schlampiger Mitarbeiter, dem man ständig auf die Finger schauen muss", sagte Wachter bei der von Wissenschaftsjournalist Stefan Gödde moderierten Diskussion.
"Künstliche Dummheit"
Denn Systeme wie ChatGPT seien auf Basis der im Internet verfügbaren Daten geschult. Das Programm versuche statistisch abzuleiten, welches Wort mit hoher Wahrscheinlichkeit auf das nächste folgt. "KI versteht Fragen und Problemstellungen nicht", erläuterte Wachter. "Insofern müsste man eigentlich von künstlicher Dummheit sprechen. Denn echte Intelligenz hieße, aus Fehlern der Vergangenheit zu lernen." Gleichwohl nehme der Einsatz von KI zu – auch in der Finanzbranche. So wird KI etwa bei der Betrugs- und Geldwäsche-Erkennung oder bei der Bewertung der Kreditwürdigkeit eingesetzt.
Doch dies werfe rechtliche und ethische Fragen auf. "Die Technik entwickelt sich weiter", erläuterte Wachter. "Das konnte der Gesetzgeber nicht vorhersehen." In der Europäischen Union wird derzeit über eine Regulierung von KI beraten. Diskussionsteilnehmer Richard David Precht sah jedoch nicht nur ein Hinterherhinken des Gesetzgebers bei der Regulierung. "Es gibt bereits Gesetze gegen den Missbrauch von Daten oder der Identität. Doch diese müssen auch durchgesetzt werden", sagte der Philosoph und Publizist. "Die Diskrepanz zwischen den Regeln und ihrer Durchsetzung wird größer."
"Maschinen fühlen nichts"
Der Bestsellerautor zeigte sich zwar überzeugt, dass bestimmte Berufe eine immer technischere Dimension erhalten und Maschinen zunehmend Aufgaben übernehmen. "Zugleich steigt jedoch das Bedürfnis nach Menschlichkeit", betonte Precht. Je häufiger Chatbots und Avatare eingesetzt würden, desto mehr steige der Anspruch, von echten Menschen reale Gefühle entgegengebracht zu bekommen. "Maschinen fühlen nichts", betonte Precht. "Wir programmieren nur eine Quasi-Moral in sie hinein."
Marcel Reyers, stellvertretender Vorsitzender des Financial Planning Standards Board Deutschland (FPSB), wiederum zeigte sich überzeugt, dass "der Mensch der wichtigste Faktor" in der Finanzberatung bleibe. "Wir kommen um den Menschen nicht herum." So sei es bei einer Erstberatung entscheidend, dass die Chemie zwischen Kunde und Finanzbetreuer stimmt. Um seinen Job mache er sich somit keine Sorgen, "zumal der Nachwuchs fehlt". Insofern könne der Einsatz von KI auch eine Chance darstellen, indem sie Verwaltungsaufgaben übernimmt und somit eine Erleichterung im Arbeitsalltag bringt. Allerdings müsse der regulatorische Rahmen klar gesteckt sein, betonte Reyers. (ert)