"KI muss verantwortungsvoll eingesetzt werden"

Im Interview: Stefan Merl

Stefan Merl, Director Sustainability Services bei PwC, im Gespräch mit Hanna Nemeth

Wo sehen Sie die größten ethischen Bedenken bei der Verwendung von KI?

Hierbei gibt es eine Palette an Aspekten zu berücksichtigen. Aus meiner Sicht sind die drei wichtigsten Themenkreise Datenschutz und Privatsphäre, Verantwortung und Transparenz.

• Datenschutz und Privatsphäre: Der Schutz von persönlichen Daten ist zentral, vor allem wenn KI in sensiblen Bereichen eingesetzt werden, wie Medizin, bei Überwachungstechnologien, Datenanalyse und -auswertung oder für Profiling. Dabei ist es von entscheidender Bedeutung, wie die KI trainiert wurde und ob beabsichtigt oder unbeabsichtigt ein Bias vorhanden ist, wodurch Vorurteile übernommen werden. Dies kann aber nicht nur durch die Trainingsdaten, sondern auch durch die Algorithmen verursacht werden.
• Verantwortung: Eine Frage ist auch, wer die Verantwortung trägt, wenn eine KI fehlerhafte Entscheidungen trifft, wodurch Schaden an Dingen oder gar Menschen entstehen. Einerseits natürlich bei Entwickler*innen und Hersteller*innen, die eine KI entsprechend trainieren, validieren und testen sowie Safeguards einziehen müssen. Aber auch die Nutzer*innen tragen eine Verantwortung, KI nicht zu missbrauchen und sie gleichzeitig auch zu überwachen und kritisch zu nutzen, um auf Fehler hinzuweisen. Von unternehmerischer Seite braucht es klare Policies, wie mit KI umzugehen ist und wo Grenzen der Verwendung bestehen. Der/die Endnutzer*in wiederum muss die Ergebnisse der KI kritisch würdigen und im Zweifelsfall verwerfen. Wer trägt die Verantwortung, wenn KI bestehende Vorurteile potenzieren und weiter verbreitet? Schränkt KI Menschen in ihrer Autonomie ein? In Summe wird es aber eine gemeinsame Verantwortung sein, KI verantwortungsvoll zu erstellen und zu verwenden, um potenziell negative Auswirkungen zu verhindern. Beim Umgang mit KI sind die vom Europäischen Parlament im AI Act definierten Kriterien maßgeblich: Wohltätigkeit, Transparenz, Nicht-Boshaftigkeit, Autonomie, Gerechtigkeit und Datenschutz.
• Fehlende Transparenz: KI-Systeme sind oft “Black Boxes”, deren Entscheidungsprozesse für Menschen nicht nachvollziehbar sind und es stellt sich die Frage, auf welcher Basis, auf welchen Daten die Entscheidungen getroffen wurden. Hier wird von der KI die Kontrolle über Informationen übernommen, ohne dass den Nutzer*innen die Möglichkeit gegeben ist, die KI zu kontrollieren sowie ihren Entscheidungsprozess zu hinterfragen oder zu beeinflussen.

Braucht es rechtliche Regulierung der KI-Nutzung? Wo sehen Sie dringenden Handlungsbedarf?

Aus meiner Sicht es besteht jedenfalls Bedarf an rechtlicher Regulierung, vor allem hinsichtlich folgender Bereiche:

• Sicherheit und Datenschutz: Es braucht hohe Anforderungen an Sicherheit, Datenschutz und Transparenz. KI-Systeme, die die menschliche Sicherheit in inakzeptabler Weise gefährden oder beeinflussen, dürfen nicht eingesetzt werden.
• Transparenz: Es muss für Menschen sofort erkennbar sein, wenn sie mit KI konfrontiert sind. Aber auch, wie die KI zu ihren Entscheidungen kommt und woher die verarbeiteten Informationen stammen.
• Soziale Klassifizierung: KI sollte nicht dafür verwendet werden dürfen, Menschen aufgrund ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale zu klassifizieren oder für irgendein System einzustufen.
• Flexibilität: Eine Regulierung muss aber auch flexibel genug gestaltet sein, um mit technischen Entwicklung Schritt halten zu können.

In Investor Relations ist die Informationsweitergabe stark rechtlich bestimmt. Wird KI in IR in Zukunft dennoch eine Rolle spielen?

Ich gehe davon aus, dass KI auch in Investor Relations eine zunehmend wichtige Rolle spielen wird, aus zwei Gründen. Zum einen hat sie das Potenzial, die Effizienz deutlich erhöhen. KI kann IR-Abteilungen bei verschiedenen Aufgaben unterstützen. Beispielsweise kann KI dabei helfen, große Mengen an (Finanz-)Daten zu analysieren und Muster zu erkennen, die für menschliche Analysten sehr aufwendig zu analysieren sind. Zudem kann KI die Abarbeitung von Routineaufgaben übernehmen, wodurch Mitarbeiter*innen in IR sich auf relevantere Aufgaben fokussieren können.

Zum zweiten kann KI Investor Relations bei der zielgerichteten Kommunikation unterstützen. Der KI muss das Potenzial zugestanden werden, Anfragen von Investor*innen und anderen wichtigen Stakeholdern zielgerichtet und schnell zu beantworten.  Inwiefern es sinnvoll ist, bspw. KI Chatbots einzusetzen, um Anfragen zu beantworten, wird von der Akzeptanz der KI durch die Stakeholder und auch der Art der Anfrage abhängen.

Aber auch hier hängen wieder dieselben Themen drin: Wie sieht es mit dem Datenschutz aus, wird die Frage akkurat oder falsch beantwortet, auf welche Informationen greift die KI zu? Wenn KI in IR eingesetzt wird, wird es wichtig sein, in der IR auch eine*n KI-Expert*in zu haben.

Danke für das Gespräch!

Weitere Informationen:

• Studiengang

Der berufsbegleitende Master-Studiengang Digital Business Communications bereitet ideal für Karriere in Corporate Communications, Public und Investor Relations oder Sustainability Communications vor. Bei Fragen wenden Sie sich gerne an die Studiengangsleiterin Monika Kovarova-Simecek.

• Expert*inneninterviews

Weitere interessante Interviews können Sie in der Rubrik "Expert*inneninterviews" lesen.