KI in Unternehmen: Transparenz, Kontrolle und ethische Verantwortung

veröffentlicht am 1. Juli 2025

Künstliche Intelligenz (KI) wird immer häufiger in unternehmerischen Prozessen eingesetzt. Dies umfasst automatisierte Entscheidungsfindung, intelligente Prognosemodelle und die Integration in operative ERP-Systeme bzw. Buchhaltungssoftware. Mit der zunehmenden Integration von KI in bestehende IT-Systeme steigen jedoch auch die Anforderungen an die zuverlässige Prüfung und Bewertung solcher Systeme.

KI-Systeme unterscheiden sich grundlegend von klassischen IT-Systemen: Sie arbeiten datenbasiert, oft autonom und unterliegen einem ständigen Lern- und Anpassungsprozess. Dies wirft neue Fragen auf, beispielsweise zur Transparenz von Entscheidungsprozessen, zur Verantwortlichkeit bei Fehlfunktionen oder zur Dokumentation von Trainingsdaten und Modellen.

Strukturelle Elemente von KI-Systemen und Zielorientierung

Um KI-Systeme effektiv in unternehmerische Prozesse zu integrieren, ist eine klare Struktur erforderlich, die sich an definierten KI-Zielen orientiert. Diese Ziele sind nicht abstrakt, sondern leiten sich direkt aus den Unternehmenszielen ab und berücksichtigen sowohl ethische Werte als auch gesetzliche und regulatorische Vorgaben. Um diese KI-Ziele zu erreichen, arbeiten verschiedene Elemente eines KI-Systems zusammen, basierend auf Grundsätzen, Verfahren und organisatorischen Maßnahmen. Grundlegend kann ein KI-System nach IDW PS 861 anhand der folgenden Komponenten beschrieben werden:

Governance, Compliance und Monitoring
Daten
Algorithmen und Modelle
Anwendung
IT-Infrastruktur

Zentrales Element für einen verantwortungsvollen KI-Einsatz

Ein verantwortungsvoller Einsatz von KI erfordert eine durchdachte Aufbau- und Ablauforganisation mit fest etablierten Mechanismen zu Governance, Compliance und Monitoring. Dabei benötigen Unternehmen eine klar definierte KI-Strategie, die Richtlinien für die Entwicklung, Einführung und den Betrieb von KI-Systemen enthält. Diese Strategie stellt sicher, dass sowohl interne Unternehmensziele als auch externe Anforderungen – wie gesetzliche, regulatorische und ethische Vorgaben – berücksichtigt und eingehalten werden.

Die strategischen Vorgaben werden in konkreten Richtlinien und Verfahren umgesetzt. Dazu gehören dokumentierte Verantwortlichkeiten für den Betrieb und die Weiterentwicklung des KI-Systems sowie Prozesse zur Identifikation und Behebung von Schwachstellen. Ein professionelles KI-Monitoring umfasst auch die regelmäßige Überwachung der Einhaltung dieser Maßnahmen und deren nachvollziehbare Dokumentation.

Darüber hinaus muss jederzeit sichergestellt sein, dass der Mensch steuernd eingreifen kann. Dies wird durch Mechanismen gewährleistet, die klar signalisieren, wann menschliche Kontrolle erforderlich ist.

Datenqualität und -verantwortung

Daten sind das Fundament jedes KI-Systems – entsprechend hoch sind die Anforderungen an ihre Qualität, Herkunft und Nutzung. Unternehmen müssen sicherstellen, dass sowohl intern erzeugte als auch externe Datenquellen den ethischen, rechtlichen und fachlichen Anforderungen entsprechen. Richtlinien regeln den gesamten Datenumgang: von der Identifikation der Quelle über die Bewertung der Eignung bis hin zur Dokumentation und Überwachung von Änderungen.

Algorithmen und Modelle: Transparenz und Kontrolle

Der zugrunde liegende KI-Algorithmus und das Modell spielen eine zentrale Rolle. Sie sind so zu entwickeln oder anzupassen, dass sie nachvollziehbare Entscheidungen treffen, die den definierten Zielen und der geforderten Genauigkeit des jeweiligen Anwendungsfalls entsprechen. Ethische Prinzipien wie Fairness, menschliche Autonomie und Nichtdiskriminierung sind integrale Bestandteile der Entwicklungsprozesse.

Alle manuellen Eingriffe oder Änderungen im Lernprozess werden einem strukturierten Test- und Freigabeverfahren unterzogen. Die kontinuierliche Weiterentwicklung im Produktivbetrieb erfolgt unter klar definierten Bedingungen. Zudem sind technische und organisatorische Maßnahmen etabliert, um sowohl die Sicherheit des Modells als auch die Nachvollziehbarkeit von Änderungen zu gewährleisten.

Auswahl und Implementierung von KI-Anwendungen

Bei der Auswahl und Implementierung von KI-Anwendungen sind unternehmensinterne Vorgaben zu beachten. Ethische, gesetzliche und regulatorische Anforderungen sind bereits bei der Beschaffung zu berücksichtigen. Change-Management-, Test- und Freigabeverfahren stellen sicher, dass nur autorisierte und geprüfte Versionen eines KI-Systems produktiv eingesetzt werden. Der laufende Betrieb wird durch geeignete Kennzahlen wie etwa Antwortzeit oder Systemstabilität überwacht, um unerwünschte Unterbrechungen oder Leistungseinbußen zu vermeiden.

Anforderungen an die IT-Infrastruktur und IT-Sicherheit

Die IT-Infrastruktur, in der ein KI-System betrieben wird, muss den spezifischen Anforderungen des jeweiligen Einsatzszenarios gerecht werden. Ein auf der KI-Strategie basierendes Sicherheitskonzept ist daher unerlässlich. Dieses Konzept umfasst unter anderem logische Zugriffskontrollen, Schutzmechanismen gegen Schadsoftware, physische Sicherheitsvorkehrungen sowie effektive Backup- und Datenwiederherstellungsverfahren. Diese Maßnahmen dienen dazu, das System vor Manipulation, Datenverlust oder unbefugtem Zugriff zu schützen und es auch in einem dynamischen Entwicklungsumfeld zuverlässig zu betreiben.

Fazit: Ganzheitlicher Ansatz für den Einsatz von KI-Systemen

Der Einsatz von KI-Systemen ist weit mehr als eine technische Entscheidung – er erfordert eine durchdachte organisatorische, prozessuale und ethische Einbettung. Besonders in Bereichen mit finanziellen Auswirkungen oder Bedeutung für den Jahresabschluss ist ein strukturiertes Vorgehen unerlässlich. Der Prüfungsstandard IDW PS 861 bietet Unternehmen und PrüferInnen erstmals einen umfassenden Rahmen zur Bewertung dieser komplexen Systeme.

Rödl & Partner begleitet Sie dabei mit Fachwissen und Erfahrung – von der Strategieentwicklung über die Einführung bis hin zur Prüfung und Risikobewertung von KI-Systemen nach den neuen Standards.