KI in Unternehmen: Transparenz, Kontrolle und ethische Verantwortung

​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​veröffentlicht am 25. Juni 2025 | Lesedauer ca. 5 Minuten

Künstliche Intelligenz (KI) wird immer häufiger in unternehmerischen Prozessen eingesetzt. Dies umfasst automatisierte Entscheidungsfindung, intelligente Prognose­modelle und die Integration in operative ERP-Systeme bzw. Buchhaltungssoftware. Mit der zunehmenden Integration von KI in bestehende IT-Systeme steigen jedoch auch die Anforderunge​​n an die zuverlässige Prüfung und Bewertung solcher Systeme.

 

​KI-Systeme unterscheiden sich grundlegend von klassischen IT-Systemen: Sie arbeiten datenbasiert, oft autonom und unterliegen einem ständigen Lern- und Anpassungsprozess. Dies wirft neue Fragen auf, beispielsweise zur Transparenz von Entscheidungsprozessen, zur Verantwortlichkeit bei Fehlfunktionen oder zur Dokumentation von Trainingsdaten und Modellen.

Um KI-Systeme effektiv in unternehmerische Prozesse zu integrieren, ist eine klare Struktur erforderlich, die sich an definierten KI-Zielen orientiert. Diese Ziele sind nicht abstrakt, sondern leiten sich direkt aus den Unternehmenszielen ab und berücksichtigen sowohl ethische Werte als auch gesetzliche und regulatorische Vorgaben. Um diese KI-Ziele zu erreichen, arbeiten verschiedene Elemente eines KI-Systems zusammen, basierend auf Grundsätzen, Verfahren und organisatorischen Maßnahmen. Grundlegend kann ein KI-System nach dem IDW Prüfungsstandard: Prüfung von KI-Systemen (IDW PS 861 (03.2023)) anhand der folgenden Komponenten beschrieben werden:

Ein verantwortungsvoller Einsatz von KI erfordert eine durchdachte Aufbau- und Ablauforganisation mit fest etablierten Mechanismen zu Governance, Compliance und Monitoring. Dabei benötigen Unternehmen eine klar definierte KI-Strategie, die Richtlinien für die Entwicklung, Einführung und den Betrieb von KI-Systemen enthält. Diese Strategie stellt sicher, dass sowohl interne Unternehmensziele als auch externe Anforderungen – wie gesetzliche, regulatorische und ethische Vorgaben – berücksichtigt und eingehalten werden.

Die strategischen Vorgaben werden in konkreten Richtlinien und Verfahren umgesetzt. Dazu gehören doku­mentierte Verantwortlichkeiten für den Betrieb und die Weiterentwicklung des KI-Systems sowie Prozesse zur Identifikation und Behebung von Schwachstellen. Ein professionelles KI-Monitoring umfasst auch die regel­mäßige Überwachung der Einhaltung dieser Maßnahmen und deren nachvollziehbare Dokumentation.

Darüber hinaus muss jederzeit sichergestellt sein, dass der Mensch steuernd eingreifen kann. Dies wird durch Mechanismen gewährleistet, die klar signalisieren, wann menschliche Kontrolle erforderlich ist.

Daten sind das Fundament jedes KI-Systems – entsprechend hoch sind die Anforderungen an ihre Qualität, Herkunft und Nutzung. Unternehmen müssen sicherstellen, dass sowohl intern erzeugte als auch externe Datenquellen den ethischen, rechtlichen und fachlichen Anforderungen entsprechen. Richtlinien regeln den gesamten Datenumgang: von der Identifikation der Quelle über die Bewertung der Eignung bis hin zur Dokumentation und Überwachung von Änderungen.

Der zugrunde liegende KI-Algorithmus und das Modell spielen eine zentrale Rolle. Sie müssen so entwickelt oder angepasst werden, dass sie nachvollziehbare Entscheidungen treffen, die den definierten Zielen und der geforderten Genauigkeit des jeweiligen Anwendungsfalls entsprechen. Ethische Prinzipien wie Fairness, menschliche Autonomie und Nichtdiskriminierung sind integrale Bestandteile der Entwicklungsprozesse.

Alle manuellen Eingriffe oder Änderungen im Lernprozess werden einem strukturierten Test- und Freigabe­verfahren unterzogen. Die kontinuierliche Weiterentwicklung im Produktivbetrieb erfolgt unter klar definierten Bedingungen. Zudem sind technische und organisatorische Maßnahmen etabliert, um sowohl die Sicherheit des Modells als auch die Nachvollziehbarkeit von Änderungen zu gewährleisten.

Bei der Auswahl und Implementierung von KI-Anwendungen müssen unternehmensinterne Vorgaben beachtet werden. Ethische, gesetzliche und regulatorische Anforderungen sind bereits bei der Beschaffung zu berück­sichtigen. Change-Management-, Test- und Freigabeverfahren stellen sicher, dass nur autorisierte und geprüfte Versionen eines KI-Systems produktiv eingesetzt werden. Der laufende Betrieb wird durch geeignete Kenn­zahlen überwacht, wie etwa Antwortzeit oder Systemstabilität, um unerwünschte Unterbrechungen oder Leistungseinbußen zu vermeiden.

Die IT-Infrastruktur, in der ein KI-System betrieben wird, muss den spezifischen Anforderungen des jeweiligen Einsatzszenarios gerecht werden. Ein auf der KI-Strategie basierendes Sicherheitskonzept ist daher uner­läss­lich. Dieses Konzept umfasst unter anderem logische Zugriffskontrollen, Schutzmechanismen gegen Schad​software, physische Sicherheitsvorkehrungen sowie effektive Backup- und Datenwiederherstellungsverfahren. Diese Maßnahmen dienen dazu, das System vor Manipulation, Datenverlust oder unbefugtem Zugriff zu schützen und es auch in einem dynamischen Entwicklungsumfeld zuverlässig zu betreiben.

​

Der Einsatz von KI-Systemen ist weit mehr als eine technische Entscheidung – er erfordert eine durchdachte organisatorische, prozessuale und ethische Einbettung. Besonders in Bereichen mit finanziellen Auswirkungen oder Bedeutung für den Jahresabschluss ist ein strukturiertes Vorgehen unerlässlich. Der Prüfungsstandard IDW PS 861 bietet Unternehmen und Prüferinnen und Prüfern erstmals einen umfassenden Rahmen zur Bewertung dieser komplexen Systeme.

Rödl & Partner begleitet Sie dabei mit Fachwissen und Erfahrung – von der Strategieentwicklung über die Einführung bis hin zur Prüfung und Risikobewertung von KI-Systemen nach den neuen Standards.​