Organhaftung im Zeitalter von KI und Automatisierung

Künstliche Intelligenz (KI) und automatisierte Systeme verändern zunehmend den Unternehmensalltag. Sie finden heute in der Buchhaltung, im Personalwesen oder im Controlling Anwendung. Also überall dort, wo Daten verarbeitet und Entscheidungen vorbereitet werden. KI kann dabei die Unternehmensabläufe deutlich erleichtern, doch trotz aller technologischen Vorteile bleibt die Organhaftung bei KI-Einsatz bestehen: Für die getroffenen Entscheidungen trägt weiterhin die Geschäftsführung die Verantwortung.

Was bedeutet Organhaftung im Zusammenhang mit KI?

Unter Organhaftung versteht man die persönliche Haftung von Geschäftsführern, Vorständen oder leitenden Organen, wenn sie ihre Pflichten verletzen.
Im Kontext von Künstlicher Intelligenz bedeutet das: Auch wenn Entscheidungen automatisiert vorbereitet oder getroffen werden, bleibt die Sorgfaltspflicht beim Menschen.
Die Geschäftsleitung muss sicherstellen, dass KI-Systeme rechtssicher, nachvollziehbar und kontrollierbar arbeiten.

Verantwortung bleibt Chefsache

Auch wenn ein Algorithmus Empfehlungen ausspricht oder Entscheidungen vorbereitet, kann sich die Geschäftsführung ihrer Verantwortung nicht entziehen.
Sie ist dabei verpflichtet, die Sorgfalt eines ordentlichen Geschäftsmannes walten zu lassen. Das schließt ein, sich vor der Einführung einer KI-Lösung ein genaues Bild von deren Funktionsweise, Risiken und Grenzen zu machen. Und nach der Einführung deren Ergebnisse regelmäßig zu kontrollieren.

Automatisierte Prozesse können eben nur dann entlasten, wenn sie auch verlässlich funktionieren. Stellt sich im Nachhinein heraus, dass fehlerhafte Programmierungen oder unzureichende Kontrollen zu wirtschaftlichen Schäden geführt haben, kann die Geschäftsführung persönlich haften. Wie sich das konkret auswirken kann, zeigen folgende Beispiele.

Praxisbeispiele für Organhaftung durch KI

Beispiel 1: Ein Unternehmen verwendet ein KI-System zur Kreditwürdigkeitsprüfung von Geschäftspartnern. Das System stuft einen zahlungsfähigen Kunden fälschlicherweise als risikobehaftet ein, wodurch ein größerer Auftrag verloren geht. Hätte die Geschäftsführung bei regelmäßiger Kontrolle den Fehler erkennen können und hat dies nicht getan, droht dem Geschäftsführer eine persönliche Haftung.

Beispiel 2: Eine automatisierte Preisfindungssoftware berücksichtigt gesetzliche Vorgaben zu Preisbindungen nicht. Dadurch werden Wettbewerbsverstöße begangen und von den Geschädigten Schadensersatzansprüche gegen die Gesellschaft geltend gemacht. Auch hier gilt: Hätte die Geschäftsführung bei regelmäßiger Kontrolle den Fehler erkennen können und hat dies nicht getan, droht dem Geschäftsführer eine persönliche Haftung.

Fehlentscheidungen und Systemfehler durch KI

Besonders kritisch sind also die Situationen, in denen KI-Systeme Fehlentscheidungen treffen. Etwa bei der Bewertung von Bonität, Investitionen oder Personal.

Stellt sich heraus, dass das System unzureichend überprüft wurde oder die Kontrolle mangelhaft organisiert war, kann der Vorwurf eines Organisationsverschuldens im Raum stehen.

Diskriminierungsrisiken durch KI im Personalwesen

Ein weiteres Risiko zeigt sich im Personalbereich. Bewerbungs- und Bewertungssoftware kann unbewusst diskriminierende Kriterien übernehmen, etwa wenn Trainingsdaten verzerrt sind.
Treffen solche Systeme Entscheidungen, die gegen das Allgemeine Gleichbehandlungsgesetz (AGG) verstoßen, haftet zunächst das Unternehmen – unter Umständen aber auch die Geschäftsleitung, wenn sie keine ausreichenden Prüf- und Korrekturmechanismen eingerichtet hat.

Gerade dort, wo Personalentscheidungen automatisiert oder extern unterstützt werden, ist Sensibilität gefragt. Eine klare Dokumentation und regelmäßige Überprüfung der Systeme ist hier entscheidend.

Pflichten der Geschäftsführung zur Mitarbeiterschulung bei KI-Anwendungen

Zur ordnungsgemäßen Organisation eines Unternehmens gehört auch, dass Mitarbeiter den sicheren Umgang mit KI-Systemen beherrschen. Wer regelmäßig mit solchen Systemen arbeitet, sollte über deren Funktionsweise und Grenzen informiert sein.

In der Praxis empfiehlt es sich, mindestens einmal jährlich Schulungen zu Datenschutz, Diskriminierungsrisiken und Systemkontrolle durchzuführen. Zusätzlich immer dann, wenn neue KI-Anwendungen eingeführt oder bestehende Systeme wesentlich verändert werden.

Schulungen können sowohl intern als auch digital erfolgen, entscheidend ist eine nachvollziehbare Dokumentation der Inhalte und Teilnahme.

Fehlen solche Strukturen, kann dies im Haftungsfall als Organisationsverschulden der Geschäftsführung gewertet werden.

Klare Regeln und Dokumentation für den sicheren Einsatz von KI

Wer KI einsetzt, sollte verbindliche Regeln zur Nutzung festlegen. Dazu gehören:

• eine nachvollziehbare Auswahl und Prüfung der eingesetzten Systeme,
• die Festlegung interner Zuständigkeiten für Überwachung und Kontrolle,
• regelmäßige Risikoanalysen,
• und eine lückenlose Dokumentation der Entscheidungsprozesse.

Solche Strukturen sind nicht nur Teil einer guten Unternehmensführung, sondern auch der wirksamste Schutz vor persönlicher Haftung.

Fazit: Verantwortung für KI bleibt beim Menschen

Künstliche Intelligenz kann wertvolle Unterstützung leisten, ersetzt aber nicht die unternehmerische Verantwortung.
Geschäftsführer und Vorstände müssen sicherstellen, dass automatisierte Systeme rechtmäßig, nachvollziehbar und kontrollierbar eingesetzt werden. Wer sich auf Technik verlässt, ohne sie zu verstehen, riskiert im Ernstfall mehr als nur einen Softwarefehler. Nämlich die eigene Haftung.

Dr. Hille Heinemann Rechtsanwälte unterstützen Sie bei allen Fragen rund um die Themen Organhaftung, Unternehmensorganisation und der rechtssicheren Integration von KI in betriebliche Abläufe.