KI-Verordnung kommt – Neue Pflichten für (Immobilien-)Unternehmen beim Einsatz von KI

PrintMailRate-it

​​​​​​​

​veröffentlicht am 2. Mai 2024




​Spätestens seit ChatGPT ist Künstliche Intelligenz (KI) in aller Munde und erlebt einen regelrechten Hype. Auch in verschiedenen Bereichen der Immobilienbranche hat der Einsatz von KI erheblich an Bedeutung gewonnen. Dabei bietet das nicht nur Vorteile, sondern geht auch mit Risiken einher. Am 13.3.2024 hat das Europäische Parlament nun die weltweit erste KI-Verordnung verabschiedet und damit einen wichtigen Schritt im Hinblick auf die Regulierung von KI gemacht. Nun stellt sich die Frage: Welche neuen Pflichten kommen dadurch auf (Immobilien-)Unternehmen zu? 


Die Art und Weise wie Immobilien verwaltet, bewertet und vermarktet werden, kann durch KI erheblich verändert werden. Eines der wichtigsten Anwendungsfelder von KI in der Immobilienbranche ist die Automatisierung von Prozessen – sei es Gebäudeautomation, Facility Management oder auch die KI als Immobilienmakler. Beim Einsatz von KI sind allerdings auch einige Risiken zu berücksichtigen. 

Auch auf EU-Ebene wurde erkannt, dass der rasante Fortschritt in der KI-Technologie neue rechtliche Rahmenbedingungen erfordert, um sicherzustellen, dass ethische, transparente und sichere KI eingesetzt wird. Die nun verabschiedete KI-Verordnung stellt einen Teil der bereits 2018 angekündigten europäischen digitalen Strategie dar. 

Auswirkungen der KI-Verordnung auf den Einsatz von KI in der Immobilienwirtschaft​

Die KI-Verordnung der EU („AI-Act”) legt klare Regelungen und Standards für den Umgang mit KI-Systemen fest.  Dabei verfolgt sie einen risikobasierten Ansatz, wonach KI-Systeme einer Risikoklasse zugeordnet werden und Anbieter bzw. Anwender von KI-Systemen je nach Schwere der Beeinträchtigung strengere Pflichten aufgegeben werden. Die KI-Verordnung erfasst dabei alle öffentlichen und nicht-öffentlichen Stellen, die KI-Systeme in Verkehr bringen oder nutzen.

Der Umfang der Pflichten, die Immobilienunternehmen erfüllen müssen, hängt dabei stark vom jeweils verwendeten KI-System ab. Die folgenden zwei Pflichten gelten jedoch für alle Unternehmen, die KI-Systeme anbieten bzw. nutzen:

  • KI-Kompetenz: Unternehmen müssen sicherstellen, dass ihre Mitarbeiter, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende Fachkenntnisse verfügen. Schulungen zu Datenschutz, Ethik und KI-Verantwortung sind hierfür ein essenzieller Teilbereich. 
  • Transparenzpflichten: Anbieter müssen außerdem sicherstellen, dass betroffenen natürlichen Personen mitgeteilt wird, dass sie es mit einem KI-System zu tun haben. Etwas anderes gilt nur dann, wenn dies aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist. Neben dem Anbieter trifft aber auch den Anwender eine Transparenzpflicht. Dieser muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden (z. B. Deepfakes).
  • Anforderungen an Hochrisiko-KI-Systeme: Daneben normiert die KI-Verordnung einen umfangreichen Pflichtenkatalog für Hochrisiko-KI-Systeme. Ob eine KI als Hochrisiko-KI eingestuft wird, richtet sich dabei nach dem Klassifikationssystem in Art. 6 und 7 der KI-Verordnung. Entscheidend ist demnach, ob ein Risiko für Sicherheit und Gesundheit oder Grundrechtsverletzungen besteht. 

Zu beachten ist außerdem, dass diese Pflichten unter bestimmten Voraussetzungen auch für einen Nutzer gelten können, nämlich dann, wenn das Unternehmen ein Hochrisiko-KI-System nutzt und an diesem oder seiner Zweckbestimmung wesentliche Änderungen vornimmt. Dies betrifft insbesondere:

  • Menschliche Aufsicht während der Verwendung 
  • Aufzeichnungspflicht für automatisch erzeugte Protokolle, um das ordnungsgemäße Funktionieren des KI-Systems nachweisen zu können
  • Prüf- und Dokumentationspflichten
  • Genauigkeit, Robustheit und Cybersicherheit im Hinblick auf den Verwendungszweck der risikobehafteten KI-Systeme

Außerdem besteht die Möglichkeit, dass Betreiber und Nutzer von Systemen mit minimalem Risiko die Anforderungen für Hochrisiko-KI-Systeme auf freiwilliger Basis umsetzen.

Bis wann müssen die Anforderungen der KI-Verordnung umgesetzt werden?​

Die meisten Regelungen der KI-Verordnung sollen nach einer Übergangsfrist von zwei Jahren zur Anwendung kommen. Eine Umsetzung in nationales Recht ist dabei nicht erforderlich. Die Verordnung findet unmittelbar Anwendung. Es gibt jedoch auch Vorschriften, wie beispielsweise die Pflicht, KI-Kompetenz durch Schulungen zu gewährleisten oder auch das Verbot bestimmter Arten von KI-Systemen, die bereits sechs Monate nach Inkrafttreten gelten. 

Datenschutz und Datensicherheit bleiben

Bei alldem sollte außerdem nicht vergessen werden, dass die Regelungen des Datenschutzes, insbesondere die DSGVO, weiterhin gelten. Soweit in KI-Anwendungen also personenbezogene Daten verarbeitet werden, muss auch das Datenschutzrecht eingehalten werden. Auch Fragen zur Datensicherheit sollten im Zusammenhang mit dem Einsatz von KI nicht unbeantwortet bleiben. 

Fazit und Ausblick

Der rasante technische Fortschritt deutet darauf hin, dass künftig immer mehr KI-Systeme eingesetzt werden und somit auch die KI-Verordnung nur den Beginn einer Reihe von Gesetzen darstellt, die solche Systeme regulieren sollen. Auch wenn die umfangreichen Pflichten der KI-Verordnung nur auf den Einsatz von Hochrisikosystemen anwendbar sind und aller Voraussicht nach in den meisten Fällen nicht direkt auf den Einsatz von KI in der Immobilienbranche, macht es durchaus Sinn, bereits jetzt die notwendigen Vorkehrungen zu treffen.

Immobilienunternehmen, die KI bereits einsetzen oder einen solchen Einsatz planen, sollten sich mit den regulatorischen Anforderungen auseinandersetzen. Zu berücksichtigen ist dabei, welchen Anwendungsbereich die eingesetzte KI hat, welche Risiken sie birgt und ob die damit verbundenen Pflichten umsetzbar sind. Umfangreiche Pflichten bestehen immer dann, wenn Hochrisiko-KI angeboten oder eingesetzt wird oder wenn ein Unternehmen als Anbieter von General Foundation Modellen eingestuft wird.

Die dynamische Entwicklung wird in Zukunft sicher für weiteren Anpassungsbedarf sorgen. 





 AUS DEM NEWSLETTER

​​​​​​​Fokus Immobilien

Kontakt

Contact Person Picture

Sabine Schmitt

Rechtsanwältin

Manager

+49 911 9193 3710

Anfrage senden

Profil

 WIR BERATEN SIE GERN!

Deutschland Weltweit Search Menu