Die Auswirkungen der EU-KI-Regulierung auf Verträge im IT-Bereich

Die Europäische Union hat kürzlich den bahnbrechenden "AI Act" verabschiedet, das weltweit erste umfassende Gesetz zu KI. Die Regelungen zielen darauf ab, den Einsatz von KI strenger zu regulieren und decken verschiedene Anwendungen in unterschiedlichen Sektoren ab. Während die Versicherungswirtschaft diesen Schritt begrüßt, äußert der Gesamtverband der Deutschen Versicherungswirtschaft (GDV) Bedenken hinsichtlich der Einordnung bestimmter Anwendungen in der Lebens- und Krankenversicherung in den stark regulierten Hochrisikobereich.

Die KI-Verordnung, auch "KI-Gesetz" genannt, legt grundlegende Rahmenbedingungen für den Betrieb von KI-Systemen fest. Es wird ein risikobasierter Ansatz verfolgt, bei dem KI-Anwendungen nach ihrem Risikopotenzial kategorisiert werden. Hochrisikosysteme unterliegen umfassenden Compliance- und Risikomanagementpflichten.

Der GDV unterstützt die verbindlichen Regeln für den Einsatz von KI, betont aber die Herausforderungen für Versicherer, insbesondere bei der Einordnung von Anwendungen in den Hochrisikobereich. Dennoch sieht der Verband in der KI-Verordnung einen Schritt in die richtige Richtung, um ethische Standards und europäische Werte bei der Entwicklung von KI zu berücksichtigen.

In der Praxis bedeutet dies für Unternehmen, die KI-Systeme entwickeln oder lizenzieren, eine Anpassung ihrer Verträge. Die KI-Verordnung legt spezifische Anforderungen für Hochrisikosysteme fest, und die Hersteller müssen sicherstellen, dass ihre KI-Lösungen diese Anforderungen erfüllen. Unternehmen, die KI-Lösungen in ihre Produkte integrieren, sollten vertragliche Regelungen zu Haftung, Informationspflichten und Beweiserleichterungen bei Schäden durch KI-Systeme treffen.

Die Vertragspartner sollten insbesondere darauf achten, wer die Verantwortung für die Einhaltung der KI-Verordnung trägt. Bei extern entwickelten KI-Lösungen empfiehlt es sich, eine unbeschränkte Haftung des KI-Auftragnehmers zu vereinbaren. Darüber hinaus sind Regelungen zu den Rechten am Input und Output von KI-Lösungen zu treffen, um den kommerziellen Wert angemessen zu schützen.

Die bevorstehende KI-Haftungsrichtlinie und die Neufassung der Produkthaftungsrichtlinie sind weitere Gesetzgebungsvorhaben, die die Vertragsgestaltung beeinflussen werden. Unternehmen sollten sich bereits jetzt auf diese Änderungen vorbereiten und ihre Verträge entsprechend anpassen.

Insgesamt erfordert die KI-Regulierung der EU eine proaktive Herangehensweise bei Vertragsverhandlungen und -anpassungen, um die Einhaltung der neuen Standards sicherzustellen und Rechtsunsicherheiten zu minimieren.