Artificial intelligence (AI)

Was ist künstliche Intelligenz?

Künstliche Intelligenz (KI) bezeichnet die Fähigkeit von Computersystemen, Aufgaben zu lösen, die traditionell menschliche Intelligenz erfordern. Dazu gehören das Lernen aus Erfahrungen, das Verstehen natürlicher Sprache, das Erkennen von Mustern und das Treffen von Entscheidungen. Moderne KI-Systeme basieren auf komplexen Algorithmen und großen Datenmengen, die als Trainingsdaten dienen. KI kommt damit primär eine Problemlösungsfunktion zu, die Unternehmen und Privatpersonen bei der Bewältigung komplexer Herausforderungen unterstützt. Künstliche Intelligenz kann in zahlreichen Bereichen eingesetzt werden, die operative (Prozessautomatisierung), analytische (Datenanalyse) oder kreative (Inhaltserstellung) Bedeutung haben.

Neben dieser Problemlösungsfunktion erfüllt künstliche Intelligenz aber auch eine Transformationsfunktion, weil sie bereits bestehende Geschäftsmodelle grundlegend verändert und neue Möglichkeiten schafft. Gerade dies war und ist Grund für zahlreiche rechtliche Fragestellungen bzgl. der Entwicklung und Nutzung von KI-Systemen. Rechtsfragen aus und um Künstliche Intelligenz hängen oft mit Datenschutzrecht, Haftungsrecht, Urheberrecht oder auch dem Arbeitsrecht zusammen. Gelegentlich kommt es aber auch vor, dass eine KI-Entscheidung diskriminierend ist und daher von Betroffenen oder Aufsichtsbehörden beanstandet wird. Dies ist zum Beispiel der Fall, wenn die KI-Systeme unbewusste Vorurteile aus den Trainingsdaten übernehmen und dadurch bestimmte Personengruppen benachteiligen.

Wesentliche Rechtsvorschriften für die Anwendung künstlicher Intelligenz

Die Anwendung künstlicher Intelligenz unterliegt einer wachsenden Zahl von Rechtsvorschriften auf europäischer und nationaler Ebene.

Zentrale Rechtsvorschrift ist die KI-Verordnung (KI-VO) der Europäischen Union, die KI-Systeme nach ihrem Risikopotenzial in vier Kategorien einteilt: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Während KI-Systeme mit unannehmbarem Risiko (wie social scoring durch Behörden) verboten sind, gelten für Hochrisiko-KI-Systeme (z.B. in kritischen Infrastrukturen, Medizinprodukten oder Personalentscheidungen) strenge Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht.

(Grafik von der Webseite der EU-Kommission, abrufbar unter https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai, CC BY 4.0)

Neben der KI-VO, die auch als “AI Act” bezeichnet wird, sind insbesondere die Datenschutz-Grundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG) von zentraler Bedeutung, da künstliche Intelligenz häufig große Mengen personenbezogener Daten verarbeitet. Hier gelten besondere Anforderungen an die Rechtmäßigkeit der Datenverarbeitung, die Informationspflichten und die Rechte der betroffenen Personen. Im Urheberrecht stellt sich die Frage, ob durch künstliche Intelligenz generierte Inhalte urheberrechtlichen Schutz genießen und ob Trainingsdaten urheberrechtlich geschütztes Material umfassen dürfen.

Im Haftungsrecht können KI-Systeme als Produkte im Sinne des Produkthaftungsgesetzes betrachtet werden können, was zu einer verschuldensunabhängigen Haftung führen kann. Zudem gelten die allgemeinen zivilrechtlichen Grundsätze zur Haftung. Beachtet werden sollten auch die Diskriminierungsverbote im Allgemeinen Gleichbehandlungsgesetz (AGG), da KI-Systeme unbeabsichtigt diskriminierende Entscheidungen treffen können.

Die vielschichtigen teilweise parallel anwendbaren Rechtsvorschriften erfordern eine sorgfältige Prüfung von KI-Anwendungen im Einzelfall, um rechtliche Risiken zu minimieren und Compliance sicherzustellen.

Grundsätze des KI-Rechts

Wichtigster Grundsatz im KI-Recht ist – wie im gesamten Technikrecht – der Rechtmäßigkeitsgrundsatz: Die Entwicklung und Nutzung von KI müssen rechtlich zulässig sein. Dieser Grundsatz gilt allerdings nur bei risikobehafteten KI-Anwendungen uneingeschränkt. Solche Systeme bergen hohe Risiken für Grundrechte oder Sicherheit, wie zum Beispiel autonomes Fahren oder medizinische Diagnosesysteme. Weiter ist wichtig, dass die Nutzung von KI als solche keinerlei Sonderrechte verleiht, insbesondere keine Haftungsfreistellung mit Wirkung gegenüber Geschädigten.

Das bedeutet, dass alle KI-Systeme, die keine oder nur geringe Risiken aufweisen, grundsätzlich frei entwickelt und genutzt werden können. Dennoch muss der bestehende rechtliche Rahmen eingehalten werden. Dies ist Ausprägung des allgemeinen technologieneutralen Rechtsgrundsatzes. Die Entwicklung und Nutzung von KI folgen damit den üblichen rechtlichen Gegebenheiten. 

Bei der Implementierung von ist KI darauf zu achten, dass dem Vorhaben keine datenschutzrechtlichen, haftungsrechtlichen oder urheberrechtlichen Bedenken entgegenstehen, wenn künstliche Intelligenz eingesetzt werden soll. Eine Einschränkung erfahren KI-rechtliche Anforderungen aber dadurch, dass eine strenge Regulierung nur dann greift, wenn KI-Systeme in hochriskanten Bereichen eingesetzt werden oder personenbezogene Daten verarbeiten.

Wenn ein Unternehmen künstliche Intelligenz für interne Zwecke nutzt, gelten weder die strengen Transparenzanforderungen noch ist die Erklärbarkeit der Entscheidungen immer entscheidend. Maßgebend ist dann alleine, ob die KI-Nutzung den vertraglichen und gesetzlichen Pflichten genügt. Wenn dies der Fall ist, darf sie eingesetzt werden, andernfalls nicht.

Rechtsfragen bei Verstößen

Sofern ein Unternehmen oder eine Privatperson durch die Entwicklung oder Nutzung einer KI Rechtsvorschriften (zum Beispiel Datenschutzrecht, Haftungsrecht, Urheberrecht, Diskriminierungsverbote) verletzt, steht den Betroffenen ein Unterlassungsanspruch zu. Dieser Anspruch ist im geschäftlichen Bereich auf die Unterlassung der rechtswidrigen KI-Nutzung für bestimmte Geschäftszwecke, im privaten Bereich auf die Unterlassung der Nutzung schlechthin gerichtet. 

Eine vollständige Deaktivierung der KI kann aber nur verlangt werden, wenn letztlich überhaupt keine rechtmäßige Nutzung denkbar ist, nicht einmal eine stark eingeschränkte. Einen Anspruch auf Offenlegung der KI-Algorithmen kennt das deutsche Recht dagegen nicht. Der Anspruchsteller muss sich also etwas einfallen lassen, um die Funktionsweise einer KI zu überprüfen – zum Beispiel durch gerichtliche Anordnung einer unabhängigen Begutachtung. Bei KI-Systemen im öffentlichen Sektor ist jedoch im Falle von Diskriminierung ein Auskunftsanspruch ausdrücklich geregelt. Dieser Anspruch kann auch vor einem deutschen Gericht durchgesetzt werden.

Künstliche Intelligenz in der Beratung bei AVANTCORE

In unserer Stuttgarter Kanzlei AVANTCORE Rechtsanwälte bieten wir Ihnen eine umfassende Beratung durch mehrere erfahrene und spezialisierte Rechtsanwälte und Fachanwälte in allen Fragen des KI-Rechts. Wir beraten bei der Entwicklung und Implementierung von KI-Systemen, um rechtliche Probleme von vornherein zu vermeiden. Als Unternehmen oder Entwickler beraten und vertreten wir Sie bei der Abwehr von Ansprüchen. Falls Sie in Ihren Rechten durch eine KI-Anwendung verletzt werden, helfen wir Ihnen, Ihre Ansprüche gegen den Betreiber durchzusetzen. Wir vertreten unsere Mandanten sowohl außergerichtlich, zum Beispiel bei Abmahnungen, als auch bei Streitigkeiten vor Gericht oder Auseinandersetzungen mit Behörden.