In der Bachelorarbeit wird untersucht, welche haftungsrechtlichen Fragestellungen beziehungsweise Probleme sich bei dem Einsatz von KI im Gesundheitswesen gegenüber Patienten ergeben und ob die geforderte Einführung neuer Haftungsregelungen wirklich notwendig ist.
Wem wird das Handeln von künstlich intelligenten Systeme im Gesundheitswesen zugerechnet, wenn ein System allein Verträge schließt, eigenständig lernt und Entscheidungen trifft? Diese Frage stellt sich vor allem dann, wenn es zu einem Behandlungsfehler kommt und von dem Patienten Schadensersatzansprüche oder Schmerzensgelder geltend gemacht werden. Wen soll ein Geschädigter in Anspruch nehmen, wenn kein Mensch, sondern ein System gehandelt hat und wie werden Beweise geführt? Es ist zu bedenken, dass das nationale Haftungsrecht nicht nur darauf abzielt, dass Geschädigte eine berechtigte Entschädigung erhalten, sondern auch einen wirtschaftlichen Anreiz für haftende Personen darstellt, Schäden zu vermeiden. Diese Grundsätze sollten auch bei dem Einsatz von KI eingehalten werden.
Spezifische Haftungsregelungen für KI-Systeme gibt es im nationalen Recht noch nicht. Da KI somit auch aus juristischer Sicht Neuland ist, wird von vielen Seiten von der Legislative gefordert, dass neue Haftungsregelungen eingeführt werden müssen. Fraglich ist, ob dies notwendig ist oder das nationale Zivilrecht auf den Einsatz von KI im Gesundheitswesen bereits vorbereitet ist und lediglich einzelne Rechtsnormen angepasst werden müssen.
Inhaltsverzeichnis
- A. Einleitung
- B. KI im Überblick
- Abgrenzung der "schwachen" KI zur "starken" KI
- I. Expertensysteme
- II. Lernende Systeme
- III. Einsatz von KI im Gesundheitswesen
- 1. Anwendungen in der Medizin
- 2. Einordnung der KI-Systeme als Medizinprodukt
- IV. Zwischenfazit
- C. Ausgewählte haftungsrechtliche Probleme
- I. Herausforderungen für das Haftungsrecht
- II. Vertragliche Haftung
- 1. Abschluss eines Behandlungsvertrages durch eine KI
- a) Abgabe einer Willenserklärung durch eine KI
- b) Zurechnung der Willenserklärung zum Betreiber
- aa) Analoge Anwendung der Computererklärung
- bb) KI als Erklärungsbote
- cc) KI als Vertreter
- c) Zwischenfazit
- 2. Haftung des Betreibers aus §§ 280 Abs. 1 i.V.m. 630a BGB
- a) Schuldverhältnis
- b) Pflichtverletzungen
- c) Vertretenmüssen des Vertragsschuldners
- aa) Verletzung von Verkehrs- und Sorgfaltspflichten
- bb) Abweichung vom Facharztstandard
- cc) Aufklärungsfehler
- dd) Zurechnung des Verschuldens Dritter
- d) Haftungsbegründende Kausalität
- aa) Äquivalente Kausalität
- bb) Adäquate Kausalität
- e) Beweislast bei voll beherrschbaren Behandlungsfehlern
- f) Zwischenfazit
- III. Deliktische Haftung / Produkthaftung
- 1. Haftung der KI aus § 823 Abs. 1 BGB
- 2. Haftung des Betreibers aus § 823 Abs. 1 BGB
- a) Analogie zur vertraglichen Haftung des Betreibers
- aa) Zurechnung des Verschuldens Dritter
- bb) Beweislast bei voll beherrschbaren Behandlungsfehlern
- b) Zwischenfazit
- 3. Haftung des Betreibers aus § 831 Abs. 1 BGB
- 4. Haftung des Herstellers aus § 1 ProdHaftG
- a) Inanspruchnahme und Herstellerverantwortung
- b) KI-Systeme als Produkt im Sinne des ProdHaftG
- c) Vorliegen eines Fehlers
- aa) Berechtigterweise zu erwartende Sicherheit
- bb) Zeitpunkt des Inverkehrbringens
- cc) Haftungsentlastung für Entwicklungsfehler
- d) Beweislast
- e) Zwischenfazit
- 5. Haftung des Herstellers aus § 823 Abs. 1 BGB
- a) Verantwortlichkeit des Herstellers
- b) Beweislast
- c) Zwischenfazit
- IV. Mögliche Lösungsansätze
- 1. Einführung einer digitalen Rechtsperson
- 2. Einführung einer Gefährdungshaftung des Betreibers
- E. Fazit
- Haftung für Entscheidungen und Handlungen von KI-Systemen
- Zurechnung von KI-bedingten Fehlern
- Bedeutung von Transparenz und Verantwortlichkeit im Umgang mit KI
- Rechtliche Rahmenbedingungen für die Entwicklung und Anwendung von KI im Gesundheitswesen
- Mögliche Lösungsansätze für die bestehenden Herausforderungen
Zielsetzung und Themenschwerpunkte
Die vorliegende Bachelorarbeit befasst sich mit den haftungsrechtlichen Problemen, die sich aus dem Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen ergeben. Ziel ist es, die rechtlichen Herausforderungen im Bereich der Haftung gegenüber Patienten im Zusammenhang mit KI-gestützten Behandlungsentscheidungen zu analysieren.
Zusammenfassung der Kapitel
Die Einleitung liefert eine Einführung in die Thematik und stellt die Relevanz der Untersuchung dar. In Kapitel B wird ein Überblick über den Begriff der Künstlichen Intelligenz gegeben, wobei zwischen "schwacher" und "starker" KI unterschieden und verschiedene Anwendungsgebiete im Gesundheitswesen beleuchtet werden.
Kapitel C untersucht die haftungsrechtlichen Probleme im Detail. Zuerst werden die Herausforderungen für das Haftungsrecht im Kontext von KI diskutiert. Anschließend werden die Haftungsformen der vertraglichen Haftung und der deliktischen Haftung / Produkthaftung in Bezug auf den Einsatz von KI im Gesundheitswesen analysiert. Es werden verschiedene Aspekte, wie der Abschluss eines Behandlungsvertrages durch eine KI, die Zurechnung von Schuld, Beweislast und Haftungsbegründende Kausalität, detailliert betrachtet.
Schlüsselwörter
Künstliche Intelligenz, Gesundheitswesen, Haftungsrecht, Behandlungsvertrag, Deliktische Haftung, Produkthaftung, Zurechnung, Beweislast, Verantwortlichkeit, Transparenz, Rechtliche Rahmenbedingungen, Lösungsansätze
Häufig gestellte Fragen
Wer haftet für Behandlungsfehler durch Künstliche Intelligenz?
Aktuell wird das Handeln von KI-Systemen meist dem Betreiber (z. B. dem Krankenhaus oder Arzt) zugerechnet. Es wird geprüft, ob bestehende Haftungsregeln ausreichen oder neue Gesetze für die Eigenständigkeit von KI-Entscheidungen nötig sind.
Kann eine KI selbstständig einen Behandlungsvertrag abschließen?
Rechtlich gesehen kann eine KI keine eigene Willenserklärung abgeben. Ihr Handeln wird jedoch analog zur "Computererklärung" oder über die Boten- bzw. Vertreterschaft dem menschlichen Betreiber zugerechnet.
Was ist der Unterschied zwischen "schwacher" und "starker" KI in der Medizin?
Schwache KI ist auf spezifische Aufgaben (z. B. Bildanalyse in der Radiologie) spezialisiert. Starke KI, die menschenähnliche kognitive Fähigkeiten besitzt und völlig autonom handelt, existiert derzeit in der medizinischen Praxis noch nicht.
Wie funktioniert die Produkthaftung bei KI-Medizinprodukten?
Hersteller haften nach dem Produkthaftungsgesetz, wenn das KI-System einen Fehler aufweist, der zum Zeitpunkt des Inverkehrbringens bereits angelegt war. Die Beweislast bei komplexen, lernenden Systemen stellt Patienten jedoch oft vor große Herausforderungen.
Gibt es Überlegungen für eine "digitale Rechtsperson"?
Ja, ein Lösungsansatz ist die Einführung einer elektronischen Person (e-person), die eine eigene Haftung übernimmt. Ein anderer Ansatz ist die Gefährdungshaftung des Betreibers, ähnlich wie bei Kraftfahrzeugen.
Welchen Standard muss eine KI bei der Behandlung erfüllen?
Die KI-gestützte Behandlung muss dem aktuellen Facharztstandard entsprechen. Weicht das System ohne medizinische Rechtfertigung davon ab und entsteht ein Schaden, liegt eine Pflichtverletzung vor.
- Citar trabajo
- Lisa Osterloh (Autor), 2021, Der Einsatz von Künstlicher Intelligenz im Gesundheitswesen. Ausgewählte haftungsrechtliche Probleme gegenüber Patienten, Múnich, GRIN Verlag, https://www.grin.com/document/1000907
