KI-Halluzinationen und Recht: Urteil des LG Kiel zur Haftung bei fehlerhaften KI-Inhalten

von | Mai 1, 2025 | Allgemein

Generative KI – Chancen und Risiken

Der Einsatz generativer Künstlicher Intelligenz (KI), insbesondere von Large Language Models (LLMs), revolutioniert den Umgang mit Daten und Informationen. Unternehmen profitieren von zahlreichen Vorteilen, doch die Technologie birgt auch erhebliche Risiken. Ein zentrales Problem sind sogenannte KI-Halluzinationen – fehlerhafte Inhalte, die aufgrund unzureichender Informationen entstehen.
Mit Urteil vom 29. Februar 2024 (Az. 6 O 151/23) hat das Landgericht Kiel eine richtungsweisende Entscheidung zur Haftung für KI-generierte Inhalte getroffen.

Unternehmen haftet für fehlerhafte KI-Informationen

Im konkreten Fall veröffentlichte ein mittelständisches Unternehmen falsche Informationen über ein anderes Unternehmen. Die Beklagte betrieb eine Plattform für Wirtschaftsinformationen, die automatisiert Daten aus öffentlichen Registern anzeigte. Das System meldete fälschlicherweise, die klagende Gesellschaft sei wegen Vermögenslosigkeit nach § 394 FamFG gelöscht worden – eine unzutreffende Behauptung.

Automatisierung schützt nicht vor Verantwortung

Die Beklagte nutzte eine KI-gestützte Software, die Informationen anhand von Suchbegriffen aus öffentlichen Quellen filtert. Auf der Website wurde zwar auf die automatisierte Generierung und mögliche Fehler hingewiesen, ergänzt um einen Haftungsausschluss.
Das LG Kiel stellte jedoch klar: Weder Automatisierung noch Disclaimer befreien von der Verantwortung. Die Klägerin verlangte Löschung und Unterlassung, was das Gericht aufgrund einer Verletzung des Unternehmenspersönlichkeitsrechts (§ 1004 BGB analog i. V. m. Art. 2 Abs. 1, Art. 19 Abs. 3 GG) bestätigte. Fehlinformationen können den Ruf und die Kreditwürdigkeit eines Unternehmens erheblich beeinträchtigen.

Wiederholungsgefahr durch ungeprüfte Systeme

Das Gericht sah die Wiederholungsgefahr als gegeben an, da die Beklagte weiterhin auf das automatisierte System vertraute, ohne dessen Ergebnisse ausreichend zu prüfen.

Bedeutung des Urteils für Unternehmen

Das Urteil verdeutlicht: Unternehmen tragen die volle Verantwortung für Inhalte, die ihre KI-Systeme generieren. Automatisierung oder Haftungsausschlüsse genügen nicht – Qualitätssicherung ist Pflicht.
Auch wenn die Europäische KI-Verordnung (AI Act) solche Maßnahmen nur für Hochrisiko-KI vorschreibt, bleibt das Risiko bestehen: Werden unrichtige Inhalte veröffentlicht, haftet das Unternehmen unabhängig von der Technologie.

Was sind KI-Halluzinationen?

KI-Halluzinationen sind Inhalte, die zwar plausibel erscheinen, aber nicht den zugrunde liegenden Fakten oder Quellen entsprechen. Sie entstehen oft durch fehlende Kontextinformationen oder fehlerhafte Interpretationen – insbesondere bei generativen Aufgaben wie Zusammenfassungen oder Antworten auf offene Fragen.

Ursachen von KI-Halluzinationen

  • Trainingsdaten: Fehlerhafte, veraltete oder unvollständige Datensätze führen zu falschen Schlussfolgerungen.
  • Trainingsmethoden: Schwachstellen wie „Attention Glitches“ oder „Exposure Bias“ können zu Fehlinterpretationen führen.
  • Antwortgenerierung (Inferenz): Wahrscheinlichkeitsbasierte Prozesse bergen das Risiko unplausibler Ergebnisse, etwa durch „Likelihood Trap“ oder „Overconfidence“.

Erkennen von KI-Halluzinationen

  • Unsicherheiten prüfen: Übermäßig detaillierte oder absolute Aussagen kritisch hinterfragen.
  • Faktencheck: Aussagen mit verlässlichen Quellen abgleichen.
  • Details hinterfragen: Unstimmigkeiten bei Daten, Namen oder Zahlen überprüfen.
  • KI als Prüfer: Mit anderen Modellen oder Tools wie dem response_hallucination-Modul gegenprüfen.

Vermeidung und Reduzierung von Halluzinationen

Eine vollständige Vermeidung ist derzeit nicht möglich.
Maßnahmen zur Reduzierung:

  • Präzise Eingaben formulieren
  • Chain-of-Thought-Prompting zur Fehlererkennung
  • Retrieval-Augmented Generation (RAG) zur Anreicherung mit externen Quellen
  • Kritische menschliche Prüfung als letzter Sicherheitsschritt

SBS LEGAL – Ihre Kanzlei für das KI-Recht und ChatGPT-Recht

Möchten Sie mehr darüber erfahren, wie Sie sich vor den Risiken von KI-Halluzinationen schützen können? Wollen Sie wissen, ob Ihr Unternehmen für fehlerhafte, KI-generierte Inhalte haftbar gemacht werden kann? Oder sind Sie bereits mit einer Abmahnung konfrontiert und benötigen rechtlichen Beistand?

Dann sind Sie bei SBS LEGAL genau richtig!

Unser erfahrenes Team berät Sie umfassend zu allen rechtlichen Aspekten rund um den Einsatz von Künstlicher Intelligenz, einschließlich der Haftungsfragen. Wir unterstützen Sie dabei, Ihre Systeme rechtssicher zu gestalten, prüfen KI-generierte Inhalte auf mögliche Risiken und stehen Ihnen bei der Abwehr oder Durchsetzung von Ansprüchen zur Seite.

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie eine Rechtsberatung von den spezialisierten Fachanwälten der SBS LEGAL?

Der Erstkontakt zu SBS Legal ist immer kostenlos.

SBS Direktkontakt

telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.

Unterlassungsanspruch gegen Unternehmen wegen KI-Nutzung

von | Jan. 8, 2025 | Allgemein

KI-Inhalte werden dem Unternehmen zugerechnet

Künstliche Intelligenz (KI) ist in Unternehmen mittlerweile allgegenwärtig. Automatisierte Datensysteme vereinfachen Prozesse und liefern schnelle Ergebnisse. Doch KI-generierte Informationen sind nicht fehlerfrei. Problematisch wird es, wenn falsche Inhalte Dritte betreffen und sich Fehlinformationen verbreiten.

LG Kiel: Haftung für KI-generierte Fehlinformationen

Das Urteil des Landgerichts Kiel vom 29.02.2024 (Az. 6 O 151/23) zeigt deutlich, welche Folgen ein KI-Fehler haben kann.
Ein mittelständisches Unternehmen verklagte den Betreiber einer Wirtschaftsinformations-Website auf Unterlassung. Auf der Plattform wurde fälschlich behauptet, die Klägerin sei wegen Vermögenslosigkeit gemäß § 394 FamFG gelöscht worden.

Ursprung der Falschinformation

Die Beklagte nutzte ein automatisiertes Datensystem, das Informationen aus öffentlichen Registern anhand von Suchbegriffen filterte. Auf der Website wurde zwar angegeben, dass die Inhalte automatisiert generiert und potenziell fehlerhaft sein könnten, ergänzt durch einen Haftungsausschluss. Dennoch half dieser Hinweis vor Gericht nicht.

Die falsche Handelsregisterbekanntmachung resultierte aus einem Verarbeitungsfehler innerhalb des Systems.

Klägerin setzt Unterlassung durch

Die Klägerin verlangte die Löschung der Falschinformation und klagte auf Unterlassung. Das LG Kiel gab ihr Recht:
Die Veröffentlichung verletzte das Unternehmenspersönlichkeitsrecht (§ 1004 BGB analog i. V. m. Art. 2 Abs. 1, Art. 19 Abs. 3 GG) und konnte Ruf und Kreditwürdigkeit erheblich schädigen.

Betreiber haftet als unmittelbarer Störer

Obwohl die Beklagte die Information nicht manuell recherchierte, veröffentlichte sie die KI-generierten Inhalte auf ihrer Website. Damit gilt sie als unmittelbare Störerin.
Das Argument, der Fehler sei allein auf die KI zurückzuführen, entlastet nicht.

KI-Nutzung ist fehleranfällig – Sorgfaltspflicht bleibt

KI erleichtert viele Arbeitsprozesse, ist aber anfällig für Fehler. Unternehmen können sich nicht darauf berufen, dass die KI den Fehler verursacht habe.
Eine eigenständige Überprüfung der von automatisierten Systemen gelieferten Informationen ist zwingend erforderlich.

Wiederholungsgefahr bei fehlender Kontrolle

Für einen Unterlassungsanspruch ist neben der Rechtsverletzung eine Wiederholungsgefahr erforderlich. Das Gericht sah diese als gegeben an, da die Beklagte weiterhin KI-gestützte Daten ohne ausreichende Prüfung veröffentlicht.
Wer KI einsetzt, muss sicherstellen, dass Inhalte vor Veröffentlichung auf ihre Richtigkeit überprüft werden.

SBS LEGAL – Ihre Kanzlei für KI-Recht

Künstliche Intelligenz ist seit einiger Zeit ein Thema, das Unternehmen immer häufiger mit neuen rechtlichen Herausforderungen konfrontiert. KI-Systeme wie Chat-GPT eröffnen zahlreiche technische Möglichkeiten. Neue Technologien bergen aber auch neue Risiken. Erfahren Sie bei uns, was Sie bei der Nutzung einer KI Software beachten müssen, insbesondere hinsichtlich der möglichen Haftung.

Haben Sie noch Fragen zu der Verbreitung von Informationen und den rechtlichen Aspekten zur Nutzung von KI?

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Als Kanzlei für KI-Recht befasst sich SBS Legal mit diesen Themen, damit Sie immer auf dem neuesten Stand sind. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist immer kostenlos.

SBS Direktkontakt

telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.

Influencer haftet für Weiterverbreitung rechtswidriger Inhalte

von | Jan. 3, 2025 | Allgemein, Internetrecht

Unterlassungspflicht reicht über eigene Inhalte hinaus

Wer als Influencer im Internet aktiv ist, muss nicht nur mit Kritik rechnen, sondern auch darauf achten, keine rechtswidrigen Inhalte zu verbreiten. Enthalten Beiträge Schmähkritik, unwahre Tatsachenbehauptungen oder Beleidigungen, kann der Betroffene Unterlassung verlangen.
Das Landgericht Köln entschied am 20.08.2024 (Az. 33 O 327/24), dass die Unterlassungspflicht nicht bei eigenen Inhalten endet. Sie umfasst auch die Verantwortung für die Weiterverbreitung durch Dritte, wenn diese Inhalte weiterhin online auffindbar sind.

Aufforderung zur Weiterverbreitung rechtswidriger Videos

Im entschiedenen Fall war ein Influencer über längere Zeit Ziel mehrerer herabsetzender Videos, die ein Konkurrent auf Social-Media-Plattformen hochlud. Diese Inhalte drohten seinen Ruf zu schädigen und geschäftliche Kontakte zu beeinträchtigen.
Trotz bereits erlassener einstweiliger Verfügungen forderte der Konkurrent seine Follower auf, die Videos herunterzuladen und weiterzuverbreiten, um gerichtliche Maßnahmen zu umgehen.

LG Köln: Haftung für die Verbreitung durch Dritte

Das Gericht stellte klar: Die Haftung endet nicht mit der Löschung des Originalvideos. Wer zur Weiterverbreitung aufruft oder diese duldet, haftet auch für die Inhalte, die Dritte verbreiten – insbesondere, wenn daraus ein wirtschaftlicher Nutzen für den Unterlassungspflichtigen entsteht.
Der Betroffene kann daher nicht nur die Entfernung der Originalvideos verlangen, sondern auch die Löschung sämtlicher Inhalte, die auf diese Bezug nehmen.

Besonders haftungsbegründendes Verhalten

Im vorliegenden Fall verschärfte sich die Haftung, weil der Beklagte seine Follower aktiv zum Download und zur erneuten Verbreitung aufrief – für den Fall, dass die Videos erneut entfernt würden.

Abgrenzung durch den BGH: Keine Haftung ohne wirtschaftlichen Vorteil

Der Bundesgerichtshof (Beschluss vom 12.07.2018, Az. I ZB 86/17) begrenzte die Unterlassungspflicht in einem anderen Fall.
Demnach muss ein Fernsehsender wie der NDR nur auf Dritte einwirken, wenn deren Handeln einen wirtschaftlichen Vorteil für ihn bringt. Im dortigen Fall lag ein solcher Vorteil nicht vor, da YouTube-Aufrufe in Konkurrenz zur NDR-Mediathek standen und somit keine positive wirtschaftliche Wirkung für den Sender hatten.

SBS LEGAL – Kanzlei für Reputationrecht und Internetrecht in Hamburg

Der richtige Umgang mit negativen Bewertungen stellt sich als überaus schwierig dar. Werden Sie mit negativen Bewertungen konfrontiert, kann dies nicht nur zu einer Reputationsschädigung führen, sondern auch wirtschaftliche Folgen haben. Daher sollten Sie sich stets umfassend über den Schutz Ihrer Reputation informieren.

Unsere Anwälte von SBS Legal sind auf das Reputationsrecht sowie das Internetrecht spezialisiert und unterstützen Sie dabei, den für Sie bestmöglichen Umgang zu finden. Wir helfen Ihnen gegen etwaige negative Bewertungen vorzugehen und stehen Ihnen dabei sowohl gerichtlich als auch außergerichtlich zur Seite. 

Haben Sie noch Fragen zum Reputationsrecht oder Internetrecht?

Dann sind Sie bei uns genau richtig! Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist immer kostenlos.

SBS Direktkontakt

telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.

LG Fulda: Wenn negative Bewertungen hinzunehmen sind

von | Dez. 20, 2024 | Allgemein, Internetrecht

Verbrannte Domains und ihre Risiken

Beim Kauf einer Domain sollten Unternehmen genau prüfen, ob es sich um eine sogenannte verbrannte Domain handelt – also eine bereits genutzte Webadresse, die etwa nach einer Insolvenz stillgelegt wurde. Die Übernahme einer solchen Domain kann bedeuten, dass bestehende negative Bewertungen übernommen werden, was zu Reputationsschäden führen kann.
Das Landgericht Fulda entschied am 30.11.2024 (Az. 3 O 92/24), dass Suchmaschinenbetreiber negative Bewertungen veröffentlichen dürfen, die sich auf die frühere Inhaberin einer Domain beziehen.

Fall: Übernahme einer Domain mit Altlasten

Die Klägerin, Betreiberin einer GmbH für Wintergartenbau, erwarb durch einen Asset-Deal eine Domain aus der Insolvenzmasse der vorherigen Inhaberin. Mit der Domain waren auf einer Bewertungsplattform mehrere negative Einträge verknüpft.
Diese Plattform listet Domains, verlinkt sie, zeigt Kontaktdaten des aktuellen Inhabers und ermöglicht Nutzern die öffentliche Bewertung. Aus den Bewertungen wird eine Durchschnittsnote gebildet.

Forderung nach Löschung abgelehnt

Die Klägerin verlangte die Entfernung der negativen Bewertungen und eine Umbenennung des Domain-Profils. Zwar wurde der Domainname angepasst, die Bewertungen blieben jedoch bestehen, da sie sich auf den Domain-Namen und nicht zwingend auf die Person der Klägerin bezögen.
Das LG Fulda wies die Klage ab: Es liege keine Verletzung des Unternehmenspersönlichkeitsrechts und kein Eingriff in den Gewerbebetrieb vor.

Gründe für die Entscheidung

  • Faktische Verbindung: Die Klägerin führte das Geschäft der alten Domain-Inhaberin fort.
  • Unverändertes Impressum und Geschäftsführer: Der in den Bewertungen genannte Geschäftsführer blieb im Amt.
  • Informationsinteresse: Kunden haben ein berechtigtes Interesse, sich über den Geschäftsführer zu informieren.
  • Nutzung des alten Rufs: Die Klägerin profitierte vom Ruf der früheren GmbH und müsse daher auch die Bewertungen hinnehmen.

Negative Bewertungen – nicht immer hinzunehmen

Das Urteil verdeutlicht, dass nicht jede negative Bewertung entfernbar ist. Zulässig sind insbesondere Bewertungen, die auf wahren Tatsachen beruhen oder von der Meinungsfreiheit gedeckt sind.
Unzulässig können dagegen sein:

  • Falsche Tatsachenbehauptungen
  • Schmähkritik
  • Bewertungen unter Vorspiegelung falscher Tatsachen
  • Verstöße gegen Plattformrichtlinien

Reputationsschutz bleibt wichtig

Ein guter Ruf ist für Unternehmen wirtschaftlich entscheidend. Reputationsmanagement hilft, Krisen abzufedern und Imageschäden zu begrenzen.
Gerichte wie der BGH (Urteil vom 09.08.2022, Az. VI ZR 1244/20) oder das OLG Oldenburg (Urteil vom 04.06.2024, Az. 13 U 110/23) bestätigen, dass unberechtigte Bewertungen gelöscht werden müssen.
Das LG Frankenthal (Urteil vom 22.03.2023, Az. 6 O 18/23) betonte zudem, dass Verfasser bei Zweifeln die Tatsachenbasis ihrer Bewertung belegen müssen.

SBS LEGAL – Internetrecht und Reputationsrecht

Der richtige Umgang mit negativen Bewertungen stellt sich als überaus schwierig dar. Werden Arbeitgeber oder Unternehmen mit negativen Bewertungen konfrontiert, kann dies nicht nur zu einer Reputationsschädigung führen, sondern auch wirtschaftliche Folgen haben. Daher sollten Sie sich stets umfassend über den Schutz Ihrer Reputation informieren.

Unsere Anwälte von SBS Legal sind auf das Reputationsrecht sowie das Internetrecht spezialisiert und unterstützen Sie dabei, den für Sie bestmöglichen Umgang zu finden. Wir helfen Ihnen gegen etwaige negative Bewertungen vorzugehen und stehen Ihnen dabei sowohl gerichtlich als auch außergerichtlich zur Seite. 

Haben Sie noch Fragen zu Internetrecht oder Reputationsrecht?

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist immer kostenlos.

SBS Direktkontakt

telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.

Einfache Kündigung von Abos und Dauerschuldverhältnisse: OLG Hamburg stärkt Verbraucherschutz

von | Nov. 17, 2024 | Allgemein, Internetrecht

Verkäufer und Vermittler müssen Kündigungsmöglichkeiten klar und leicht zugänglich gestalten

Im digitalen Geschäftsverkehr ist der Verbraucherschutz besonders wichtig. Verträge in Online-Shops oder über Vermittler-Plattformen werden schnell abgeschlossen – umso bedeutender ist das Kündigungsrecht für Verbraucher. Das OLG Hamburg hat mit Urteil vom 26.09.2024 (Az. 5 UKI 1/23) klargestellt, dass Online-Anbieter und Vermittler die Kündigung von Dauerschuldverhältnissen einfach und unmissverständlich ermöglichen müssen.

Verbraucherverband klagt auf Unterlassung

Der Bundesverband der Verbraucherzentralen hatte den Beklagten auf Unterlassung verklagt, weil auf der Website

  • kein Hinweis vorhanden war, dass online abgeschlossene Verträge auch online gekündigt werden können,
  • und kein direkter Verweis auf ein Kündigungsformular erfolgte.

Das Fehlen dieser Angaben wurde als verbraucherschutzwidrig eingestuft.

Anforderungen an die Kündigungsschaltfläche

Deutliche Formulierung

Die Kündigungsschaltfläche muss klar beschriftet sein, z. B.:

  • „Vertrag kündigen“
  • „Jetzt kündigen“
  • oder gleichwertige, eindeutige Formulierungen.

Die im Verfahren genutzte Bezeichnung „Kündigungsabsicht abschicken“ genügte nicht. Sie lässt offen, ob das Klicken bereits die Kündigung auslöst oder nur eine Absichtserklärung ist.

Leichter Zugang

Die Schaltfläche muss leicht zugänglich sein – ohne lange Formulare oder mehrere Zwischenschritte. Verbraucher dürfen nicht durch unnötig komplizierte Prozesse an der Kündigung gehindert werden.

Vorschriften gelten auch für Drittanbieter

Es spielt keine Rolle, ob die Website vom Verkäufer selbst oder von einem Drittanbieter betrieben wird.
Das bestätigt auch ein Urteil des OLG Celle.
Die Regelungen betreffen zudem Vermittler-Plattformen, etwa im Network-, Affiliate- oder Online-Marketing, wenn über sie ein Dauerschuldverhältnis zustande kommt.

Prüfungspflicht für Online-Shops und Plattformen

Um Abmahnungen und Unterlassungsansprüche zu vermeiden, sollten Betreiber prüfen, ob

  • alle notwendigen Informationen bereitgestellt werden,
  • eine rechtssichere Kündigungsschaltfläche vorhanden ist,
  • und Verbraucher ihre Verträge schnell und unkompliziert kündigen können.

Dies gilt für direkte Anbieter und Vermittler gleichermaßen.

SBS LEGAL – Kanzlei für Internetrecht

Wir von SBS LEGAL weisen mit unserer jahrelangen Erfahrung eine umfassende Expertise im Internetrecht und Wettbewerbsrecht auf. Wir klären Sie auf welche Verpflichtungen und Konsequenzen das Nichteinhalten von Vorschriften für den Unternehmer hat und ob Ausnahmen bezüglich des § 312 k BGB existieren. Insbesondere die Einhaltung auf Ihrer Website können wir mittels unserer Online-Shop Prüfung ermitteln. Dadurch können wir Sie auf Ungereimtheiten aufmerksam machen und Ihren Online-Shop rechtssicher ausgestalten. Diese und andere Anliegen betreut unser Team aus kompetenten Rechtsanwälten mit praxisorientiertem Fachwissen.

Sie haben noch Fragen zur Gestaltung von Kündigungsschaltflächen?

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist immer kostenlos.

SBS Direktkontakt

telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.