von Adrian Peters | Mai 1, 2025 | Allgemein
Generative KI – Chancen und Risiken
Der Einsatz generativer Künstlicher Intelligenz (KI), insbesondere von Large Language Models (LLMs), revolutioniert den Umgang mit Daten und Informationen. Unternehmen profitieren von zahlreichen Vorteilen, doch die Technologie birgt auch erhebliche Risiken. Ein zentrales Problem sind sogenannte KI-Halluzinationen – fehlerhafte Inhalte, die aufgrund unzureichender Informationen entstehen.
Mit Urteil vom 29. Februar 2024 (Az. 6 O 151/23) hat das Landgericht Kiel eine richtungsweisende Entscheidung zur Haftung für KI-generierte Inhalte getroffen.
Unternehmen haftet für fehlerhafte KI-Informationen
Im konkreten Fall veröffentlichte ein mittelständisches Unternehmen falsche Informationen über ein anderes Unternehmen. Die Beklagte betrieb eine Plattform für Wirtschaftsinformationen, die automatisiert Daten aus öffentlichen Registern anzeigte. Das System meldete fälschlicherweise, die klagende Gesellschaft sei wegen Vermögenslosigkeit nach § 394 FamFG gelöscht worden – eine unzutreffende Behauptung.
Automatisierung schützt nicht vor Verantwortung
Die Beklagte nutzte eine KI-gestützte Software, die Informationen anhand von Suchbegriffen aus öffentlichen Quellen filtert. Auf der Website wurde zwar auf die automatisierte Generierung und mögliche Fehler hingewiesen, ergänzt um einen Haftungsausschluss.
Das LG Kiel stellte jedoch klar: Weder Automatisierung noch Disclaimer befreien von der Verantwortung. Die Klägerin verlangte Löschung und Unterlassung, was das Gericht aufgrund einer Verletzung des Unternehmenspersönlichkeitsrechts (§ 1004 BGB analog i. V. m. Art. 2 Abs. 1, Art. 19 Abs. 3 GG) bestätigte. Fehlinformationen können den Ruf und die Kreditwürdigkeit eines Unternehmens erheblich beeinträchtigen.
Wiederholungsgefahr durch ungeprüfte Systeme
Das Gericht sah die Wiederholungsgefahr als gegeben an, da die Beklagte weiterhin auf das automatisierte System vertraute, ohne dessen Ergebnisse ausreichend zu prüfen.
Bedeutung des Urteils für Unternehmen
Das Urteil verdeutlicht: Unternehmen tragen die volle Verantwortung für Inhalte, die ihre KI-Systeme generieren. Automatisierung oder Haftungsausschlüsse genügen nicht – Qualitätssicherung ist Pflicht.
Auch wenn die Europäische KI-Verordnung (AI Act) solche Maßnahmen nur für Hochrisiko-KI vorschreibt, bleibt das Risiko bestehen: Werden unrichtige Inhalte veröffentlicht, haftet das Unternehmen unabhängig von der Technologie.
Was sind KI-Halluzinationen?
KI-Halluzinationen sind Inhalte, die zwar plausibel erscheinen, aber nicht den zugrunde liegenden Fakten oder Quellen entsprechen. Sie entstehen oft durch fehlende Kontextinformationen oder fehlerhafte Interpretationen – insbesondere bei generativen Aufgaben wie Zusammenfassungen oder Antworten auf offene Fragen.
Ursachen von KI-Halluzinationen
- Trainingsdaten: Fehlerhafte, veraltete oder unvollständige Datensätze führen zu falschen Schlussfolgerungen.
- Trainingsmethoden: Schwachstellen wie „Attention Glitches“ oder „Exposure Bias“ können zu Fehlinterpretationen führen.
- Antwortgenerierung (Inferenz): Wahrscheinlichkeitsbasierte Prozesse bergen das Risiko unplausibler Ergebnisse, etwa durch „Likelihood Trap“ oder „Overconfidence“.
Erkennen von KI-Halluzinationen
- Unsicherheiten prüfen: Übermäßig detaillierte oder absolute Aussagen kritisch hinterfragen.
- Faktencheck: Aussagen mit verlässlichen Quellen abgleichen.
- Details hinterfragen: Unstimmigkeiten bei Daten, Namen oder Zahlen überprüfen.
- KI als Prüfer: Mit anderen Modellen oder Tools wie dem response_hallucination-Modul gegenprüfen.
Vermeidung und Reduzierung von Halluzinationen
Eine vollständige Vermeidung ist derzeit nicht möglich.
Maßnahmen zur Reduzierung:
- Präzise Eingaben formulieren
- Chain-of-Thought-Prompting zur Fehlererkennung
- Retrieval-Augmented Generation (RAG) zur Anreicherung mit externen Quellen
- Kritische menschliche Prüfung als letzter Sicherheitsschritt
SBS LEGAL – Ihre Kanzlei für das KI-Recht und ChatGPT-Recht
Möchten Sie mehr darüber erfahren, wie Sie sich vor den Risiken von KI-Halluzinationen schützen können? Wollen Sie wissen, ob Ihr Unternehmen für fehlerhafte, KI-generierte Inhalte haftbar gemacht werden kann? Oder sind Sie bereits mit einer Abmahnung konfrontiert und benötigen rechtlichen Beistand?
Dann sind Sie bei SBS LEGAL genau richtig!
Unser erfahrenes Team berät Sie umfassend zu allen rechtlichen Aspekten rund um den Einsatz von Künstlicher Intelligenz, einschließlich der Haftungsfragen. Wir unterstützen Sie dabei, Ihre Systeme rechtssicher zu gestalten, prüfen KI-generierte Inhalte auf mögliche Risiken und stehen Ihnen bei der Abwehr oder Durchsetzung von Ansprüchen zur Seite.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie eine Rechtsberatung von den spezialisierten Fachanwälten der SBS LEGAL?
Der Erstkontakt zu SBS Legal ist immer kostenlos.
SBS Direktkontakt
telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.
von Adrian Peters | Jan. 8, 2025 | Allgemein
KI-Inhalte werden dem Unternehmen zugerechnet
Künstliche Intelligenz (KI) ist in Unternehmen mittlerweile allgegenwärtig. Automatisierte Datensysteme vereinfachen Prozesse und liefern schnelle Ergebnisse. Doch KI-generierte Informationen sind nicht fehlerfrei. Problematisch wird es, wenn falsche Inhalte Dritte betreffen und sich Fehlinformationen verbreiten.
LG Kiel: Haftung für KI-generierte Fehlinformationen
Das Urteil des Landgerichts Kiel vom 29.02.2024 (Az. 6 O 151/23) zeigt deutlich, welche Folgen ein KI-Fehler haben kann.
Ein mittelständisches Unternehmen verklagte den Betreiber einer Wirtschaftsinformations-Website auf Unterlassung. Auf der Plattform wurde fälschlich behauptet, die Klägerin sei wegen Vermögenslosigkeit gemäß § 394 FamFG gelöscht worden.
Ursprung der Falschinformation
Die Beklagte nutzte ein automatisiertes Datensystem, das Informationen aus öffentlichen Registern anhand von Suchbegriffen filterte. Auf der Website wurde zwar angegeben, dass die Inhalte automatisiert generiert und potenziell fehlerhaft sein könnten, ergänzt durch einen Haftungsausschluss. Dennoch half dieser Hinweis vor Gericht nicht.
Die falsche Handelsregisterbekanntmachung resultierte aus einem Verarbeitungsfehler innerhalb des Systems.
Klägerin setzt Unterlassung durch
Die Klägerin verlangte die Löschung der Falschinformation und klagte auf Unterlassung. Das LG Kiel gab ihr Recht:
Die Veröffentlichung verletzte das Unternehmenspersönlichkeitsrecht (§ 1004 BGB analog i. V. m. Art. 2 Abs. 1, Art. 19 Abs. 3 GG) und konnte Ruf und Kreditwürdigkeit erheblich schädigen.
Betreiber haftet als unmittelbarer Störer
Obwohl die Beklagte die Information nicht manuell recherchierte, veröffentlichte sie die KI-generierten Inhalte auf ihrer Website. Damit gilt sie als unmittelbare Störerin.
Das Argument, der Fehler sei allein auf die KI zurückzuführen, entlastet nicht.
KI-Nutzung ist fehleranfällig – Sorgfaltspflicht bleibt
KI erleichtert viele Arbeitsprozesse, ist aber anfällig für Fehler. Unternehmen können sich nicht darauf berufen, dass die KI den Fehler verursacht habe.
Eine eigenständige Überprüfung der von automatisierten Systemen gelieferten Informationen ist zwingend erforderlich.
Wiederholungsgefahr bei fehlender Kontrolle
Für einen Unterlassungsanspruch ist neben der Rechtsverletzung eine Wiederholungsgefahr erforderlich. Das Gericht sah diese als gegeben an, da die Beklagte weiterhin KI-gestützte Daten ohne ausreichende Prüfung veröffentlicht.
Wer KI einsetzt, muss sicherstellen, dass Inhalte vor Veröffentlichung auf ihre Richtigkeit überprüft werden.
SBS LEGAL – Ihre Kanzlei für KI-Recht
Künstliche Intelligenz ist seit einiger Zeit ein Thema, das Unternehmen immer häufiger mit neuen rechtlichen Herausforderungen konfrontiert. KI-Systeme wie Chat-GPT eröffnen zahlreiche technische Möglichkeiten. Neue Technologien bergen aber auch neue Risiken. Erfahren Sie bei uns, was Sie bei der Nutzung einer KI Software beachten müssen, insbesondere hinsichtlich der möglichen Haftung.
Haben Sie noch Fragen zu der Verbreitung von Informationen und den rechtlichen Aspekten zur Nutzung von KI?
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Als Kanzlei für KI-Recht befasst sich SBS Legal mit diesen Themen, damit Sie immer auf dem neuesten Stand sind. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?
Der Erstkontakt zu SBS LEGAL ist immer kostenlos.
SBS Direktkontakt
telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.
von Adrian Peters | Dez. 20, 2024 | Allgemein, Internetrecht
Verbrannte Domains und ihre Risiken
Beim Kauf einer Domain sollten Unternehmen genau prüfen, ob es sich um eine sogenannte verbrannte Domain handelt – also eine bereits genutzte Webadresse, die etwa nach einer Insolvenz stillgelegt wurde. Die Übernahme einer solchen Domain kann bedeuten, dass bestehende negative Bewertungen übernommen werden, was zu Reputationsschäden führen kann.
Das Landgericht Fulda entschied am 30.11.2024 (Az. 3 O 92/24), dass Suchmaschinenbetreiber negative Bewertungen veröffentlichen dürfen, die sich auf die frühere Inhaberin einer Domain beziehen.
Fall: Übernahme einer Domain mit Altlasten
Die Klägerin, Betreiberin einer GmbH für Wintergartenbau, erwarb durch einen Asset-Deal eine Domain aus der Insolvenzmasse der vorherigen Inhaberin. Mit der Domain waren auf einer Bewertungsplattform mehrere negative Einträge verknüpft.
Diese Plattform listet Domains, verlinkt sie, zeigt Kontaktdaten des aktuellen Inhabers und ermöglicht Nutzern die öffentliche Bewertung. Aus den Bewertungen wird eine Durchschnittsnote gebildet.
Forderung nach Löschung abgelehnt
Die Klägerin verlangte die Entfernung der negativen Bewertungen und eine Umbenennung des Domain-Profils. Zwar wurde der Domainname angepasst, die Bewertungen blieben jedoch bestehen, da sie sich auf den Domain-Namen und nicht zwingend auf die Person der Klägerin bezögen.
Das LG Fulda wies die Klage ab: Es liege keine Verletzung des Unternehmenspersönlichkeitsrechts und kein Eingriff in den Gewerbebetrieb vor.
Gründe für die Entscheidung
- Faktische Verbindung: Die Klägerin führte das Geschäft der alten Domain-Inhaberin fort.
- Unverändertes Impressum und Geschäftsführer: Der in den Bewertungen genannte Geschäftsführer blieb im Amt.
- Informationsinteresse: Kunden haben ein berechtigtes Interesse, sich über den Geschäftsführer zu informieren.
- Nutzung des alten Rufs: Die Klägerin profitierte vom Ruf der früheren GmbH und müsse daher auch die Bewertungen hinnehmen.
Negative Bewertungen – nicht immer hinzunehmen
Das Urteil verdeutlicht, dass nicht jede negative Bewertung entfernbar ist. Zulässig sind insbesondere Bewertungen, die auf wahren Tatsachen beruhen oder von der Meinungsfreiheit gedeckt sind.
Unzulässig können dagegen sein:
- Falsche Tatsachenbehauptungen
- Schmähkritik
- Bewertungen unter Vorspiegelung falscher Tatsachen
- Verstöße gegen Plattformrichtlinien
Reputationsschutz bleibt wichtig
Ein guter Ruf ist für Unternehmen wirtschaftlich entscheidend. Reputationsmanagement hilft, Krisen abzufedern und Imageschäden zu begrenzen.
Gerichte wie der BGH (Urteil vom 09.08.2022, Az. VI ZR 1244/20) oder das OLG Oldenburg (Urteil vom 04.06.2024, Az. 13 U 110/23) bestätigen, dass unberechtigte Bewertungen gelöscht werden müssen.
Das LG Frankenthal (Urteil vom 22.03.2023, Az. 6 O 18/23) betonte zudem, dass Verfasser bei Zweifeln die Tatsachenbasis ihrer Bewertung belegen müssen.
SBS LEGAL – Internetrecht und Reputationsrecht
Der richtige Umgang mit negativen Bewertungen stellt sich als überaus schwierig dar. Werden Arbeitgeber oder Unternehmen mit negativen Bewertungen konfrontiert, kann dies nicht nur zu einer Reputationsschädigung führen, sondern auch wirtschaftliche Folgen haben. Daher sollten Sie sich stets umfassend über den Schutz Ihrer Reputation informieren.
Unsere Anwälte von SBS Legal sind auf das Reputationsrecht sowie das Internetrecht spezialisiert und unterstützen Sie dabei, den für Sie bestmöglichen Umgang zu finden. Wir helfen Ihnen gegen etwaige negative Bewertungen vorzugehen und stehen Ihnen dabei sowohl gerichtlich als auch außergerichtlich zur Seite.
Haben Sie noch Fragen zu Internetrecht oder Reputationsrecht?
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten der SBS LEGAL?
Der Erstkontakt zu SBS LEGAL ist immer kostenlos.
SBS Direktkontakt
telefonisch unter (+49) 040 / 7344086-0 oder
per E-Mail unter mail@sbs-legal.de oder
per SBS Direktkontakt.
