Wie die KI-Verordnung der EU ChatGPT gefährdet

Wir alle sind grade dabei und sehen, wie künstliche Intelligenz (KI) sich entwickelt. KI-Systeme können auf menschlichen Niveau Texte, Bilder, Videos und Musik entwerfen. Besonders das Programm ChatGPT, welches seit dem 30.11.2022 online ist und realistische Texte entwirft, ist bei der großen Masse rapide angekommen. Nach veröffentlichten Zahlen erreichte ChatGPT bereits im Januar, also im zweiten Monat, 100 Millionen Nutzer und ist damit bis dato die schnellste wachsende Verbraucher-Anwendung. Die Neuheit von KI im allgemeinen und besonders ChatGPT führt zu Problemen. Die EU arbeitet an einer KI-Verordnung, welche Klarheit schaffen soll.

Was ist ChatGPT

Chat Generative Pretrained Transformer kurz ChatGPT, ist eine KI, welche menschliche Eingaben versteht, speichert und verwendet, um Texte zu erstellen. Die Texte werden dabei so menschennah und verständlich wie möglich geschrieben, egal ob Gedichte, Aufsätze oder Zusammenfassungen.  

Probleme durch ChatGPT

Durch die große Masse, die ChatGPT erreicht, könnte das Programm bald unsere Art zu kommunizieren und zu arbeiten verändern. Immer wieder hört man von Schlagzeilen, dass Schüler und Studentin ChatGPT bereits nutzen und Diskussionen in Medien, ob man die Nutzung verbieten kann. Unternehmen berichten hingegen bereits davon, dass sie ChatGPT bei ihrer Arbeit verwenden. ChatGPT erstellt nämlich so gute Texte, dass man es von einem selbst erstellten Text nicht unterscheiden kann, dadurch können Arbeitsabläufe optimiert und schneller erledigt werden. Das Problem liegt allerdings vor allem darin, dass ChatGPT Daten speichert und weiterverwendet. Wenn Unternehmen also z. B. ChatGPT nutzen, um ein Schreiben mit vertraulichen Inhalten zu erstellen, so kann ChatGPT diese Inhalte anderen Nutzern später anzeigen. Auch bei harmloseren Verwendungen z. B. durch Privatpersonen kann das gleiche Problem auftreten. Wenn z. B. einfache Geburtstagskarten durch ChatGPT erstellt werden, oder man mithilfe von ChatGPT einen Lebenslauf erstellt.

Die geplante KI-Verordnung

Die EU arbeitet grade an einem Rechtsrahmen für KI-Systeme. Die geplante KI-Verordnung namens AI Act kann dabei entscheidende Änderungen für Anwender und Entwickler beinhalten. Ein besonders entscheidender Punkt der KI-Verordnung liegt darin, dass es künftig eine Hochrisikoeinstufung geben soll. KI-Systeme werden nach dem Prinzip in verschiedene Risikostufen unterteilt. Je nach Einstufung des Risikos unterliegen die KI-Systeme dann unterschiedlich strengen Vorschriften.

Das erste Problem für Betreiber liegt darin, dass diese sich selbst um die Risikoabschätzung kümmern müssen. Das Ergebnis der Risikoabschätzung muss anschließend in eine Datenbank eintragen und die entsprechend gelten Vorschriften natürlich eingehalten werden.

Anwendungen, welche als hochriskant eingestuft werden, unterliegen demnach strengen Vorschriften. Die Vorschriften beinhalten eine menschliche Kontrollinstanz und Mindeststandards für die Sicherheit, Transparent und Datenqualität. Des Weiteren muss eine kontinuierliche Risikoüberwachung und Bewertung stattfinden.

ChatGPT nach der KI-Verordnung

Aus dem Entwurf der KI-Verordnung geht hervor, dass es sich bei ChatGPT, um ein hochriskantes System handelt. Gestützt wird die Einstufung darauf, dass man bei den mit KI erstellten Texten fälschlicherweise, wie bereits aufgeführt, annehmen könnte, dass diese von einem Menschen erstellt wurden. Nach der EU ist diese Tatsache entscheidend für die Einstufung in die Hochrisiko-Kategorie und ChatGPT daher als solche einzustufen.

Ausnahmen für Systeme, welche mit KI Texte erstellen gelten dann, wenn die Texte von Menschen überprüft werden, der Grund liegt darin, dass dann eine Person oder Organisation für die Texte rechtlich verantwortlich ist. Durch fehlende Überprüfung der Texte gilt diese Ausnahme für ChatGPT nicht.

Die Einstufung von ChatGPT als hochriskant, stößt auf viel Kritik. Die Hochrisikoanwendung, solle nur gelten, wenn sie im Einzelfall für tatsächlich kritische Anwendungen verwendet wird, was nicht pauschal zu beantworten sei. 

Probleme bei der KI-Verordnung

Es gibt ein allerdings Probleme bei der KI-Verordnung der EU. So wird die KI generell nicht genug im Digital Services Act (DAS) berücksichtigt. Der DAS soll einen sicheren digitalen Raum schaffen, in dem die Grundrechte aller Nutzer digitaler Dienste geschützt werden. Allerdings werden Konsequenzen digitale Märkte für KI übersehen und nicht berücksichtigt. Die KI-Verordnung könnte das potenzial im digitalen Markt für KI zunichtemachen.

Des Weiteren ist die eben angesprochene Haftung ein Problem. Dieses Haftungspaket würde es in der Zukunft kleinen Entwicklern schwer machen, potenziell sinnvolle KI-Tools auf den Markt zu bringen, da dann ein hohes Haftungsrisiko bestehe.

Dadurch, dass ChatGPT aus eingegebenen Daten lernt, kann ChatGPT dazu verwendet werden, um Fake News oder Hassreden zu verbreiten. Genau sowas soll der DAS verhindern. Das Problem liegt allerdings darin, dass der DAS erst greift, wenn die Inhalte auf die Plattformen gelangen, dann ist es allerdings bereits zu spät, da ChatGPT die Inhalte dann schon gespeichert hat und verwendet.

Es bleibt abzuwarten, ob die EU die Kritik und Probleme in ihrer Verordnung aufgreift.

Für weitere rechtliche Fragen kontaktieren Sie uns gern unter unserer Kanzleiadresse sbs-legal.de

Der Erstkontakt zu SBS LEGAL ist kostenlos.

Das Metaverse und seine Gesetze: Was Juristen nun beschäftigen wird

So wie in der realen Welt sollen Gesetzen auch im Metaverse gelten

Es ist geplant, dass das Metaverse zukünftig ein Ort des Austauschs, der gegenseitigen Interaktion und des Geschäftsabschlusses werden soll. Hierfür ist wie im realen Leben eine rechtliche Grundlage von Nöten. Da im Metaverse allerdings keine Ländergrenzen existieren, ist fraglich, inwiefern Gesetze im Metaverse durchgesetzt werden können.
Hierzu gab unser Rechtsanwalt und Spezialist für IT- und Kryptorecht, Finn Niklas Nitz, vor kurzem ein ausführliches Interview, was Juristen bezüglich der Gesetze im Metaverse künftig beschäftigen wird.

Eine Rechtsberatung im Hinblick auf das Metaverse?

Hierzu muss man zunächst verstehen, dass das Metaverse-Recht nicht als eigene Rechtskategorie originär entstanden ist. Rechtsfragen bezüglich der Thematik des Metaverse-Rechts finden stets Anknüpfungspunkte an das bestehende Recht. Selbst wenn die Rechtsentwicklung der digitalen Entwicklung eigentlich etwas hinterherhinkt. Eine besonders wichtige Rolle im Metaverse spielen NFTs. In diesem Punkt bieten wir eine ausgiebige Rechtsberatung an, sowie bei aufsichtsrechtlichen Fragen und entsprechendem Markenrechtsschutz. Nun wurde vom Amt der Europäischen Union für geistiges Eigentum (EUIPO) auch vorgegeben, inwiefern NFTs markenrechtlichen Schutz erfahren können. So wurde auch deutlich gemacht, wie Unternehmen ihre Marke im NFT-Bereich schützen können. Unsere Beratung umfasst alle Aspekte der Blockchain, der NFTs und der übrigen Token.

Unsere Aufmerksamkeit gilt zudem dem Rechtssetzungsprozess. Entscheidend sind dabei der Digital Markets Act und der Digital Services Act. Beide sollen die Sicherheit und Haftung auf den Plattformen und Diensten garantieren, sowie eine Ergänzung des Wettbewerbsrechts und eine gewisse Beschränkung der Marktmacht durchsetzen. Die Umsetzung der Digitale-Inhalte-Richtlinie hat zu Jahresbeginn zu einer größeren Novellierung im Bürgerlichen Gesetzbuches (BGB) geführt. Die dortigen neuen Paragrafen unter dem Punkt „Verbraucherverträge über digitale Produkte“ werden auch im Metaverse eine Rolle spielen. Wird ein Shop im Metaverse betrieben, so gelten auch dort Kaufverträge. Allerdings bezüglich digitaler Produkte. Hier existieren nun verbindliche Regelungen.

Dass der Gesetzgeber auf dem neusten Stand ist, erkennt man auch daran, dass Preise nicht länger nur das von den Notenbanken herausgegebene Geld, sondern auch Kryptowährungen sind. Ein weiterer wichtiger Punkt ist das Steuerrecht. So wurde vom Bundesfinanzhof Ende 2021 bestimmt, wie in einem Online-Spiel Land vermietet werden kann. So können Gewinne aus einer digitalen Vermietung durchaus einen Fall für den Fiskus und zur Steuer veranlagt werden.

Die entscheidende Rolle der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) bei Investitionen im Metaverse

Die klassische Aufsichtsbehörde für Bankgeschäfte und Finanzdienstleistungen ist die BaFin. In unserer alltäglichen Arbeit bei SBS Legal agieren wir vor allem mit dem Kreditwesengesetz (KWG),was das primäre Aufsichtsgesetz darstellt. Es existieren noch weitere Gesetze. Wobei das KWG den Hauptanteil in Punkto Aufsichtsrecht ausmacht. Kryptowerte werden im Gesetz heutzutage als Finanzinstrumente benannt. So könnte man als Herausgeber eines solchen Kryptowerts durchaus bereits der Aufsicht unterliegen. Dies wird besonders in Fällen bejaht, wo der Token wie ein Wertpapier ausgestaltet ist und somit eine Art Gewinnbeteiligung verspricht. Häufig unterliegt man dann auch einer Prospektpflicht. Es bestehen auch keine Anhaltspunkte dafür, warum dies nicht auch fürs Metaverse gelten sollte.

Folglich wird dies auch unter die Kontrolle der BaFin fallen. Werden verschiedene Metaverse-Plattformen und Währungen miteinander verbunden und will man Letztere tauschen oder in seinem Wallet halten, so werden unterschiedliche Finanzdienstleistungen benötigt, die jeweils eine Erlaubnis erfordern. Sobald man dies derart anbietet, dass deutsche Kunden von dem Angebot angesprochen werden und es in Anspruch nehmen können, unterliegt man der Aufsichtspflichtigkeit. Die BaFin muss dann dem entsprechendem Gesetz nachgehen. Daher sollte man im Anfangsstadium feststellen, ob das eigene Geschäftsmodell eine Erlaubnispflicht hat.

Anpassung der aktuell geltenden Gesetze an das Metaverse

In Europa sowie auch in Deutschland gilt die Datenschutz-Grundverordnung (DSGVO), die trotz einiger Unstimmigkeiten weltweit einen gewissen Standard Im Bereich Datenschutzrecht gesetzt hat. Dabei stellt sich die Frage, wie die Daten im Metaverse zu definieren sind. So ist noch zu bestimmen, ob beispielsweise Aufzeichnungen der Gestik und Mimik unseres Avatars ebenfalls wie Daten behandelt werden oder wie es mit Bewegungsprofilen aussieht. Dabei ist zu überlegen, ob eine Rechtsauslegung der bestehenden Gesetze diese Problematiken lösen könnte oder ob es an der Zeit ist, neue Gesetze zu verabschieden.

Dabei ist auch das Strafrecht nicht außer Acht zu lassen. So ist fraglich, wie Straftatbestände aus der analogen Welt in die digitale Welt umgesetzt werden können. So ist zum Beispiel die Löschung eines Avatars nun einmal nicht mit der Tötung eines Menschen auf eine Stufe zu stellen. Daher sollte man durchaus die Fragen aufwerfen, ob sich die bisherigen Gesetze 1 zu 1 umsetzen lassen und wo Unterschiede festzumachen sind. Selbstverständlich existieren auch Beispiele, die sich leichter mit Fällen des realen Lebens gleichsetzen lassen: So bleibt ein Betrug im Metaverse ebenso ein Betrug. Alles darüber hinausgehende wirft rechtspolitische Fragen auf, die einer Klärung bedürfen. Zudem werden Diskussionen aufkommen, wo ethische Fragen zu besprechen sind. Thema wird der Schutz von Minderjährigen, Minderheiten und Schwächeren sein. Allesamt Fragen, die wir uns im Alltag ebenfalls stellen. Daher ist es essenziell darüber zu konferieren, inwiefern eine Umsetzung in die digitale Welt gelingen kann. 

Metaverse-Plattformen besitzen keine geographischen Grenzen: Wie lassen sich Gesetze anwenden?

Im Metaverse bestehen keine reellen Grenzen, was zu einigen Problemen führen kann. So ist bereits fraglich, welches Recht Anwendung findet. Bezüglich Europa stellt sich dies noch als relativ simpel dar. Die Gesetzesänderungen in Deutschland haben ihren Ursprung nämlich in europäischen Vorgaben. Zudem wird aufgrund desselben europäischen Gesetzgebungsursprungs ein einheitlicher Schutzrahmen in den verschiedenen Mitgliedsstaaten gewährt. Bei der Frage der Rechtsanwendung gelten seit Jahren bestehende Regelungen, wie die so genannten „Rom-Verordnungen“. Es entstehen allerdings Probleme, sobald man mit jemanden einen Vertrag außerhalb Europas schließt. Dann ist schon fraglich, wer hierfür verantwortlich ist oder ob es eine Metaverse-Gerichtsbarkeit gibt. Dies sind Fragen im Kryptorecht, mit denen wir uns derzeit auseinandersetzen. Leider lassen sich diese bisher nicht abschließend beantworten. Es muss vielmehr ein fluider Prozess mit einer Vielzahl an Beteiligten sein. 

Wie lassen sich bei der ständigen Veränderung der virtuellen Welt Gesetze entwerfen?

Um zu verhindern, dass Gesetze im halbjährlichen Takt geändert und angepasst werden müssen, sollten sie deutlich, aber auch offen formuliert sein. In den nächsten Jahren werden diese Fragen uns alle, aber vor allem Juristen umfassend beschäftigen. Bei bestehendem Interesse sollte man vor dieser Thematik nicht zurückschrecken. Stattdessen sollte man es als spannendes neues Abenteuer verstehen, das einen in neue Gefilde führt. 

Erstellung von Compliance-Richtlinien für das Metaverse 

Unternehmen geben sich selbst ihren eigenen internen Verhaltenskodex (Compliance-Richtlinien). Dies ist in diesem Zusammenhang wichtig zu benennen, da das Metaverse keine staatliche Institution darstellt. Vielmehr müssen sich private Anbieter um das Metaverse bemühen. Zu Beginn an sollten gewisse Grundregeln im Metaverse zum Schutz von Minderheiten und Schwächeren, im Sinne der Gesetzlichkeit und der Transparenz aufgestellt werden. Compliance-Richtlinien könnten dies unterstützen. Fördernd könnte auch sein, dass man keine „Wild West“-Mentalität entstehen lässt, sondern auf ein gedeihliches Miteinander setzt. Hierbei ist ein Rückgriff auf Compliance-Regelungen aus der realen Welt nützlich. Allerdings müssen diese auf die Situationen des Metaverse angepasst werden. Einige Anwaltskanzleien besitzen bereits jetzt einen virtuellen Standort auf einer Metaverse-Plattform. Auch unsere Kanzlei plant im Hintergrund in diese Richtung. Sobald sich eine Metaverse-Plattform als großer Player etabliert, haben wir vor, uns tiefgreifender mit dem Thema zu beschäftigen.

Händler aufgepasst: Die Health-Claims-Verordnung

Händler aufgepasst: Die Health-Claims-Verordnung

Die Health-Claims-Verordnung, kurz HCVO, regelt, wann und wie Lebensmittel mit nährwert- und gesundheitsbezogenen Angaben gekennzeichnet werden dürfen und unter welche Voraussetzung damit geworben werden darf. Die Verordnung dient dem Schutz von Verbrauchern. Sie soll vor falschen oder irreführenden Angaben schützen und Transparenz schaffen.

Die Grundregel hier ist, dass alles was gesagt wird, auch durch die allgemein anerkannte Wissenschaft belegbar sein muss. Kommt einem Stoff eine positive Eigenschaft zu, muss die Menge in dem Produkt auch ausreichend sein, um diesen Effekt hervorzurufen. Weiter ist die Verwendung nährwert- oder gesundheitsbezogener Angaben nur zulässig, wenn vom durchschnittlichen Verbraucher erwartet werden kann, dass er die positive Wirkung, wie sie in der Angabe dargestellt wird, versteht. Auch müssen sich nährwert- und gesundheitsbezogene Angaben auf das verzehrfertige Lebensmittel beziehen.

Neben diesen allgemeinen Voraussetzungen gibt es noch viele weitere besondere Regelungen im der HCVO. Beispielsweise wurden unter Einhaltung bestimmter Verfahren Nährwertprofile entwickelt. Diese regeln die Bedingungen, einschließlich der Ausnahmen, die für die Verwendung von nährwert- und gesundheitsbezogenen Angaben für Lebensmittel und/oder Lebensmittelkategorien gelten.

Achtung: Neuer Vertragstyp für digitale Produkte

Achtung: Neuer Vertragstyp für digitale Produkte

Die Umsetzung von EU-Richtlinien verläuft nicht immer reibungslos

Zum 01.01.2022 ist ein völlig neuer Vertragstyp in das Bürgerliche Gesetzbuch eingeführt worden: der Verbrauchervertrag über digitale Produkte. Zahlreiche Vorschriften regulieren nun den Umgang mit digitalen Produkten und beruhen auf der Umsetzung der Digitale-Inhalte-Richtlinie. Es wurde höchste Zeit, dass der Gesetzgeber neue Regelungen für den Bereich des Internetrechts erlassen hat. Schaut man sich diese allerdings genauer an, treten diverse Defizite hervor. Wir zeigen Ihnen, an welchen Stellen der Gesetzgeber noch einmal nachjustieren sollte.

Bei den Neuerungen handelt es sich konkret um die §§ 327 ff. BGB. Im Zentrum steht die Bereitstellung digitaler Inhalte oder digitaler Dienstleistungen durch einen Unternehmer gegenüber Verbrauchern. Hierzu zählen beispielsweise Computerprogramme, Video- oder Audiodateien, digitale Spiele oder E-Books. Der Anwendungsbereich umfasst vereinfacht gesagt alles, was digitale Interaktionen ausmacht, vom Kauf einfacher Software bis zur Bereitstellung von komplizierten Datenverarbeitungsprozessen.

Mit der Umsetzung der Digitalen-Produkte-Richtlinie strebte der Gesetzgeber an mehr Rechtsklarheit im digitalen Raum zu schaffen. Die noch jungen Vorschriften weisen allerdings noch diverse Ungereimtheiten auf. Einige dieser Defizite lassen sich noch im Wege der Auslegung beseitigen, andere wiegen schwerer. Es ist also mit Spannung zu verfolgen, wie Rechtspraxis, Rechtswissenschaften und der Gesetzgeber auf die Entwicklung des neuen Vertragstyps reagieren werden.

Mehr zu diesem und vielen anderen interessanten Themen gibt es auf https://www.sbs-legal.de/