Wie die KI-Verordnung der EU ChatGPT gefährdet
Wir alle sind grade dabei und sehen, wie künstliche Intelligenz (KI) sich entwickelt. KI-Systeme können auf menschlichen Niveau Texte, Bilder, Videos und Musik entwerfen. Besonders das Programm ChatGPT, welches seit dem 30.11.2022 online ist und realistische Texte entwirft, ist bei der großen Masse rapide angekommen. Nach veröffentlichten Zahlen erreichte ChatGPT bereits im Januar, also im zweiten Monat, 100 Millionen Nutzer und ist damit bis dato die schnellste wachsende Verbraucher-Anwendung. Die Neuheit von KI im allgemeinen und besonders ChatGPT führt zu Problemen. Die EU arbeitet an einer KI-Verordnung, welche Klarheit schaffen soll.
Was ist ChatGPT
Chat Generative Pretrained Transformer kurz ChatGPT, ist eine KI, welche menschliche Eingaben versteht, speichert und verwendet, um Texte zu erstellen. Die Texte werden dabei so menschennah und verständlich wie möglich geschrieben, egal ob Gedichte, Aufsätze oder Zusammenfassungen.
Probleme durch ChatGPT
Durch die große Masse, die ChatGPT erreicht, könnte das Programm bald unsere Art zu kommunizieren und zu arbeiten verändern. Immer wieder hört man von Schlagzeilen, dass Schüler und Studentin ChatGPT bereits nutzen und Diskussionen in Medien, ob man die Nutzung verbieten kann. Unternehmen berichten hingegen bereits davon, dass sie ChatGPT bei ihrer Arbeit verwenden. ChatGPT erstellt nämlich so gute Texte, dass man es von einem selbst erstellten Text nicht unterscheiden kann, dadurch können Arbeitsabläufe optimiert und schneller erledigt werden. Das Problem liegt allerdings vor allem darin, dass ChatGPT Daten speichert und weiterverwendet. Wenn Unternehmen also z. B. ChatGPT nutzen, um ein Schreiben mit vertraulichen Inhalten zu erstellen, so kann ChatGPT diese Inhalte anderen Nutzern später anzeigen. Auch bei harmloseren Verwendungen z. B. durch Privatpersonen kann das gleiche Problem auftreten. Wenn z. B. einfache Geburtstagskarten durch ChatGPT erstellt werden, oder man mithilfe von ChatGPT einen Lebenslauf erstellt.
Die geplante KI-Verordnung
Die EU arbeitet grade an einem Rechtsrahmen für KI-Systeme. Die geplante KI-Verordnung namens AI Act kann dabei entscheidende Änderungen für Anwender und Entwickler beinhalten. Ein besonders entscheidender Punkt der KI-Verordnung liegt darin, dass es künftig eine Hochrisikoeinstufung geben soll. KI-Systeme werden nach dem Prinzip in verschiedene Risikostufen unterteilt. Je nach Einstufung des Risikos unterliegen die KI-Systeme dann unterschiedlich strengen Vorschriften.
Das erste Problem für Betreiber liegt darin, dass diese sich selbst um die Risikoabschätzung kümmern müssen. Das Ergebnis der Risikoabschätzung muss anschließend in eine Datenbank eintragen und die entsprechend gelten Vorschriften natürlich eingehalten werden.
Anwendungen, welche als hochriskant eingestuft werden, unterliegen demnach strengen Vorschriften. Die Vorschriften beinhalten eine menschliche Kontrollinstanz und Mindeststandards für die Sicherheit, Transparent und Datenqualität. Des Weiteren muss eine kontinuierliche Risikoüberwachung und Bewertung stattfinden.
ChatGPT nach der KI-Verordnung
Aus dem Entwurf der KI-Verordnung geht hervor, dass es sich bei ChatGPT, um ein hochriskantes System handelt. Gestützt wird die Einstufung darauf, dass man bei den mit KI erstellten Texten fälschlicherweise, wie bereits aufgeführt, annehmen könnte, dass diese von einem Menschen erstellt wurden. Nach der EU ist diese Tatsache entscheidend für die Einstufung in die Hochrisiko-Kategorie und ChatGPT daher als solche einzustufen.
Ausnahmen für Systeme, welche mit KI Texte erstellen gelten dann, wenn die Texte von Menschen überprüft werden, der Grund liegt darin, dass dann eine Person oder Organisation für die Texte rechtlich verantwortlich ist. Durch fehlende Überprüfung der Texte gilt diese Ausnahme für ChatGPT nicht.
Die Einstufung von ChatGPT als hochriskant, stößt auf viel Kritik. Die Hochrisikoanwendung, solle nur gelten, wenn sie im Einzelfall für tatsächlich kritische Anwendungen verwendet wird, was nicht pauschal zu beantworten sei.
Probleme bei der KI-Verordnung
Es gibt ein allerdings Probleme bei der KI-Verordnung der EU. So wird die KI generell nicht genug im Digital Services Act (DAS) berücksichtigt. Der DAS soll einen sicheren digitalen Raum schaffen, in dem die Grundrechte aller Nutzer digitaler Dienste geschützt werden. Allerdings werden Konsequenzen digitale Märkte für KI übersehen und nicht berücksichtigt. Die KI-Verordnung könnte das potenzial im digitalen Markt für KI zunichtemachen.
Des Weiteren ist die eben angesprochene Haftung ein Problem. Dieses Haftungspaket würde es in der Zukunft kleinen Entwicklern schwer machen, potenziell sinnvolle KI-Tools auf den Markt zu bringen, da dann ein hohes Haftungsrisiko bestehe.
Dadurch, dass ChatGPT aus eingegebenen Daten lernt, kann ChatGPT dazu verwendet werden, um Fake News oder Hassreden zu verbreiten. Genau sowas soll der DAS verhindern. Das Problem liegt allerdings darin, dass der DAS erst greift, wenn die Inhalte auf die Plattformen gelangen, dann ist es allerdings bereits zu spät, da ChatGPT die Inhalte dann schon gespeichert hat und verwendet.
Es bleibt abzuwarten, ob die EU die Kritik und Probleme in ihrer Verordnung aufgreift.
Für weitere rechtliche Fragen kontaktieren Sie uns gern unter unserer Kanzleiadresse sbs-legal.de
Der Erstkontakt zu SBS LEGAL ist kostenlos.