Am 1. August 2024 ist die europäische KI-Verordnung – auf Englisch „AI-Act“ – in Kraft getreten. Diese neue Verordnung schafft – ähnlich wie 2018 die Datenschutz Grundverordnung – einheitliche Rahmenbedingungen für alle europäischen Staaten, wie Künstliche Intelligenz eingesetzt werden soll.
Inhaltsverzeichnis
Definition KI und AI
Die Abkürzung AI steht für das englische Wort „Artificial Intelligence“ und bedeutet auf Deutsch „Künstliche Intelligenz“, also KI. Künstliche Intelligenz ist die Basis, auf der menschliche Intelligenz nachgeahmt wird. Zu diesem Zweck werden Algorithmen erstellt, angewendet und in eine dynamische Computing-Umgebung integriert.
Worum geht es in der KI-Verordnung?
Systeme sollen zukünftig in Risiko-Gruppen eingeteilt werden. Eine KI-Anwendung, die mit besonders sensiblen Daten arbeitet oder eine sehr große Datenmenge verarbeitet, ist somit riskanter als eine KI, die kaum auf personenbezogene Daten zurückgreift. Auch geht es darum, wo ein System zum Einsatz kommt. Bei der Polizei und Strafverfolgung, der Justiz oder auch bei Wahlen, wären die Konsequenzen, wenn ein System falsch oder manipuliert arbeitet, verehrend. Daher müssen die Anbieter von sogenannten Hochrisikosystemen hier besondere Schutzmaßnahmen ergreifen.
Anmerkung der Redaktion
Die meisten KI-Systeme werden außerhalb der EU entwickelt. Es bleibt abzuwarten, inwieweit man durch Akzeptieren der Nutzungsbedingungen der Verwendung auch sensibler Daten zustimmt.
Vergleich hierzu: Instagram, Facebook & WhatsApp: Meta nutzt Nutzerdaten für KI-Trainings
Was ist gemäß KI-Verordnung der EU verboten?
Ganz verboten wird durch die KI-Verordnung das sogenannte Social Scoring, also das automatisierte Bewerten von Menschen anhand ihres Verhaltens, wie es beispielsweis ein China praktiziert wird. Auch biometrische Daten sind besonders geschützt. So verbietet die KI-Verordnung die Echtzeit-Fernüberwachung, dass beispielsweise Kameras große Menschenmengen im öffentlichen Raum automatisch erfassen, die Personen anhand ihrer Gesichter identifizieren und mit diesen Daten zeitgleich an anderer Stelle, zum Beispiel durch Strafverfolgungsbehörden, weitergearbeitet wird. Hier gibt es nur Ausnahmen für sehr wenige Fälle, die besonders schwere Straftaten betreffen. Verboten ist auch Emotionserkennung am Arbeitsplatz oder im Bildungseinrichtungen, dass eine KI beispielsweise erkennen würde, wenn du im Matheunterricht gelangweilt bist und deiner Lehrerin einen entsprechenden Hinweis zur Mitarbeitsnote geben könnte.
Personenbezogene Daten
Als “personenbezogen” werden alle Daten bezeichnet, anhand derer man eine natürliche Person eindeutig identifizieren kann. Dazu gehören z. B. Name, Vorname, Telefonnummer, Konto-, Kreditkarten- oder Personalnummern einer Person, Wohnadresse, Geburtsdatum, IP-Adresse usw.
Biometrische Daten
Biometrie bezeichnet die statistische und mathematische Messung einzigartiger physischer oder biologischer Merkmale zu Identifikationszwecken. Im Bereich der Cybersicherheit bezieht sich die Definition von Biometrie auf die Verwendung einzigartiger biologischer Merkmale für die digitale Authentifizierung und Zugangskontrolle, z.B. das Entsperren des Smartphones durch den Fingerabdruck.
Biometrische Daten sind also jede Art von Informationen über die physischen Merkmale einer Person. Die DNA ist dabei die genaueste Art biometrischer Daten, gefolgt von physiologischen Merkmalen wie das Muster der Netzhaut, Fingerabdrücke und die Gesichtsstruktur.
Social Scoring
China testet zurzeit verschiedene Social-Scoring-Systeme. Ziel ist, für jeden Bürger aber auch für jedes Unternehmen und jede Organisation einen Verhaltenswert in Echtzeit zu ermitteln. Basierend auf dem individuellen Verhaltenswert wird der Zugang zu öffentlich bereitgestellten Gütern und Dienstleistungen ermöglicht, eingeschränkt oder gänzlich verwehrt.
Ausblick
Die KI-Verordnung wird in den kommenden zwei Jahren noch durch weitere Regelungen erweitert, spätestens bis zum 2. August 2026 soll dann alles, was bei der Entwicklung der Verordnung angedacht war, in Kraft getreten sein.
Quellen: YoungData, Avast, Kompetenzzentrum Öffentliche IT
