Wie andere Technologien hat auch der Einsatz künstlicher Intelligenz zwei Seiten: Sie kann dazu dienen, Menschen zu unterstützen und ihnen zu helfen, beispielsweise durch präzise medizinische Diagnosen, aber auch dazu, Einzelpersonen oder soziale Gruppen zu manipulieren oder zu diskriminieren. Die Entwicklung und der Einsatz von KI betreffen daher nicht nur Aspekte wie Produktivität oder die Qualität der Arbeitsergebnisse, sondern auch ethische Aspekte wie die Kongruenz von KI-Systemen und deren Einsatz durch Unternehmen, Organisationen oder Institutionen mit Rechten und gesellschaftlichen Werten.
Was sind die Ziele der Verordnung?
Die Position der KI als Schlüsseltechnologie, die das Potenzial hat, grundlegende Werte zu gefährden, wird von der Europäischen Union mit einer Verordnung über künstliche Intelligenz angegangen. Diese soll verhindern, dass die Rechte der Bürger in der EU durch den Einsatz von KI beeinträchtigt werden. Gleichzeitig soll sichergestellt werden, dass die EU ein offener Markt für KI bleibt und die Forschung im Bereich KI fortgesetzt werden kann.
Was genau soll mit der Verordnung geregelt werden?
Der Vorschlag der Europäischen Kommission zur Regulierung von KI enthält Vorschriften für das Inverkehrbringen.Die Inbetriebnahme und Nutzung von KI-Systemen. Diese werden je nach Risiko für Gesundheit, Sicherheit oder Grundrechte in vier Gruppen unterteilt. Für Lösungen mit geringem oder sehr geringem Risiko sind keine Vorschriften vorgesehen – allerdings wurde noch nicht genau festgelegt, welche Lösungen darunter fallen sollen. Lösungen mit hohem oder spezifischem Risiko müssen bestimmte Anforderungen oder Transparenzanforderungen erfüllen, und Lösungen mit einem unannehmbar hohen Risiko, die Grundwerte der EU zu verletzen, sollen verboten werden. Dazu gehören beispielsweise Überwachungssysteme, die von Behörden zur Bewertung des sozialen Verhaltens von Bürgern eingesetzt werden (Social Scoring).
- Hochrisikosysteme
Zu den Hochrisikosystemen gehören beispielsweise Systeme, die „als Sicherheitskomponenten von Produkten verwendet werden sollen, die einer Konformitätsbewertung durch Dritte unterliegen“, und „eigenständige KI-Systeme, die ausdrücklich in Anhang III die einen wesentlichen Einfluss auf Grundrechte haben.“ Dazu gehören Systeme zur biometrischen Identifizierung, zur Verwaltung und zum Betrieb kritischer Infrastrukturen, Systeme zur Auswahl von Personen für den Zugang zu Bildungseinrichtungen, zur Einstellung als Mitarbeiter und Partner in Unternehmen sowie für den Zugang zu staatlichen Dienstleistungen.
Um die Risiken für grundlegende Werte zu verringern, müssen diese Systeme bestimmte Anforderungen erfüllen. Zu den Pflichten der Anbieter und Nutzer gehört es, ein Risikomanagementsystem einzurichten und anzuwenden sowie technische Dokumentationen zu erstellen und zu pflegen. Darüber hinaus müssen die Systeme „von natürlichen Personen wirksam überwacht werden können“.
- „Bestimmte“ KI-Systeme
Dies bezieht sich auf KI-Systeme, die in der Lage sind, Personen zu manipulieren, unabhängig davon, ob sie einer Risikogruppe zugeordnet sind oder nicht. Dazu gehören Systeme wie Chatbots für die Interaktion mit Menschen, Systeme zur Emotionserkennung und biometrischen Kategorisierung oder Lösungen zur Erstellung von Deepfakes. Anbieter und Nutzer solcher Systeme sind verpflichtet, die betroffenen Personen darüber zu informieren, dass sie es mit einem KI-System zu tun haben.
Für wen soll die Verordnung gelten?
Die KI-Verordnung soll nicht dazu dienen, Anbieter aus Ländern außerhalb der EU vom EU-Markt fernzuhalten, sondern die Bürger in der EU davor zu schützen, dass ihre Rechte und ihre Sicherheit beeinträchtigt werden. Daher soll die Verordnung für alle Anbieter gelten, „die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind“. Weiterhin betroffen sind „Nutzer von KI-Systemen mit Sitz in der Union“ sowie Anbieter und Nutzer aus allen Ländern, die „die von dem System in der Union erzeugten Ergebnisse“ nutzen möchten.
Wann tritt die Verordnung in Kraft?
Der Vorschlag der Kommission muss vom Europäischen Parlament und vom Rat der Europäischen Union angenommen werden. Der Fahrplan sieht vor, dass dies bis Ende 2022 geschehen soll. Die KI-Verordnung soll dann zwanzig Tage nach ihrer Veröffentlichung im Amtsblatt der EU, d. h. Ende 2022 oder Anfang 2023, in Kraft treten und voraussichtlich 24 Monate danach gelten, wobei einige Teile bereits früher in Kraft treten sollen.
Fazit
Die Reaktionen auf den Entwurf der EU-Verordnung reichen von „zu lax“ bis „zu restriktiv“. Die Zusammenfassung der Anhörung des Ausschusses für digitale Angelegenheiten im Bundestag im September 2022 ist ein gutes Beispiel dafür; die Bewertungen in den anderen EU-Mitgliedstaaten dürften ähnlich breit gefächert sein. Es bleibt abzuwarten, wie dies in der endgültigen Fassung aussehen wird.
Eines ist klar: Wer in der EU auf den Markt will, muss sich an die dort geltenden Regeln halten – das wissen wir bereits aus der DSGV. Und viele wollen auf den EU-Markt mit seinen fast 450 Millionen Einwohnern, seiner großen Wirtschaftskraft und seinem hohen Qualifikationsniveau. Vielleicht wird die KI-Verordnung international ebenso Vorbildcharakter haben wie die DSGVO.
