BEL-Brüssel | Die europäische Verordnung zur Künstlichen Intelligenz tritt in Kraft. Die weltweit erste Rechtsvorschrift auf diesem Feld soll sicherstellen, dass die in der EU entwickelte und angewandte KI vertrauenswürdig ist und die Grundrechte der Menschen berücksichtigt. Die Verordnung soll KI-Innovationen und -Investitionen in einem harmonisierten Binnenmarkt fördern.
Die KI-Verordnung führt eine Begriffsbestimmung ein, die auf der Produktsicherheit und Risikobegrenzung beruht. Es gibt drei Risikostufen: Die meisten Anwendungen wie Spamfilter und Empfehlungssysteme haben ein minimales Risiko und unterliegen keinen besonderen Verpflichtungen. Unternehmen können aber freiwillig Verhaltenskodizes aufstellen. Für KI-Systeme, die als hochriskant eingestuft werden, gelten strenge Anforderungen im Hinblick auf die Risikominimierung, die Datensätze, die Protokollierung und Dokumentation der Vorgänge sowie die Information der Nutzer. In diese Kategorie gehören KI-Systeme zur Personalbewertung, Krediteinstufung und Steuerung autonomer Roboter. KI-Systeme, die als Bedrohung der menschlichen Grundrechte gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren und bestimmte Anwendungen zur polizeilichen Überwachung. Außerdem werden einige biometrische Systeme verboten, z.B. zur Emotionserkennung am Arbeitsplatz, Kategorisierung von Menschen und Fernidentifikation im öffentlichen Raum.
Es gelten besondere Transparenzverpflichtungen: KI-Systeme wie Chatbots müssen ihre Nutzer deutlich darauf hinweisen, dass sie es mit Maschinen zu tun haben. KI-erzeugte Inhalte wie Deepfakes müssen als solche gekennzeichnet werden. Außerdem müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text und Bildinhalte als künstlich erzeugt oder manipuliert erkannt werden können. Mit der KI-Verordnung werden auch Vorschriften für sogenannte KI-Modelle mit allgemeinem Verwendungszweck eingeführt; sie können viele Aufgaben erfüllen, z.B. die menschengerechte Textgenerierung. Diese Vorschriften sollen für Transparenz in der Wertschöpfungskette sorgen und Risiken mindern.
Die meisten Vorschriften gelten ab dem 2. August 2026. Verbote für KI-Systeme mit unannehmbarem Risiko gelten schon 6 Monaten nach Inkrafttreten der Verordnung, die Vorschriften für KI-Modelle nach 12 Monaten. Für den Übergangszeitraum fordert die EU-Kommission mit einem Pakt KI-Entwickler auf, die wichtigsten Verpflichtungen der KI-Verordnung schon jetzt freiwillig einzuhalten.
(Quelle: Pressemitteilung der Europäischen Kommission, 1. August 2024)