Seit dem 2. August gelten in der Europäischen Union neue Transparenzregeln für den Einsatz künstlicher Intelligenz. Im Rahmen des europäischen KI-Gesetzes (AI Act) müssen Unternehmen, Plattformen und kommerzielle Content-Ersteller synthetische Texte, Bilder, Videos und Audioinhalte fortan eindeutig kennzeichnen. Auch beim Kontakt mit Chatbots muss für Nutzer sofort erkennbar sein, dass sie mit einer Software interagieren. In Deutschland wird das Regelwerk über das neue Künstliche-Intelligenz-Marktüberwachungsgesetz (KI-MIG) durchgesetzt. Ziel der Vorgaben ist es, Falschinformationen einzudämmen und das Vertrauen im digitalen Raum zu stärken.
- Kommerzielle Inhalte und Deepfakes müssen ab sofort als KI-generiert gekennzeichnet werden.
- Deutschland setzt die EU-Vorgaben über das KI-MIG um, zuständig ist die Bundesnetzagentur.
- Bei Verstößen drohen Strafen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes.
- Für bereits bestehende KI-Modelle gilt eine Übergangsfrist bis zum 2. Dezember.
Die Transparenzvorgaben unterscheiden zwischen Entwicklern (Proprovidern) von KI-Systemen und Akteuren, die diese Technologien anwenden (Deployer). Betroffen von den Pflichten sind neben großen Tech-Konzernen auch monetarisierte Influencer, digitale Marketingagenturen, Verlage und Unternehmen. Wer synthetische Medien veröffentlicht, die täuschend echt wirken – sogenannte Deepfakes –, muss diese zwingend als KI-generiert ausweisen. Bei KI-Chatbots oder virtuellen Assistenten müssen Nutzer ebenfalls direkt informiert werden, sofern der maschinelle Charakter nicht ohnehin offensichtlich ist.
Ausnahmen gelten für Satire, Kunst und überarbeitete Texte
Nicht jeder Einsatz von Algorithmen erfordert zwingend eine Kennzeichnung. Rein private Interaktionen, etwa in persönlichen Gruppenchats, sind von den Vorgaben ausgenommen. Auch für künstlerische Werke, Fiktion und Satire gelten Lockerungen, wenngleich täuschend echte Deepfakes selbst in diesem Kontext offengelegt werden müssen. Eine weitere wichtige Ausnahme betrifft Texte: Wer KI-generierte Textentwürfe vor der Veröffentlichung menschlich prüft, redaktionell überarbeitet und die rechtliche Verantwortung übernimmt, muss diese nicht als KI-Text deklarieren.
Die EU-Kommission stellt für die Umsetzung eigene Standard-Labels zur Verfügung, betont jedoch, dass die Einhaltung der Transparenzpflichten selbst keineswegs freiwillig ist.
Bundesnetzagentur übernimmt Überwachung in Deutschland
In Deutschland setzt das Künstliche-Intelligenz-Marktüberwachungsgesetz (KI-MIG) den europäischen Rahmen um. Die Bundesregierung hat dabei darauf verzichtet, über die EU-Vorgaben hinaus zusätzliche bürokratische Hürden aufzubauen. Als zentrale Aufsichtsbehörde fungiert die Bundesnetzagentur (BNetzA), die auch eine zentrale Beschwerdestelle einrichtet. Beschäftigte, die Verstöße oder Missbrauch von KI im eigenen Unternehmen melden, stehen zudem unter dem Schutz des deutschen Hinweisgeberschutzgesetzes.
Empfindliche Strafen bei Verstößen und Übergangsfristen
Bei Nichtbeachtung der Transparenzpflichten drohen Unternehmen drastische finanzielle Konsequenzen. Das Regelwerk sieht Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vor; für EU-Institutionen liegt die Obergrenze bei 750.000 Euro. Bei nachgewiesen manipulativen KI-Praktiken können die Strafen sogar bis zu 35 Millionen Euro beziehungsweise sieben Prozent des globalen Umsatzes betragen. Kleineren Formfehlern, wie einer nachlässigen technischen Dokumentation, stehen Bußgelder von maximal 50.000 Euro gegenüber. Für kleine und mittlere Unternehmen sollen die Strafen proportional angepasst werden, Bescheide lassen sich im regulären Ordnungswidrigkeitenverfahren gerichtlich anfechten.
Für KI-Systeme und Dienste, die bereits vor dem 2. August am Markt verfügbar waren, gewährt die EU eine vier-monatige Übergangsfrist bis zum 2. Dezember, um die Kennzeichnungen nachzurüsten.
Während Vertreter der Digitalwirtschaft kritisieren, dass die strengen Auflagen Innovationen bremsen könnten, verweist die EU-Kommission auf den Nutzen eines harmonisierten Binnenmarkts. Einheitliche Regeln schützten Grundrechte und Demokratie, während sie Entwicklern gleichzeitig Rechtssicherheit böten.
Glauben Sie, dass verpflichtende KI-Labels das Vertrauen in digitale Medien stärken können, oder befürchten Sie vor allem mehr Bürokratie? Diskutieren Sie mit uns in den Kommentaren.
