Seit dem 2. August 2026 gilt Artikel 50 des AI Act ohne Erleichterungen, im Gegensatz zu Artikel 4, der diesen Sommer durch die Verordnung (EU) 2026/1744 überarbeitet wurde. Dieser Text betrifft nicht nur Modellanbieter: Ein Unternehmen, das einen Assistenten online stellt, generierte Grafiken veröffentlicht oder KI-produzierte Texte verbreitet, unterliegt ihm direkt.
Vier Pflichten, zwei Arten von Akteuren
Artikel 50 unterscheidet zwischen Anbietern, die ein KI-System entwickeln oder in Verkehr bringen, und Einsatzstellen, die es in ihrer Tätigkeit nutzen. Anbieter von Systemen, die für die direkte Interaktion mit Personen bestimmt sind, müssen sicherstellen, dass diese wissen, dass sie sich an eine KI wenden, es sei denn, dies ist für eine vernünftig informierte Person offensichtlich.
Anbieter von Systemen, die Text, Bilder, Ton oder Video generieren, müssen diese Ausgaben zudem maschinenlesbar kennzeichnen, damit sie als künstlich erkannt werden können. Einsatzstellen von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen ihrerseits Personen, die diesen ausgesetzt sind, vorab informieren.
Schließlich müssen Einsatzstellen, die hypermanipulierte Bilder, Töne oder Videos, also Deepfakes, verbreiten, angeben, dass diese generiert oder manipuliert wurden. Die gleiche Regel gilt für Texte, die zur Information der Öffentlichkeit über Fragen von allgemeinem Interesse veröffentlicht werden, es sei denn, sie wurden von einem Menschen geprüft und eine Person übernimmt die redaktionelle Verantwortung.
Nur eine Flexibilität, bei der Kennzeichnung
Generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, die Kennzeichnung anzuwenden, gemäß der Verordnung (EU) 2026/1744. Die anderen Pflichten genossen keine Fristverlängerung. Ein Verhaltenskodex für die Transparenz generierter Inhalte wurde diesen Sommer fertiggestellt. Er ist nicht verpflichtend, bietet aber eine Methode an.
Oft liest man, dass diese Pflichten zunächst OpenAI, Microsoft oder Mistral betreffen. Das gilt für die Kennzeichnung der Ausgaben ihrer Modelle, aber viel weniger, wenn ein Unternehmen seinen eigenen Assistenten zusammenstellt, zum Beispiel einen Copilot Studio Agenten oder einen Chatbot, der auf einer API aufbaut und unter seinem Namen eingesetzt wird. Es kann dann als Anbieter dieses Systems angesehen werden, und die Information des Nutzers obliegt ihm. Die Pflichten der Einsatzstelle bezüglich Deepfakes, Texten von öffentlichem Interesse und Emotionserkennung bleiben in jedem Fall seine eigenen.
Was zu prüfen ist
Jeder Chatbot, der Kunden oder Mitarbeitern ausgesetzt ist, muss sich beim ersten Austausch ankündigen, zum Beispiel mit dem Hinweis „Sie kommunizieren mit einem automatisierten Assistenten », und nicht am Ende einer Seite mit rechtlichen Hinweisen. Sprachassistenten sind gleichermaßen betroffen. Generierte Grafiken, Stimmen oder Videos, die Personen, Orte oder Ereignisse realistisch darstellen, müssen einen Hinweis tragen, sobald sie für authentisch gehalten werden könnten. Für ein offensichtlich kreatives oder satirisches Werk genügt ein unauffälliger Hinweis.
Veröffentlichte Texte, Blogbeiträge, Pressemitteilungen oder Newsletter müssen gekennzeichnet werden, wenn sie ohne menschliche Prüfung und ohne identifizierten redaktionell Verantwortlichen generiert wurden. Eine dokumentierte Prüfung bleibt der beste Schutz. Darüber hinaus ist die Emotionserkennung am Arbeitsplatz durch Artikel 5 verboten, außer aus medizinischen oder Sicherheitsgründen, was dazu auffordert, ein Personal- oder Callcenter-Tool, das „das Engagement misst », genau zu prüfen. Bei gekauften Tools müssen die Anbieter gefragt werden, ob die Kennzeichnung ihrer Ausgaben bereits umgesetzt oder vor dem 2. Dezember geplant ist.
Was droht
Ein Verstoß gegen Artikel 50 kann mit einer Geldbuße von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes geahndet werden, wobei der höhere Betrag gilt. Für KMU gilt der niedrigere der beiden Beträge. Ein Unternehmen, das seine KI-Nutzungen bereits für Artikel 4 erfasst hat, verfügt über eine Arbeitsgrundlage. Es genügt, vier Fragen hinzuzufügen: Interagiert das Tool direkt mit Personen, produziert es Inhalte, die extern verbreitet werden, wer ist im Sinne der Verordnung der Anbieter und welcher Hinweis ist vorhanden?
