EU AI Act

Was der EU AI Act regelt

Der EU AI Act ist die Verordnung der Europäischen Union, die den Einsatz von Künstlicher Intelligenz reguliert. Er ist der erste umfassende Rechtsrahmen dieser Art und gilt nicht nur für Hersteller von KI-Systemen, sondern für jede Stelle, die sie beruflich einsetzt. Wer im Shop ein KI-Werkzeug für Texte, Bilder, Empfehlungen oder Kundenanfragen nutzt, fällt damit in den Geltungsbereich.

Die Risikostufen

Die Verordnung arbeitet mit vier Stufen. Verbotene Praktiken, etwa Systeme zur Manipulation oder zur sozialen Bewertung, sind untersagt. Hochrisiko-Systeme sind erlaubt, aber an umfangreiche Pflichten gebunden, zum Beispiel in der Medizin oder bei Personalentscheidungen. Systeme mit begrenztem Risiko, zu denen die meisten Anwendungen im Handel gehören, unterliegen vor allem Transparenzpflichten. Systeme mit minimalem Risiko wie Spamfilter bleiben frei.

Für den Online-Handel ist fast immer die dritte Stufe relevant. Ein Empfehlungssystem oder ein Chatbot löst damit keine Zulassung aus, wohl aber die Pflicht, Nutzer zu informieren.

Transparenzpflichten in der Praxis

• Chatbots: Nutzer müssen erkennen können, dass sie mit einem System und nicht mit einem Menschen schreiben.
• Synthetische Inhalte: Werden Bilder, Videos oder Audio mit KI erzeugt, muss das als künstlich erzeugt erkennbar sein.
• Texte: Bei Text, der der Information der Öffentlichkeit dient, gilt die Kennzeichnungspflicht dann, wenn der Inhalt ohne redaktionelle Prüfung veröffentlicht wird.
• Deepfakes: Inhalte, die eine reale Person darstellen, sind unabhängig davon zu kennzeichnen.

Was daraus für den Shop folgt

Vier Maßnahmen decken das Wesentliche ab. Erstens ein Verzeichnis der genutzten KI-Werkzeuge mit Zweck und Anbieter. Zweitens Regeln, wer Ergebnisse prüfen darf, bevor sie veröffentlicht werden. Drittens eine Kennzeichnung, die der Betrieb tatsächlich einhält, sei es im Alt-Text, als Hinweis auf der Seite oder in den Metadaten. Viertens die Verankerung im Vertrag mit dem Anbieter, damit die Pflichten nicht beim Shop hängen bleiben, obwohl die technische Umsetzung beim Dienstleister liegt.

Häufige Fragen

• Ab wann gilt der AI Act? Er gilt seit August 2024 und wird stufenweise anwendbar. Verbote greifen früh, die Transparenzpflichten folgen später.
• Betrifft er auch kleine Shops? Ja, die Pflichten hängen an der Nutzung, nicht an der Größe.
• Gilt er für Werbetexte? Ja, sobald Inhalte öffentlich verbreitet werden.