Die neue KI-Verordnung der EU: Was der AI Act für den Handel bedeutet

Worum geht es bei der KI-Verordnung (AI Act)?

Künstliche Intelligenz (KI) ist mittlerweile ein fester Bestandteil unseres Alltags geworden und kommt vermehrt auch in (Handels)-Unternehmen zum Einsatz. Dabei bieten KI-Lösungen vielfältige Möglichkeiten – beispielsweise zur Optimierung von Kundenservice und Prozessen. KI-Systeme sind in bestimmten Fällen allerdings auch mit Risiken verbunden, wenn sie etwa mit sensiblen Daten arbeiten und darauf basierend Entscheidungen treffen.

Ziel der KI-Verordnung ist es, den EU-Binnenmarkt zu stärken und eine vertrauenswürdige, auf Menschen ausgerichtete, künstliche Intelligenz (KI) zu fördern. Gleichzeitig soll ein hoher Schutz der Gesundheit, Sicherheit und Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sichergestellt werden. Zudem soll die Innovation unterstützt und negative Auswirkungen von KI-Systemen in der EU vermieden werden. 

Der AI Act der EU ist das weltweit erste Gesetz, das spezifische Vorschriften für den Einsatz von künstlicher Intelligenz festlegt. Die Verordnung ist seit 1.8.2024 in Kraft und wird schrittweise umgesetzt. 

KI-Systeme werden grundsätzlich in verschiedene Risikostufen eingeteilt, die von "minimal", "begrenzt" über "hoch" bis "inakzeptabel" reichen. Im AI Act wird zudem nach verschiedenen Rollen unterschieden, welche die jeweiligen Auflagen näher definieren.

Abhängig von der jeweiligen Einstufung und Rolle müssen mehr oder weniger umfassende Verpflichtungen erfüllt werden (z.B.: für KI-Systeme mit minimalem Risiko ausschließlich KI-Kompetenzen gemäß Art. 4, für Hochrisiko KI-Systeme hingegen zusätzlich technische Dokumentation, die Einrichtung eines Risikomanagement-Systems, Kennzeichnungspflichten, Korrekturmaßnahmen, Konformitätsbewertung etc.). Alle KI-Systeme, die nicht unter eine dieser Risikostufen fallen, sind nach dem AI Act ohne Auflagen erlaubt.

Die Klassifizierung des KI-Systems zu kennen und jeweils die Rolle, welche man als Akteur einnimmt, ist also essenziell, um die jeweiligen Verpflichtungen abzuleiten. Prinzipiell kann allerdings davon ausgegangen werden, dass ein Großteil der bei den (Handels)-Unternehmen im Einsatz befindlichen KI-Systeme entweder als KI-System mit minimalem oder begrenztem Risiko klassifiziert werden können, wodurch ausschließlich Auflagen zur KI-Kompetenz und Transparenz gegenüber nachgelagerten Akteuren entstehen werden.

Weitere Informationen → Risikostufen von KI-Systemen | KI-Servicestelle | RTR

Nähere Informationen → AI Act - Die KI-Verordnung der EU tritt mit 1.8.2024 in Kraft

Betrifft mich die KI-Verordnung der EU?

Ja, sobald Sie und/oder Ihre Mitarbeiter:innen KI-Systeme (also Bsp. Microsoft Copilot oder ChatGPT) im Unternehmen nutzen oder entwickeln.

Denn für alle Unternehmen − nicht nur für KI-Anbieter − relevant ist etwa die Bestimmung zur KI-Kompetenz, die in Art. 4 AIA (AI Act) geregelt ist.

Es gibt die Verpflichtung, Maßnahmen zu ergreifen, um sicherzustellen, dass Mitarbeiter:innen und andere Personen, die in Ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen.

Die Art der Maßnahmen hängt vom eingesetzten KI-System und dessen Risikostufe ab. Außerdem sind die technischen Kenntnisse, die Erfahrung, die Ausbildung und Schulung der Mitarbeiter:innen sowie der Kontext, in dem die KI-Systeme eingesetzt werden sollen, zu berücksichtigen. Beispielsweise werden sich KI-Anbieter, die einen Chatbot entwickeln mit anderen Themen auseinandersetzen müssen als Betreiber, die dieses System lediglich anwenden.

Der AI Act lässt offen, wie die Schulungsmaßnahmen gestaltet werden sollen. Diese können durch interne Fortbildungen, externe Beratungen oder interne Schulungen erfolgen.

Das Schulungsformat kann flexibel an den jeweiligen Einsatzzweck angepasst werden – neben interaktiven Workshops und Vorträgen sind auch e-Learnings möglich.

Laut der Sektion VII - Digitalisierung und E-Government im Bundeskanzleramt Österreich ist davon auszugehen, "dass 70 bis 80 % der bestehenden KI-Systeme - neben der Sicherstellung von KI-Kompetenz - kaum Verpflichtungen unterliegen werden".

Was soll ich als Handelsunternehmen tun?

Grundsätzlich sollten Sie als (Handels)-Unternehmen zur Umsetzung von Art. 4 AIA zwei Maßnahmen setzen:

1. Erheben Sie, welche KI-Systeme im Unternehmen aktuell bereits eingesetzt werden.

Künstliche Intelligenz (KI) ist schon jetzt in vielen Softwareprodukten integriert. Auch Softwareupdates bringen oft neue KI-Komponenten mit sich. Daher ist es möglich, dass KI-Systeme bereits in Ihrem Unternehmen genutzt werden, ohne dass es Ihnen bewusst ist.

Es ist also sinnvoll zu erheben, welche Software Sie aktuell nutzen. Bereits vorhandene Listen und Verzeichnisse oder frühere Erhebungen können dafür hilfreich sein. Diese Übersicht sollte regelmäßig oder bei der Implementierung neuer KI-Komponenten aktualisiert werden.

2. Überlegen Sie, wie Sie KI für die strategische Ausrichtung Ihres Unternehmens nutzen wollen und wie Sie die nötigen Kompetenzen dafür sicherstellen.

Strategie und KI-Richtlinie

Wie Sie KI in Ihrem Betrieb einsetzen möchten, ist Ihre individuelle strategische Entscheidung. Beispiele für Anwendungsmöglichkeiten und Tipps für den Einsatz von KI sind beispielsweise hier zu finden → Künstliche Intelligenz

Es macht Sinn, die grundsätzliche strategische Ausrichtung Ihres Unternehmens in Hinblick auf KI auch in einer internen Richtlinie abzubilden. Hier finden Sie eine entsprechende Vorlage zu Ihrer Verwendung → KI-Guidelines für KMU

KI-Kompetenz im Sinne des AI Acts

Mit KI-Kompetenz wird umschrieben, was es braucht, um erfolgreich und sicher mit KI-Systemen arbeiten zu können. Diese Kompetenz umfasst technische, rechtliche und ethische Kenntnisse sowie Risikobewusstsein und praktische Anwendungsfähigkeit.

Da die Art und der Einsatz von KI-Systemen dessen potenzielles Risiko im Schadfall maßgeblich definieren, hat man als Unternehmen viele Möglichkeiten, den Verpflichtungen gerecht zu werden. Art. 4 AIA gibt hier keine konkreten Vorgaben. 

Für Art und Intensität von Schulungsmaßnahmen sollte der Ausbildungs- und Kenntnisstand der Mitarbeiter:innen sowie der Einsatzbereich der KI berücksichtigt werden. Auch die Risikostufe des KI-Systems spielt eine Rolle. Der Einsatz von KI-Systemen mit begrenztem Risiko erfordert ggf. andere Maßnahmen als der Einsatz von KI-Systemen im Hochrisikobereich. In der Entwicklung von KI-Systemen sind andere Aspekte wichtiger als in der bloßen Anwendung. Handelsbetriebe werden in der Regel nicht im Bereich der Hochrisiko-KI operieren und sich eher mit der Anwendung, als mit der Entwicklung von KI-Systemen beschäftigen.

Dokumentation der Vermittlung von KI-Kompetenz

Um die Vermittlung von KI-Kompetenz nachweisen zu können, empfiehlt es sich, eine Dokumentation anzulegen. Halten Sie Ihre Überlegungen zu Ihrer KI-Strategie schriftlich fest und nutzen Sie die oben genannte Vorlage zur Erarbeitung einer KI-Richtlinie. Die KI-Richtlinie sollte für Ihre Mitarbeiter:innen unternehmensintern leicht zugänglich sein.

Wenn Sie Schulungen durchgeführt wurden, notieren Sie dazu folgende Informationen im jeweiligen Personalakt:

• Art der Schulung (physisch, e-Learning,…)
• Insb. wenn extern: den Veranstalter der Schulung
• Schulungsinhalt und Schulungsziel
• Zeitpunkt der Schulung
• Wiederholungen

Nähere Informationen zu KI-Kompetenz im Sinne des AI-Acts → AI Act: KI-Kompetenz | KI-Servicestelle der RTR

Weitere Infos und Tools

Gratislizenzen für wîse up: Holen Sie mit dem Online-Angebot von wîse up nun auch KI-Kompetenz in Ihr Unternehmen!

Toolset DSGVO für Handelsunternehmen: Die Datenschutzgrundverordnung in Handelsunternehmen - WKO

6 Tipps für Ihre KI-Strategie: 6 Tipps: So finden Sie die passende KI-Strategie für Ihr Unternehmen - WKO

KI-Servicestelle der RTR: KI-Servicestelle der RTR | RTR

Webinar KI im E-Commerce (WK NÖ): Sparte Handel: Webinare zum "Nachschauen" - WKO

KI-Führerschein (WIFI): KI-Führerschein | Künstliche Intelligenz verstehen und anwenden | WIFI Österreich