Die Europäische Union hat die erste bedeutende Regulierung von Künstlicher Intelligenz (KI) weltweit auf den Weg gebracht. Die Regulierung soll Vertrauen, Sicherheit und Transparenz im Umgang mit KI-Systemen gewährleisten. Sie zielt aber auch darauf ab, Innovation und wirtschaftliches Wachstum zu fördern.
AI Act: Notwendigkeit der Regulierung
Bei allen Chancen, die die rasante Entwicklung von KI-Technologien mit sich bringt, dürfen die damit verbundenen Risiken nicht vernachlässigt werden. KI bietet unbestritten riesige Potentiale für die Automatisierung und Effizienzverbesserung in allen Wirtschaftsbereichen. Aber auch diese Technologie ist nicht perfekt, es geschehen Fehler, unbeabsichtigte Effekte oder gar die Verbreitung von sensiblen Informationen und damit einhergehende Schäden für Unternehmen und Personen. Beispielsweise können undurchsichtige Entscheidungsprozesse von KI-Systemen zu Diskriminierung von bestimmten Personen führen führen oder durch Fehlleitung von Informationen zu Wettbewerbsnachteilen in Unternehmen führen.
Der AI Act setzt hier an als Regulierungsinstrument, bestimmt also die Regeln auf dem Spielfeld. Für Unternehmen ist es daher unabdingbar erstens, diese Regeln zu kennen und die eigenen Systeme auf mögliche Verletzungen zu prüfen. Dadurch erhält die Öffentlichkeit bereits einen gewissen Schutz.
Für Unternehmen ist es aber zweitens noch viel wichtiger, KI-Technologie für sich selbst sinnvoll einzusetzen. Das benötigt explizite Kenntnisse über notwendige unternehmensinterne Vorgehensweisen für eine sichere Verwendung sowie die Ausschöpfung der Potentiale.
Klassifizierung von KI-Systemen nach Risikostufen
Der EU AI Act teilt KI-Systeme zunächst in verschiedene Risikokategorien ein:
Unannehmbares Risiko: KI-Systeme, die eine klare Bedrohung für die Grundrechte darstellen, sind verboten. Dazu gehören beispielsweise soziale Bewertungssysteme und manipulative KI.
Hohes Risiko: Diese Systeme unterliegen strengen Anforderungen, einschließlich Risikomanagement, hoher Datenqualität, Transparenz und menschlicher Aufsicht. Beispiele sind KI in kritischen Infrastrukturen, medizinischen Geräten und Systemen zur Entscheidungsfindung in Bildung und Beschäftigung.
Begrenztes Risiko: Systeme mit begrenztem Risiko müssen Transparenzpflichten erfüllen, wie die Offenlegung, dass eine Interaktion mit einer KI stattfindet. Dies betrifft etwa Chatbots und Deepfakes.
Minimales Risiko: Diese Systeme, wie KI-gestützte Videospiele oder Spam-Filter, unterliegen keinen speziellen Regulierungen.
Für Entwickler bzw. Betreiber von KI-Systemen sowie Anwendern entstehen nach EU-Recht verschiedene Verpflichtungen.
So müssen Entwickler sicherstellen, dass ihre Systeme den festgelegten Anforderungen entsprechen, insbesondere bei hohen Risiken. Dazu gehören technische Dokumentationen, Risikobewertungen und entsprechende Sicherheitsmaßnahmen. Andererseits ist für Anwender ein verantwortungsvoller Umgang angezeigt, so müssen sie sicherstellen, dass KI-Systeme korrekt angewendet werden, selbst wenn das KI-System außerhalb Europas betrieben, aber innerhalb der EU genutzt wird.
Konkrete Gefahren für Unternehmen
Bei Missachtung drohen Bußgelder bis zu 30 Millionen Euro bzw. 6% des weltweiten Jahresumsatzes, aber auch Imageschäden sowie ein damit verbundener Vertrauensverlust bei Kunden und Partnern birg sehr hohe Gefahren.
Ein Verzicht auf KI-Systeme bedeutet aber andererseits erhebliche Wettbewerbsnachteile zu riskieren. Da konkurrierende Unternehmen durch KI-Systeme Kosten sparen, höhere Umsätze generieren bzw. ihre Marktchancen erhöhen, geraten solche Unternehmen leicht in Gefahr den Anschluss zu verlieren. Auch mögliche Fehlinterpretationen der AI Act Regulierung durch Unternehmen sind eine große Gefahr. Ein unbeabsichtigter Verstoß schütz nicht vor der Verhängung von Bußgeldern oder weitreichenden wirtschaftlichen Konsequenzen.
Inkrafttreten des AI Acts
- 1. August 2024: Der EU AI Act tritt in Kraft
- Februar 2025: Beginn der Übergangsfrist für Unternehmen bzgl. unannehmbarem Risiko
- August 2026: Vollständiges Inkrafttreten der meisten Bestimmungen
- August 2027: Verpflichtungen für Hochrisiko-KI-Systeme treten in Kraft
AI-Know How ist entscheidend
Nur in wenigen Unternehmen ist ausreichend Wissen für eine rechtssichere Umsetzung bzw. für die profitable und sichere Verwendung von KI-Systemen bzw. dem AI-Act vorhanden. Unternehmen müssen daher schnellstens umfassendes Wissen aufbauen, „Leitplanken“, d.h. eine Governance für die interne Verwendung von AI festlegen und überwachen und gleichzeitig Neuerungen am Markt von KI-Systemen ausfindig machen und auf Anwendbarkeit im Unternehmen evaluieren.
- Expertenwissen: Setzen sie auf das Wissen von AI-Experten, die den Markt kennen und die gesetzlichen Anforderungen und Konsequenzen führ Ihre Branche verstehen und erklären können
- Maßgeschneiderte Lösungen: Setzen sie Lösungen, welche KI-Technologie enthalten nicht einfach „blind“ ein sondern achten Sie auf die individuelle Anpassungen an Ihr Unternehmen um sowohl Risiken aber auch Chancen zu nutzen
- Risikomanagement: Ergründen Sie potentielle Verstöße, die möglichen Konsequenzen und definieren Sie eine dazu passende Risikenstrategie
- Maximierung der Vorteile: Versuchen Sie die Vorteile wie Effizienzsteigerung, Automatisierung und Kostenreduzierung möglichst umfassend umzusetzen um nicht ins Hintertreffen gegenüber Konkurrenzunternehmen zu geraten aber gleichzeitig gesetzliche und interne Regelungen einzuhalten.
- Image und Marke: Präsentieren Sie sich als verantwortungsbewusstes Unternehmen indem Sie zeigen, wie Sie die Regelungen des AI Act bereits einhalten und gleichzeitig als zukunftsorientiertes Unternehmen Künstlicher Intelligenz in möglichst positiver Weise anwenden.
Fazit
Der AI Act setzt Maßstäbe bei der verantwortungsvollen Verwendung von AI für die Öffentlichkeit. Gleichzeitig müssen Unternehmen mit Zukunft Ihre Hausaufgaben machen und neben Expertenwissen auch die sichere und profitable Verwendung von KI-Systemen beherrschen um nicht gegenüber dem Wettbewerb Marktanteile zu verlieren, Bedrohungen für die Öffentlichkeit zu generieren oder die eigene wirtschaftliche Existenz zu gefährden.
Für Unterstützung auf dem Weg Ihrer Digitalen und KI -Transformation erhalten Sie individuell Unterstützung durch unsere Experten.
Weitere Informationen zu unseren Beratungsleitungen finden Sie hier sowie speziell zur Digitalen Transformation auch unter diesem Link.