Was Unternehmen jetzt tun müssen

Die konkreten Anforderungen an Unternehmen hängen stark davon ab, ob man als Entwickler, Betreiber oder Nutzer eines KI-Systems auftritt. Für die meisten Unternehmen gilt: Sie nutzen bestehende Lösungen – etwa von Softwareanbietern oder Plattformen – und sind damit nicht direkt für deren technische Ausgestaltung verantwortlich. Trotzdem haben sie Verantwortung für den Einsatz und die Auswahl dieser Tools.

Kernpflichten umfassen u. a.:

• Verifizierung der Risikoklasse von eingesetzten Systemen
• Nachweis der Sorgfaltspflicht im Auswahlprozess von Anbietern
• Schulung und Aufklärung der Mitarbeitenden über den korrekten Umgang mit KI
• Transparenz gegenüber Endnutzer, wenn KI zum Einsatz kommt

Hochrisiko-KI‑Systeme werden so konzipiert und entwickelt, dass sie während der Dauer ihrer Verwendung – auch mit geeigneten Instrumenten einer Mensch-Maschine-Schnittstelle – von natürlichen Personen wirksam beaufsichtigt werden können.

Die menschliche Aufsicht dient der Verhinderung oder Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte, die entstehen können, wenn ein Hochrisiko-KI‑System im Einklang mit seiner Zweckbestimmung oder im Rahmen einer vernünftigerweise vorhersehbaren Fehlanwendung verwendet wird, insbesondere wenn solche Risiken trotz der Einhaltung anderer Anforderungen dieses Abschnitts fortbestehen.

Hierbei unterstütze ich Sie, damit Ihr Unternehmen die eigenen Systeme anhand eines strukturierten Fragebogens Vorklassifizieren können und eine erste Einschätzung zur Einstufung und Konformität Ihres KI-Systems zu gewinnen.