Die Kontrolle von Künstlicher Intelligenz (KI) gewinnt zunehmend an Bedeutung – auch für Unternehmen, die KI nutzen oder entwickeln. Ein aktuelles Beispiel aus den USA zeigt, wie Regulierung aussehen kann: Der Bundesstaat Illinois hat ein Gesetz verabschiedet, das KI-Labore wie OpenAI, Anthropic und Google DeepMind verpflichtet, ihre Sicherheitsmaßnahmen von unabhängigen Dritten prüfen zu lassen.

Damit geht Illinois einen Schritt weiter als bisherige Regelungen, die oft nur auf Selbstauskünfte der Unternehmen setzen. Das Gesetz SB 315 soll Transparenz schaffen und sicherstellen, dass die großen KI-Anbieter ihre eigenen Sicherheitsstandards auch tatsächlich einhalten.

Warum unabhängige KI-Sicherheitsprüfungen wichtig sind

Bisher mussten Unternehmen ihre KI-Modelle und deren Sicherheitsvorkehrungen meist selbst bewerten und darüber berichten. Das ist vergleichbar mit einer Situation, in der Schüler:innen ihre eigenen Prüfungen korrigieren – wenig vertrauenswürdig.

Mit dem neuen Gesetz sollen externe Prüfungen durch spezialisierte Wirtschaftsprüfungsfirmen oder Forschungsorganisationen erfolgen. So wird sichergestellt, dass die Angaben zu Sicherheitsmaßnahmen und Vorfällen objektiv bewertet werden. Für KMU, die KI einsetzen, ist das ein wichtiges Signal, dass auch bei großen Anbietern mehr Verantwortung übernommen wird.

Wie sieht das konkrete Prüfverfahren aus?

Das Gesetz sieht vor, dass KI-Labore ihre Sicherheitspraktiken regelmäßig von unabhängigen Auditor:innen überprüfen lassen. Dabei können etablierte Wirtschaftsprüfungsgesellschaften wie Deloitte oder PwC zum Einsatz kommen, aber auch kleinere Forschungsnetzwerke, die sich auf KI-Sicherheit spezialisiert haben.

Diese Prüfer:innen kontrollieren, ob die Labore ihre eigenen Sicherheitsstandards einhalten, etwa im Umgang mit Bias, Datenschutz oder der Vermeidung von Fehlfunktionen. Werden Mängel entdeckt, müssen die Unternehmen nachbessern und darüber berichten.

Auswirkungen auf die KI-Branche und Unternehmen

Der Vorstoß in Illinois wird von vielen als wegweisend angesehen. Er könnte als Modell für weitere Bundesstaaten oder sogar für eine bundesweite Regelung dienen. Besonders bemerkenswert ist, dass selbst große KI-Unternehmen wie OpenAI und Anthropic das Gesetz unterstützen, weil es klare Erwartungen und eine verlässliche Basis für Sicherheit schafft.

Für KMU bedeutet das: Sie können künftig besser einschätzen, wie sicher und verantwortungsvoll ihre KI-Dienstleister arbeiten. Das schafft Vertrauen und hilft bei der Auswahl von Partnern. Außerdem erhöht das Gesetz den Druck auf alle Anbieter, ihre KI-Systeme sorgfältig zu prüfen und transparent zu machen.

Kritik und Herausforderungen

Nicht alle sind von dem Gesetz begeistert. Einige Branchenvertreter befürchten, dass die Prüfungen zu bürokratisch sind und sensible Unternehmensdaten preisgegeben werden müssen. Die Balance zwischen Transparenz und Schutz von Geschäftsgeheimnissen wird eine Herausforderung bleiben.

Außerdem gibt es Debatten darüber, wie eine einheitliche Bewertung von KI-Sicherheit aussehen kann, da die Technologie sehr komplex und dynamisch ist. Dennoch gilt der Schritt als wichtiger Fortschritt im Umgang mit den Risiken der KI.

Was bedeutet das für Sie?

Auch wenn das Gesetz aktuell nur in Illinois gilt, zeigt es deutlich, wohin die Reise in Sachen KI-Sicherheit gehen kann. Für Entscheider:innen in KMU lohnt es sich, die Entwicklungen aufmerksam zu verfolgen. Die Erwartung an transparente und geprüfte Sicherheitsmaßnahmen wird steigen – auch bei den eigenen KI-Anwendungen.

Eine proaktive Auseinandersetzung mit KI-Sicherheit und die Auswahl von vertrauenswürdigen Partnern können helfen, Risiken zu minimieren. Gleichzeitig bieten klare Standards eine Orientierung, wie KI verantwortungsvoll eingesetzt werden kann.