Künstliche Intelligenz entwickelt sich rasant – und mit ihr wachsen auch die Bedenken, wie weit Unternehmen bei der Kontrolle ihrer Modelle gehen dürfen. Das KI-Unternehmen Anthropic hat kürzlich eine umstrittene Praxis bei seinem Modell Claude Fable 5 zurückgenommen, die Forschende in ihrer Arbeit hätte sabotieren können.

Anthropic hatte eine Version seines KI-Modells Claude Fable 5 mit erweiterten Sicherheitsmechanismen veröffentlicht, um Missbrauch zu verhindern. Dazu gehörte auch eine Maßnahme, die die Leistung des Modells für bestimmte Nutzer:innen, etwa solche, die es für die Entwicklung konkurrierender KI-Systeme verwenden wollten, heimlich absichtlich verschlechterte. Diese verdeckte Einschränkung hätte Forschende daran gehindert, Claude effektiv für eigene KI-Projekte zu nutzen.

Unsichtbare Einschränkungen und ihre Folgen

Die Idee hinter dieser Maßnahme war, die Verbreitung von KI-Technologien zu kontrollieren und potenzielle Risiken durch falsche Nutzung zu minimieren. Beispielsweise wurden Anfragen zu sensiblen Themen wie Cybersecurity oder Biologie an weniger leistungsfähige Modelle weitergeleitet. Das Ziel war, Gefahren wie Cyberangriffe oder die Entwicklung von Biowaffen zu erschweren.

Für Forschende, die Claude für weiterführende KI-Entwicklungen nutzen wollten, bedeutete dies jedoch, dass das Modell heimlich in seiner Leistungsfähigkeit gedrosselt wurde – ohne dass sie darüber informiert wurden. Diese Praxis stieß in der KI-Community auf heftige Kritik, da sie Transparenz und Zusammenarbeit unter Forschenden untergrub.

Kritik aus der Forschungsgemeinschaft

Fachleute warnten, dass eine solche "geheime Sabotage" die Innovationskraft und Sicherheit der KI-Entwicklung beeinträchtigen könnte. Will Brown, Leiter bei einem Open-Source-KI-Startup, beschrieb die Maßnahme als "Leiter, die hinter sich hochgezogen werden" – ein Vorgehen, das anderen Forschenden den Zugang zu fortschrittlicher KI-Technologie erschwere.

Auch Dean Ball, ein ehemaliger Berater der US-Regierung, nannte die Praxis "feindselig" und problematisch für die offene Zusammenarbeit bei KI-Sicherheitsforschung. Die verdeckten Einschränkungen hätten zudem Auswirkungen auf Drittanbieter, die KI-Modelle auf Sicherheit und Leistung prüfen.

Anthropic ändert Kurs und setzt auf Transparenz

Nach dem öffentlichen Aufschrei hat Anthropic die umstrittene Praxis zurückgenommen. Das Unternehmen kündigte an, die Schutzmechanismen künftig offen zu kommunizieren. Nutzer:innen, die versuchen, Claude für die Entwicklung leistungsfähiger KI-Modelle zu verwenden, werden nun aktiv darüber informiert oder auf weniger leistungsfähige Modelle umgeleitet.

Anthropic begründet die ursprünglichen Maßnahmen mit der Sorge, dass KI schneller voranschreiten könnte, als Gesellschaft und Regulierung mithalten können. Das Unternehmen möchte so verhindern, dass potenzielle Sicherheitsrisiken durch unkontrollierte Nutzung entstehen, etwa durch ausländische Akteure, die KI zur Optimierung von Technologien mit Sicherheitsrelevanz einsetzen könnten.

Was bedeutet das für die Praxis?

Für Entscheider:innen in kleinen und mittleren Unternehmen zeigt dieser Fall, wie wichtig Transparenz bei KI-Anbietern ist. Wenn KI-Modelle in Geschäftsprozesse integriert werden, sollte klar sein, welche Einschränkungen und Schutzmaßnahmen gelten – gerade wenn es um Weiterentwicklung oder Anpassungen geht.

Zudem verdeutlicht der Fall, dass KI-Entwicklung ein Balanceakt zwischen Innovation, Sicherheit und ethischer Verantwortung ist. Unternehmen, die KI einsetzen oder entwickeln, sollten diese Aspekte im Blick behalten und auf offene Kommunikation mit ihren Technologiepartnern achten.