Die KI-Firma Anthropic hat in ihren Datenbanken Dokumente aus russischen und chinesischen Behörden gefunden. Offenbar gaben User diese selbst ein – und chinesische KI-Modelle fragten dann „Claude“ nach Antworten.

Die KI-Firma Anthropic hat offenbar hunderte Dokumente aus chinesischen und russischen Behörden in ihren Datenbanken gefunden – und wertet diese als Indiz, dass ihre chinesischen Rivalen schummeln. KI-Modelle wie Kimi und Deep Seek hätten Anthropic zufolge Anfragen von Nutzern heimlich zu ihrem Claude-Modell umgeleitet, statt sie mit einer eigenen KI-Software zu beantworten. Dadurch seien zum Teil auch Daten staatlicher Stellen aus China und Russland in Systemen der US-Firma gelandet, schrieb Anthropic in einem ausführlichen Bericht, indem Versuchen einer unerlaubten Nutzung dokumentiert werden.

Überwachungsvideos aus China

So habe ein User etwa Aufnahmen von Überwachungskameras hochgeladen, die unter anderem aus der Umgebung von Standorten der chinesischen Armee stammten, mit dem Ziel, das Verhalten einer bestimmten Person in den Videos zu analysieren. Der Nutzer ging wohl davon aus, dass die Anfrage von der chinesischen KI-Software Kimi der Firma Moonshot ausgeführt wird. Kimi ließ sie jedoch von Anthropics Claude erledigen, wie es in dem Anthropic-Bericht heißt.

In einem Zeitraum von zehn Tagen habe Kimi allein fast 300.000 Kundenanfragen von Claude beantworten lassen, berichtetAnthropic. Dafür seien 5.380 Fake-Accounts genutzt worden.

Chinas Außenamt zu dem Bericht keine weiteren Angaben. „Ich kenne die von Ihnen angesprochenen konkreten Umstände nicht“, sagte Sprecherin Mao Ning in Peking. China setze sich für eine positive Entwicklung von KI ein, fuhr sie fort und fügte hinzu, China lehne ab, Tatsachen zu verdrehen, um China in Verruf zu bringen.

Künstliche Intelligenz Index (WKN: SL0G7E)

Auch russisches Militär betroffen

Auch die bekanntere chinesische KI DeepSeek fiel laut Anthropic mit solchen Tricks auf. Das habe unter anderem dazu geführt, dass Anfragen mit Daten einer Behörde aus dem Umfeld des russischen Verteidigungsministeriums auf die KI-Modelle der US-Firma umgeleitet wurden. Darin seien auch gültige Einwahldaten für eine Datenbank der russischen Regierung enthalten gewesen.

„Destillieren“ chinesische KI-Entwickler einfach Daten?

Die Vorwürfe werfen einen Schatten auf das Ansehen der chinesischen KI-Branche. Seit Anfang vergangenen Jahres hatten die günstigen KI-Modelle von DeepSeek und später Moonshot wiederholt für Kursbeben an den US-Börsen gesorgt. Anleger bekamen den Eindruck vermittelt, dass ähnlich leistungsstarke KI-Modelle wie die von Google, OpenAI oder Anthropic auch mit deutlich weniger technischen Aufwand trainiert werden könnten. Das ließ manche Investoren an den Geschäftsaussichten und Businessplänen amerikanischer KI-Labore zweifeln.

Die US-Firmen werfen den chinesischen Entwicklern unterdessen vor, in großem Stil amerikanische Software wie Claude und ChatGPT benutzt zu haben, um ihre Künstliche Intelligenz anzulernen. Für diese in der Branche unter dem Namen Destillation bekannte Technik habe allein Kimi von Mai bis Juli 23 Millionen Mal auf Anthropic-KI zugegriffen, hieß es in dem Bericht von Anthropic.

Alle KI-Champions in einem Korb

Mit dem „Künstliche Intelligenz-Index“ von BÖRSE ONLINE investieren Sie gleichzeitig in 17 führende Treiber des KI-Booms. 

Hier mehr erfahren