KI-Aktien bald unter Druck? Washington reagiert auf die dramatischen Warnungen vor “Killerrobotern”

Nach drastischen Warnungen aus der KI-Branche gewinnt ein parteiübergreifender Gesetzentwurf im US-Senat an Fahrt. Was das für Anleger bedeutet.

Werden wir bald alle zu Opfern von KI-Killerrobotern? Darüber ist in den USA eine heftige Debatte entbrannt. Nach eindringlichen Warnungen aus dem Umfeld führender KI-Labore zeichnet sich im US-Senat ein parteiübergreifender Vorstoß für strengere Sicherheitsregeln ab.

Immer auf dem Laufenden bleiben: Jetzt die BÖRSE ONLINE-App auf iOS oder Android herunterladen und unter "Einstellungen" die Benachrichtigungen aktivieren. 

US-Senat plant KI-Sicherheitsgesetz

Der Gesetzentwurf könnte bereits in der kommenden Woche vorgestellt werden, berichtet die US-amerikanische Nachrichtenplattform “Semafor”. Fest steht bislang nur die grobe Stoßrichtung des Textes, den die Senatoren Amy Klobuchar, Ted Cruz und John Thune überparteilich einbringen wollen: KI-Systeme sollen besser gegen besonders schwerwiegende Gefahren abgesichert werden – etwa im Zusammenhang mit biologischen oder nuklearen Bedrohungen.

Wie streng die Regeln am Ende ausfallen könnten, ist offen. Auch die Frage, für welche Modelle und Unternehmen sie gelten würden, dürfte zu den zentralen Streitpunkten gehören. Branchenvertreter und Interessengruppen sollen bereits Rückmeldungen zu dem noch unveröffentlichten Entwurf geben.

Der unabhängige Senator Bernie Sanders geht derweil deutlich weiter. Er plant nach vorliegenden Berichten eine Initiative, die auf ein Verbot von Superintelligenz und eine Pause bei der Entwicklung besonders fortgeschrittener KI abzielt.

Tipp: Wer gerne in den Hype einsteigen möchte, sollte sich den "Künstliche Intelligenz"-Index von BÖRSE ONLINE genauer anschauen. 

Warnung von früherem Anthropic-Forscher löst Debatte aus

Auslöser der neuen Dynamik war ein viel beachteter Beitrag des früheren Anthropic-Forschers Jacob Coxon auf der Plattform X. Coxon schrieb, die Menschen, die an künstlicher Intelligenz arbeiten, seien überzeugt, dass die Technologie die Menschheit bis zum Ende dieses Jahrzehnts töten könnte.

„Unterschätzen Sie nicht die Macht dieser Technologie“, warnte Coxon. “Schon bald wird es sich um übermenschliche Systeme handeln, die alles hacken, jedes Fachgebiet über Nacht revolutionieren und echte Macht sowie Ressourcen an sich bringen können. Wir alle haben den Fortschritt in jedem dieser Bereiche erlebt – und dieser Fortschritt verlangsamt sich nicht”, schrieb er. 

Seine Warnung richtete sich insbesondere gegen das Wettrennen zu selbstverbessernden Superintelligenzen. Die Unternehmen trieben die Entwicklung voran, ohne bislang über einen belastbaren Plan zu verfügen, wie sich die sogenannten Alignment-Risiken beherrschen lassen. Gemeint ist damit die Gefahr, dass die Ziele eines KI-Systems von den Interessen und Werten der Menschen abweichen.

Ted Cruz: Lieber amerikanische als chinesische Killerroboter

Der einflussreiche Republikaner Ted Cruz, der an dem Gesetzentwurf mitarbeitet, bezeichnete Coxons Warnung am Mittwoch in der Sendung „The View“ als „äußerst besorgniserregend“.

Cruz sagte, er arbeite an einem Gesetz, „um katastrophale Risiken im Zusammenhang mit KI anzugehen, die biologische oder nukleare Fragen betreffen könnten“. Gleichzeitig stecken die USA in einer Zwickmühle: Washington will die Risiken künstlicher Intelligenz begrenzen, aber im technologischen Wettlauf mit China nicht zurückfallen. 

Cruz sagte dazu: „Eine der großen Herausforderungen besteht darin, dass China mit voller Geschwindigkeit voranschreitet – und ganz gleich, was wir hier tun, China wird nicht aufhören. Wenn es also Killerroboter geben sollte, wären mir amerikanische Killerroboter lieber als chinesische.“

Was das für KI-Aktien und Anleger bedeutet

Ein Sicherheitsgesetz hätte auch Auswirkungen auf die Märkte, die derzeit vom KI-Boom und den großen Technologiekonzernen geprägt werden. Eine Regulierung dürfte mit höheren Kosten und zusätzlichen Prüfpflichten für KI-Anbieter einhergehen.

Dazu zählen neben den noch nicht börsennotierten Unternehmen OpenAI und Anthropic auch Tech-Giganten wie Alphabet oder Meta. Zudem gibt es noch die direkten Nutznießer des KI-Booms wie etwa die Chiphersteller Nvidia und Micron.

Diese Anbieter müssten dann ihre Modelle möglicherweise umfangreicher testen, Risiken dokumentieren und Sicherheitsmechanismen nachweisen. Das könnte die Markteinführung neuer Produkte verlangsamen und die operative Komplexität erhöhen.

Gleichzeitig kann ein klarer regulatorischer Rahmen langfristig stabilisierend wirken. Verlässliche Vorgaben könnten das Vertrauen von Kunden, Behörden und Kapitalgebern stärken und verhindern, dass einzelne Krisen zu abrupten Verboten oder politischen Gegenreaktionen führen.

Spannend wird nun, wie das geplante Gesetz konkret ausgestaltet wird. Für die Bewertung börsennotierter Technologieunternehmen wären unter anderem drei Punkte entscheidend: Welche Modelle als „hoch riskant“ gelten, welche Haftungs- und Meldepflichten entstehen und ob die Regeln für US-Unternehmen ebenso gelten wie für ausländische Anbieter.

Wenn Sie sich für weitere Wirtschafts- und Börsennachrichten interessieren, könnte ein Probeabo von BÖRSE ONLINE das Richtige für Sie sein.

Häufige Fragen

Was plant der US-Senat mit dem neuen KI-Sicherheitsgesetz?

Ein parteiübergreifender Gesetzentwurf soll Sicherheitsleitplanken für besonders riskante KI-Anwendungen schaffen. Im Fokus stehen vor allem mögliche biologische und nukleare Gefahren. Der genaue Text ist bislang nicht veröffentlicht.

Was sagte Ted Cruz über künstliche Intelligenz und Killerroboter?

Ted Cruz erklärte zugespitzt, er würde bei einer möglichen Entwicklung von Killerrobotern lieber amerikanische als chinesische Systeme sehen. Zugleich betonte er, dass KI Regeln und Sicherheitsleitplanken brauche, eine deutliche Verlangsamung der Entwicklung aber kaum realistisch sei.

Was bedeutet die geplante KI-Regulierung für Anleger?

Kurzfristig könnten zusätzliche Sicherheits- und Prüfpflichten die Kosten von KI-Unternehmen erhöhen. Langfristig könnte ein klarer Rechtsrahmen jedoch Vertrauen schaffen und das Risiko unkoordinierter Verbote reduzieren. Die konkreten Folgen hängen vom endgültigen Gesetzestext ab.