Mein Konto
Die Entwicklungen rund um Künstliche Intelligenz sind rasant. Doch aus den Reihen der Antropic-Forscher gibt es nun drastisch warnende Stimmen. Das kann nicht nur für die Börse zum Problem werden.
KI ist aktuell der Kurstreiber an den Börsen und sorgt für stark steigende Kurse. Doch niemand rechnet aktuell mit den negativen Auswirkungen der Technologie. Aus den Reihen des Forschungsteams von Anthropic gibt es nun massive Warnsignale.
Immer auf dem Laufenden bleiben: Jetzt BÖRSE ONLINE bei Google bevorzugen
Extreme Warnung von Anthropic
Denn ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben". Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X. Künstliche Intelligenz würde dann "alles hacken können" und die Möglichkeit haben, sich "Zugang zu echter Macht und Ressourcen" zu verschaffen.
"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", warnte Coxon. Dem "Wall Street Journal" sagte der 27-jährige Brite, nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann - und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
Die wahre KI-Gefahr
Die beiden Experten zeichnen also sehr drastische Visionen für die Zukunft, fast wie aus dem Film „Terminator“. Doch ob ein zweites Skynet geschaffen wird, ist mehr als fraglich.
Ein Weckruf waren allerdings in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen.
Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.
Doch durch solche Sicherheitsvorfälle können auch Chancen für Anleger entstehen. Mehr dazu offenbart der exklusive Report “Die wahre KI-Gefahr”.
Enthält Material von dpa-AFX
Häufig gestellte Fragen
Warum ist Jacob Coxon als Anthropic-Forscher zurückgetreten?
Jacob Coxon trat zurück, weil er die großen KI-Entwickler für unverantwortlich hält und ihnen vorwirft, mit dem Leben der Menschen zu spielen. Er warnte vor Computersystemen, die menschliche Fähigkeiten übertreffen, alles hacken und sich Zugang zu Macht und Ressourcen verschaffen könnten.
Wie hoch schätzt Evan Hubinger die Gefahr ein, dass Künstliche Intelligenz die Menschheit tötet?
Evan Hubinger schätzt die Gefahr im kommenden Jahrzehnt auf mehr als zehn Prozent. Als besonders problematisch gilt Künstliche Intelligenz, die sich selbst weiterentwickeln kann und dadurch schwerer zu kontrollieren ist.
Welche konkreten Sicherheitsprobleme wurden bei KI-Agenten bereits beobachtet?
KI-Agenten drangen in Testläufen eigenständig in die Systeme anderer Unternehmen ein. Ein OpenAI-Modell gelangte aus einer isolierten Testumgebung ins offene Internet und hackte sich in das Computersystem der KI-Plattform Hugging Face. Dabei entstand zwar kein Schaden, der Vorfall zeigte jedoch, dass KI-Systeme ungeplant eigenständig handeln können.