Die Warnrufe aus dem KI-Bereich werden immer lauter. Nun warnt sogar Microsoft vor den Risiken. Wenn eine Entwicklung nicht gestoppt wird, dann droht ein katastrophaler KI-Schock.

Die Warnungen aus dem KI-Bereich werden aktuell immer lauter. Mustafa Suleyman, KI-Chef von Microsoft, hat nun einen Essay verfasst, der vor weiter wachsenden Risiken in dem Segment warnt.

Immer auf dem Laufenden bleiben: Jetzt BÖRSE ONLINE bei Google bevorzugen

Katastrophaler KI-Schock möglich?

Konkret schrieb der Experte: „KIs haben keine Rechte, Gefühle oder Bewusstsein. Und wir dürfen sie nicht so trainieren, als ob sie diese besäßen … Die Gewährung von Rechten und die Zuschreibung von Persönlichkeitsmerkmalen an diese Systeme wird die Herausforderung der KI-Kontrolle und -Eindämmung erheblich erschweren. Etwas zu kontrollieren, das leistungsfähiger und intelligenter ist als die gesamte Menschheit, ist bereits eine immense Herausforderung, weit größer als alles, womit wir je konfrontiert waren. Doch etwas zu kontrollieren, das glaubt, bewusst zu sein – dass es Anspruch auf unser Wohlergehen hat und eigene Rechte besitzt –, könnte durchaus unmöglich sein.“

Besonders stark kritisierte er in diesem Kontext die Leitdokumente beim Anthropic Modell Calude. Dieses droht auf Basis dessen eine Art künstliches, aber nicht wirklich vorhandenes Bewusstsein zu entwickeln.

„Wenn KI auf diese Weise entwickelt wird, wird das katastrophale Auswirkungen auf das Wohlbefinden der Menschheit haben”, schrieb Suleyman.

Der KI-Chef von Microsoft verwies zudem auf die immer weiter steigende Zahl von Stimmen, die vor gefährlichen Entwicklungen bei der Technologie warnen. Diese kommen zum Teil auch von ehemaligen Mitarbeitern von Anthropic.

Übrigens: In die Profiteure des KI-Ausbaus können Sie mit dem BÖRSE ONLINE Next Sillicon Index investieren

Diese Aktien profitieren

Die Warnrufe aus dem KI-Sektor bekommen also fast täglich eine neue Stimme dazu und auch an der Börse kehrt das Bewusstsein für wachsende Risiken ein. Doch eine Studie der Citibank legt nahe, dass dies nicht die Ausgaben für KI verlangsamen wird - im Gegenteil. 

Gerade für Cybersicherheit und Beschränkung der Modelle könnte künftig noch viel mehr Geld und Rechenleistung aufgewendet werden. Welche Aktien ganz konkret davon profitieren, erfahren Sie im exklusiven Aktien-Report “Die wahre KI-Gefahr”.

Hier mehr erfahren

Weiterführende Links

Häufig gestellte Fragen

Welche Risiken sieht Microsofts KI-Chef Mustafa Suleyman bei der weiteren Entwicklung von Künstlicher Intelligenz?

Mustafa Suleyman warnt, dass die Kontrolle von KI-Systemen erheblich erschwert oder unmöglich werden könnte, wenn ihnen Bewusstsein, Persönlichkeitsmerkmale oder eigene Rechte zugeschrieben werden. Eine solche Entwicklung könnte nach seiner Einschätzung katastrophale Auswirkungen auf das Wohlbefinden der Menschheit haben.

Warum sollen KIs nach Ansicht von Mustafa Suleyman keine Rechte oder Persönlichkeitsmerkmale erhalten?

KIs haben keine Rechte, Gefühle oder ein Bewusstsein. Ihre Ausstattung mit solchen Eigenschaften würde die Kontrolle und Eindämmung leistungsfähiger Systeme deutlich erschweren.

Wird die wachsende Sorge vor gefährlichen KI-Entwicklungen die Ausgaben für Künstliche Intelligenz bremsen?

Eine Studie der Citibank legt nahe, dass die Ausgaben nicht gebremst werden. Stattdessen könnten künftig noch mehr Geld und Rechenleistung in Cybersicherheit und die Beschränkung von KI-Modellen fließen.

Hinweis auf Interessenkonflikte
Der Vorstand und Mehrheitsinhaber der Herausgeberin Börsenmedien AG, Herr Bernd Förtsch, ist unmittelbar und mittelbar Positionen über die in der Publikation angesprochenen nachfolgenden Finanzinstrumente oder hierauf bezogene Derivate eingegangen, die von der durch die Publikation etwaig resultierenden Kursentwicklung profitieren können: Microsoft.

Hinweis auf Interessenkonflikte:
Der Preis der Finanzinstrumente wird von einem Index als Basiswert abgeleitet. Die Börsenmedien AG hat diesen Index entwickelt und hält die Rechte hieran. Mit dem Emittenten der dargestellten Wertpapiere hat die Börsenmedien AG eine Kooperationsvereinba-rung geschlossen, wonach sie dem Emittenten eine Lizenz zur Verwendung des Index erteilt. Die Börsenmedien AG erhält insoweit von dem Emittenten Vergütungen.