Stephen Hawking warnt vor KI als „schlimmstes Ereignis der Zivilisationsgeschichte“

| Redakteur: Sebastian Gerstl

Stephen Hawking hatte sich in der Vergangenheit schon häufiger kritisch zum Thema KI geäußert. Auf dem Web Summit 2017 im portugiesischen Lissabon sprach der Physiker in einer Rede erneut Warnung vor unvorsichtiger KI-Entwicklung aus: Verliere der Mensch die Kontrolle über künstliche Intelligenz, könnte sich dies zum "schlimmsten Ereignis der Zivilisationsgeschichte" entwickeln.
Stephen Hawking hatte sich in der Vergangenheit schon häufiger kritisch zum Thema KI geäußert. Auf dem Web Summit 2017 im portugiesischen Lissabon sprach der Physiker in einer Rede erneut Warnung vor unvorsichtiger KI-Entwicklung aus: Verliere der Mensch die Kontrolle über künstliche Intelligenz, könnte sich dies zum "schlimmsten Ereignis der Zivilisationsgeschichte" entwickeln. (Bild: dpa - Bildfunk)

Stephen Hawking hat sich im Rahmen einer Technologiekonferenz in Lissabon, Portugal, kritisch zur Entwicklung von oder Experimenten mit künstlicher Intelligenz geäußert. Eine Kontrolle über künstliche Intelligenzen müsse unbedingt aufrechterhalten werden, sagte der Physiker. Denn nur so könne die Menschheit am Leben erhalten werden.

"Computer können theoretisch menschliche Intelligenz emulieren und sie übertreffen", sagte Hawking in seiner Ansprache auf dem Web Summit 2017 in Lissabon. "Erfolgreiches Schaffen einer effektiven künstlichen Intelligenz könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das Schlimmste. Wir wissen es nur nicht. Wir können also nicht wissen, ob uns die künstliche Intelligenz unendlich helfen wird, ob sie uns ignoriert und beiseite schiebt oder ob sie uns möglicherweise zerstört."

"KI könnte das schlimmste Ereignis in der Geschichte unserer Zivilisation sein", fuhr Hawking fort. "Sie bringt Gefahren mit sich, wie mächtige autonome Waffen oder neue Wege für die wenigen, die vielen zu unterdrücken. Sie könnte unsere Wirtschaft stark zerstören".

Um diese potenzielle Realität zu vermeiden, müssten Entwickler von KI schon heute von grundauf die bestmögliche Vorgehensweise und effektives Management ("Best Practice and effective management") anwenden. Es müssen von Grund auf Kontrollmechanismen am Platz sein, die verhindern, dass eine künstliche Intelligenz sich irgendwann gegen Menschen richtet. Hierfür seien auch rechtliche Grundlagend dringend nötig.

Der Wissenschaftler hob in diesem Zusammenhang einige der legislativen Arbeiten hervor, die in Europa durchgeführt werden. So wurden beispielsweise im Februar diesen Jahres dem EU-Parlament Gesetzesvorschläge unterbreitet, um neue Regeln für KI und Robotik festzulegen.

Solche Entwicklungen geben Hawking Hoffnung: "Ich bin ein Optimist und ich glaube, dass wir eine künstliche Intelligenz zum Wohle der Welt schaffen können," so Hawking weiter. "Dass sie in Harmonie mit uns arbeiten kann. Wir müssen uns lediglich der Gefahren bewusst sein, sie identifizieren, die bestmögliche Vorgehensweise und das bestmögliche Management anwenden und uns rechtzeitig auf die Folgen vorbereiten",

Es ist nicht das erste Mal, dass der britische Physiker vor den Gefahren der künstlichen Intelligenz gewarnt hat. Er ist damit nicht der einzige Vertreter aus Wissenschaft oder Technologiezweigen, der sich kritisch zum Thema KI-Entwicklung äußert. Tesla und SpaceX CEO Elon Musk sagten kürzlich, dass AI einen dritten Weltkrieg verursachen könnte und schlugen sogar vor, dass Menschen mit Maschinen verschmelzen müssten, um auch in Zukunft relevant zu bleiben.

KI-Kritiker wie Hawking, Musk oder auch der Apple-Mitbegründer Steve Wozniak heben unter anderem gerne hervor, dass eine strikt logisch vorgehende KI etwa zu dem Schluss kommen könnte, dass der Mensch per se ineffizient und damit unnötig sei. Das könnte verschiedene Konsequenzen haben: Im besten Fall sei der Faktor Mensch in den Augen der KI "überflüssig" und werde ignoriert. Im schlimmsten Fall werde er als schädlich für das effiziente System eingestuft und konsequent vernichtet. Daher sei es wichtig, von Beginn Mechanismen zu etablieren, mit denen die Entwicklung künstlicher Intelligenz überwacht und kontrolliert werden kann.

Die Angst vor künstlicher Intelligenz ist Unsinn

Die Angst vor künstlicher Intelligenz ist Unsinn

23.10.17 - Wird der Terminator Realität? Nehmen uns Maschinen die Jobs weg? Schluss mit der Dystopie! Technologischer Fortschritt birgt mehr Chancen als Risiken. lesen

Tesla-CEO Musk will menschliche Gehirne mit Computern verbinden

Künstliche Intelligenz

Tesla-CEO Musk will menschliche Gehirne mit Computern verbinden

28.03.17 - Der in Südafrika geborene Unternehmer Elon Musk ist mit Tesla und SpaceX offenbar noch nicht genug ausgelastet: Jetzt hat er ein Unternehmen namens Neuralink gegründet, das menschliche Gehirne mit Künstlicher Intelligenz verbinden will. lesen

Kommentar zu diesem Artikel abgeben
Der Unterschied zwischen KI und Hammer ist aber der, dass der Hammer nicht autonom handeln kann....  lesen
posted am 10.11.2017 um 12:04 von Unregistriert

Warum nicht mal Butter bei die Fische? Immer diese nebulösen Andeutungen. Was konkret meinen denn...  lesen
posted am 09.11.2017 um 16:43 von Olaf Barheine


Mitdiskutieren
copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 44995994 / KI/Machine Learning)