"Mit KI außer Kontrolle könnten wir alle sterben"
n-tv
Die EU beschäftigt sich mit der Frage, wie sie Künstliche Intelligenz unter Kontrolle behält. Sie arbeitet an der weltweit ersten Gesetzgebung, um KI zu regulieren. Nick Bostrom, Philosophie-Professor an der Universität Oxford, warnt im Interview mit ntv.de vor fatalen Folgen, falls KI unkontrolliert die menschlichen Fähigkeiten übersteigt. Für seine philosophischen Arbeiten zur Zukunft der Menschheit wurde Bostrom vielfach ausgezeichnet. Er war zweimal auf der 100 Top Global Thinkers List der Zeitschrift "Foreign Policy" und auf der Top World Thinkers List des Magazins "Prospect". Sein Buch über KI mit dem Titel "Superintelligenz" wurde 2014 in den USA nicht nur zum Bestseller, sondern auch zu einer der Lieblingslektüren von Elon Musk und Bill Gates.
ntv.de: Die EU arbeitet momentan an der weltweit ersten Gesetzgebung, um Künstliche Intelligenz zu regulieren. Wie wichtig wird die Regulierung von KI-Systemen für die Politik der Zukunft?
Nick Bostrom: In meiner Arbeit habe ich mich besonders auf das Potenzial der maschinellen Intelligenz konzentriert. Das war einmal die ferne Zukunft, jetzt ist es bereits die nahe. Aber noch immer sind die Systeme, die wir heute haben, nur ein schwacher Vorläufer dessen, was noch kommen wird. Da wir immer leistungsfähigere Systeme entwickeln, werden sich die Behörden mehr dafür interessieren. KI wird dann zu einem geopolitischen Thema, bei dem Politiker auf höchster Ebene anfangen werden, die Strategie dafür als wichtige Dimension der Wirtschaftspolitik zu betrachten.
Kern des EU-Gesetzentwurfs ist eine Risikopyramide, die KI in verschiedenen Bereichen je nach ihrer Gefahr abstuft. So sollen etwa Systeme wie das chinesische, mit dem die Behörden dort das soziale Verhalten ihrer Bürger überwachen, verboten werden. Welche anderen KI-Systeme sind schon heute so gefährlich, dass sie nicht auf den Markt kommen dürfen?