wird es laut. Auch letzte Nacht hörte es sich an, als säßen sie direkt vor meinem Fenster. Die Vögel sind verliebt – ich fühle mich verloren. Mein Körper ist hier, meine Seele hoffentlich nur noch unterwegs. Nicht ausgebüxt.
Was mache ich hier? An diesem Ort, in diesem Leben? Immer dieselben Fragen. Nach längerer Abwesenheit sind sie wieder frisch, wie eine bekannte Brise. Nach der analogen Zeit – die in den letzten Wochen gar nicht so analog war, ich habe Orte, Routen und Abfahrtszeiten recherchiert, ein wenig geschrieben – schau ich mal wieder bei YouTube, bei meinen abonnierten Kanälen vorbei.
Karl Olsberg – einer der Warner vor KI – will mir weiterhin Angst machen. „If anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.“ So heißt das neue Buch von Eliezer Yudkowsky und Nate Soares, das er empfiehlt. Beide gehören zum MIRI – dem Machine Intelligence Research Institute, das sich mit KI-Sicherheit befasst.
Sie warnen: Eine superintelligente KI könnte bald beschließen, dass sie den Menschen nicht braucht. Sie könnte uns bestechen – schon heute verfügen KIs über enorme Geldsummen. Sie könnte dann Technologien einsetzen, die wir uns im Moment nicht einmal vorstellen können. Technologien, die „gegen die Regeln“ verstoßen.
Yudkowsky und Soares werfen der Politik vor, nicht zu handeln. Deshalb sagen sie: Jemand muss ehrlich sein. Jemand muss sagen – hey, das geht nicht gut aus. Und natürlich gehen wir Leser davon aus, dass sie, die Entwickler, ehrlich sind. Sie haben mit einer Kraft gespielt, die sie nicht einschätzen konnten oder wollten. Nun liegt es an uns – der Gesellschaft, an mir am PC – es „zu richten“.
Gefordert wird ein globales Moratorium. Ein Ende des Wettrennens – ich verstand zuerst „Wettrüsten“ – um Superintelligenz. Das würde, so schreiben sie, nur ein Prozent der Kosten verschlingen, die der Zweite Weltkrieg verursacht hat. Geradezu billig.
Also sollen Bürger ihre Stimme erheben und demonstrieren. Damit es die Politiker leichter haben. Wir müssen dafür sorgen, dass möglichst viele Menschen erkennen, wie brenzlig die Situation ist, sagt Karl Olsberg. „Tut alles, was ihr könnt.“
Diese plötzlichen Warnungen könnten meiner Meinung nach zwei Ebenen haben: Die sichtbare: Entwickler warnen vor Superintelligenz, Kontrollverlust, Katastrophe. Die unsichtbare: KI könnte unbequeme Wahrheiten oder Geheimnisse zutage fördern, die besser verschlossen blieben.
Aber was kann ich tatsächlich tun? Zumal ich mich eher vor kriegsgeilen Politikern fürchte als vor machtgieriger KI. Vielleicht ersteinmal dies: Abwarten und Kaffee trinken.