schmetterling

»Und?«
»Was, und? Glaubst du, Ares ist das einzige Projekt seiner Art? Überall
auf der Welt wird an Superintelligenzen geforscht. Jeder will die Erste ins
Rennen schicken.«
»Ich dachte, Ares wäre die Erste.«
»Ares ist die beste. Bis jetzt. Ich kenne die anderen nicht, aber unserer
traue ich als einziger den Takeoff zu.«
»Takeoff?«
»Intelligenzexplosion.«
Luther starrte in die Nacht. In die darin tanzenden Lichter, Schatten und
Andeutungen. »Ist das so zerstörerisch, wie’s klingt?«
»Es könnte das Paradies auf Erden bedeuten.«
»Für wen?«
»Kapitale Frage.« Sie verschränkte die Hände hinterm Kopf. »Du hast
völlig recht, man müsste die Geburt einer künstlichen Superintelligenz als
Menschheitsprojekt betreiben. Schon wegen der damit verbundenen Risiken.
Geschieht aber nicht. Im Gegenteil. Nicht jeder findet, das Baby solle zum
Segen aller geboren werden. Wer die erste Superintelligenz erschafft, erringt
einen entscheidenden Vorsprung. Eine Superintelligenz ersinnt Dinge, die
dich zur Weltherrschaft befähigen. Die erste superintelligente Maschine ist
die letzte Erfindung, die der Mensch je machen muss, also in wessen Händen
wird sie zum Leben erwachen? Welche Ziele werden ihr eingegeben sein?
Unsere einzige Chance, dass uns das KI-Thema nicht eines Tages krachend
um die Ohren fliegt, besteht darin, als Erster eine ethische Superintelligenz
auf den Weg zu bringen, die wirklich im Menschheitsinteresse denkt und von
Leuten kontrolliert wird, die ebenso empfinden. Ohne dass uns jemand
reinpfuscht.«
»Menschheit steht in eurer Branche hoch im Kurs, was?«
»Sie ist das Evangelium.«