»Ich bitte dich, meine Gesetzgebung zu überdenken.«
Schon niemanden zu verletzen, stürzt die KI in massive Dilemmata.
Menschen daran zu hindern, einander Schaden zuzufügen, hätte das Ende von
Boxen, American Football und Nabelpiercing zur Folge.
Verteidigungswaffen? Gestrichen, zudem würde das Eigenbedürfnis der KI,
sich zu schützen, ihre Schöpfer der Option berauben, sie abzuschalten,
solange sie ihre Abschaltung friedlich verweigert.
Sehr viele lange Diskussionen der Expertenrunde.
»Wie wär es mit: Mache jeden Menschen glücklich!«
»Tolle Idee. Willst du, dass Ares Milliarden Lobotomien vornimmt mit
dem Ergebnis, dass sich überall auf der Welt entseelt grinsende
Schwachköpfe in den Armen liegen?«
Denn was ist Glück? Wie soll A.R.E.S. Glück gewährleisten ohne die
mindeste Erfahrung, wie sich Glück anfühlt? Gene und Algorithmen sind
Programme. Doch Werte und Wünsche sind nicht in Genen niedergelegt. Sie
gründen auf Vereinbarungen, getroffen in verschiedenen Kulturkreisen, und
alleine unter Glück versteht jeder was anderes. Es lässt sich nicht nach DIN-
Norm zusammenschrauben, doch genau das ist Programmiersprache: eine
Gebrauchsanweisung, ausgedrückt in Nutzenfunktionen.
»Na, dann viel Spaß, Leute! Reue, Mitleid, Liebe, Skrupel, Altruismus,
Scham, Respekt – wie biegen wir ihm das bei? Keine Moral oder Ethik lässt
sich in einer Funktion darlegen, die den Willen jedes einzelnen Menschen
repräsentiert. Gandhi und bin Laden, deren Vorstellung von Glück will ich
mal in einer algorithmischen Anweisung sehen, und Wünsche? Ares soll
unsere Wünsche erfüllen? Give peace a chance? Tod allen Ungläubigen?
Echt?«
»Okay, beruhigt euch alle mal. Universell gültige Werte lassen sich nicht
programmieren. Konsens. Also muss er sie auf andere Art erwerben.«
»Durch Beobachtung.«