Was ist Starke Künstliche Intelligenz und was können wir von ihr erwarten?
Falls es uns (beispielsweise über Computer) gelingt Informationsverarbeitungsprozesse zu erzeugen, die generelle Aufgaben bewältigen können, die wir nicht zuvor programmiert haben, nennen wir das Ergebnis Starke Künstliche Intelligenz
. Wir sollten die Schaffung eines künstlichen Bewusstseins meiden, denn solche künstlichen Intelligenzen hätten ein subjektives Befinden. Das würde es zumindest ethisch fragwürdig machen sie Zwangsarbeit
verrichten zu lassen.
Werkzeuge sind für uns nur nützlich, wenn sie kein subjektives Erleben haben, denn dieses Erleben könnte unseren Interessen widersprechen. Wir wollen möglichst kompetente generell intelligente Einheiten ohne eigene Absichten. Sie könnten uns ohne unser Zutun optimal versorgen. Dies würde uns die Freiheit geben jederzeit sorglos unseren Inspirationen zu folgen.
Wegen unserer Irrationalität ist absehbar, dass sogar ideale Diener
ohne eigene Absichten in einen Konflikt geraten: Sollen sie auch tun, was wir von ihnen fordern wenn sie erkennen, dass unsere expliziten Befehle unser Wohlergehen be- oder verhindern?