Das ist auch nur teilweise richtig. Die Maschinen, die wir heutzutage konstruieren, sind relativ einfach, d.h. wir wissen, was sie in bestimmten Situationen tut, weil das Programm, mit denen eine Maschine arbeitet im Vergleich zu dem des Menschen äußerst trivial geschrieben ist. Hätte man aber die Möglichkeit, es viel komplexer zu schreiben - ein Computer würde sich genauso verhalten wie ein Mensch.
Ich stimme deinen Ausführungen vollkommen zu und sehe das Ganze quasi genauso, jedoch muss ich hier einmal eingreifen: der Mensch ist (meiner Meinung nach) nicht vollkommen mit einer Maschine zu vergleichen, da seine "Programmierung", sein "Datenabgleich" und seine "Schlussfolgerungen" nicht immer ganz korrekt und somit nie ganz berechenbar werden würden (selbst wenn man ihn aufschrauben und die ablaufenden Prozesse genau beobachten würde).
Ja, ich glaube auch, dass wir, wenn wir mit einer Situation konfrontiert werden, die Begebenheiten schnellstmöglich mit unseren Erinnerungen abgleichen, um eine bestmögliche Handlungsalternative (als Reaktion auf die gegebene Situation) herauszusuchen. Aber der Mensch ist nicht verlässlich "programmiert". Sein Gedächtnis funktioniert (leider) nicht so wie eine Festplatte - die Kapazität ist zwar unbegrenzt, aber der Zugang ist nicht immer da und oft auch nicht korrekt. Unser Gedächtnis ist der Versuch, die Realität zu rekonstruieren...der gelingt uns aber nicht immer so perfekt!
Der nächste Punkt wäre die Schlussfolgerung. Der Mensch folgt in seinem Denken zwar an und für sich "den Prinzipien der Logik", aber er kann bei seinen Berechnungen zu Fehlprognosen kommen. Nicht zuletzt auch, weil durch potentielle Erinnerungen vergangene Gefühle wieder ausgelöst werden, die großen Einfluss auf unsere Schlussfolgerungen nehmen (eigentlich nicht weiter schlimm, denn es geht ja darum, dass unser Erfahrungsschatz - und dazu gehören ja auch unsere Gefühle - miteinkalkuliert wird, allerdings können gewisse Gefühle dazu führen, dass wir nicht mehr ganz so analytisch und logisch denken [bspw. Freude]).
Ich glaube, dass eine Maschine derselben Komplexität dem Menschen zwar sehr ähnlich wäre, dass sie aber durchaus berechenbarer und vorhersehbarer in ihrem Handeln wäre als der Mensch - selbst wenn man seine Schädelplatte öffnen und einen Blick hineinwerfen könnte.