5. Leseabschnitt: 9. und 10. Kapitel (S. 328 bis Ende)

MRO1975

Bekanntes Mitglied
11. August 2018
1.538
3.981
49
48
Die Ereignisse habe sich ganz schön überschlagen. Adam handelt, wie Adam handeln muss. Er sammelt das Beweismaterial und liefert es an die Behörden. Das ist juristisch korrekt und doch tun mir Marc, Miranda und Charles leid und ich hätte gern ein Auge zugedrückt. Da habe ich einmal mehr gesehen, das Menschen keine kühlen Logiker sind. Und das ist offenbar auch das größte Problem, das man Computern nicht beibringen kann. Alan Turing erläutert es Charles auf S. 400. Es gibt keinen Algorithmus für Notlügen.
 

MRO1975

Bekanntes Mitglied
11. August 2018
1.538
3.981
49
48
Laut McEwan hatte Adam ein Bewusstsein, an vielen kleinen Stellen hat er uns das klar gemacht. D.h. auch, es war unmoralisch, das Charles Adam zerstört hat, um die Enthüllung des Meineides zu verheimlichen. Allerdings werde ich den Verdacht nicht los, dass Adam das irgendwie geahnt und provoziert hat. Noch ein (getarnter) Selbstmord? Ich hatte jedenfalls Mitgefühl für ihn und die letzten Seiten musste ich beim Lesen ganz schön schlucken.
 

Querleserin

Bekanntes Mitglied
30. Dezember 2015
4.048
11.068
49
50
Wadern
querleserin.blogspot.com
Das ist juristisch korrekt und doch tun mir Marc, Miranda und Charles leid und ich hätte gern ein Auge zugedrückt.
Das ging mir genauso, obwohl ich weiß, dass Miranda falsch gehandelt hat. Das Ende hat einen schalen Beigeschmack.
Ich empfand die Zerstörung Adams fast als Mord - man weiß, er ist eine Maschine trotzdem hat McEwan uns ihn als Mensch präsentiert - der glaubt, dass langfristig die "Menschen-Maschinen" überleben werden.
Sein letzter Haiku deutet darauf hin, dass unsere Erfindung letztlich zur Zerstörung der Menschheit führen könnte (wird?)
"Die Blätter fallen
Nächsten Mai sprießen wir neu
Doch du fielest schon."

Angedeutet wird dieser Prozess in der politischen Destabilisierung, die Realität, wie McEwan sie schildert, hat erschreckende Ähnlichkeit mit unserer.

Sehr nachdenklich haben mich Turings Ausführungen im letzten Gespräch mit Charlie gemacht. Wie können die Computer uns verstehen, wenn wir unsere (irrationalen) Handlungen selbst nicht verstehen. Wären die Computer, die darauf programmiert sind, moralisch richtig zu handeln, die besseren "Menschen"?
Turings Urteil gegenüber Charlie ist hart, aber er selbst nimmt es an. Rührend der Abschied von Adam, an dem sich Charlie schuldig fühlt.
 

wal.li

Bekanntes Mitglied
1. Mai 2014
2.713
2.674
49
Maschinen, die an Menschen verzweifeln. Das ist echt überraschend und unerwartet. Ich hätte eher gedacht, die Maschinen würden die besseren Menschen und würden sie ersetzen.
Adam ist sehr strickt in seiner Moral und damit doch unmenschlich. Ich glaube, da sind ihm die Menschen doch voraus. Sie haben Verständnis für Handlungen, die nach der reinen Lehre falsch oder gar strafbar sind.
Doch die Entwicklung der Maschinen wird weitergehen, wird Turin es schaffen, den Maschinen ein Gefühl für Notlügen und lässliche Sünden einzuhauchen? Dann wären zwar die Menschen überflüssig, doch die Maschinen würden wie Menschen und damit eben nicht besser. Es würde auf der Welt so weitergehen wie bisher, nur halt mit Maschinenpersonal.
Manchmal glaube ich, die Wissenschaft sollte sich eine Grenze setzten. Keine Maschine, kein Algorithmus sollte über dem Menschen/Maschinenführer stehen. Der Mensch sollte die letzte Entscheidung über die Maschine haben, bei allen niedlichen Robotern, die Menschen hilfreiche Dienste leisten können.
 

Helmut Pöll

Moderator
Teammitglied
9. Dezember 2013
6.575
11.113
49
München
Wie können die Computer uns verstehen, wenn wir unsere (irrationalen) Handlungen selbst nicht verstehen.
Letztlich nimmt das Unglück seinen Lauf, weil Adam sich an die Regel "Du sollst nicht lügen" eisern hält. Das scheint auf den ersten Blick eine ziemlich gute Regel zu sein, an der sich Maschinen orientieren können. McEwan führt aber überzeugend aus, dass diese Absolutheiten im realen Leben nicht funktionieren, im Gegenteil sogar in die Katastrophe führen können.
Wir können mit diesen Widersprüchen gut leben, brauchen sie sogar und fänden alles andere hart und unmenschlich. Charlie denkt doch auch mal darüber nach, etwa über eine Notlüge, mit denen wir Freunden das Erröten oder eine Peinlichkeit ersparen. Wir haben ja sogar Begriffe im Wortschatz für diese alltägliche Situation.
 

Leseglück

Aktives Mitglied
7. Juni 2017
543
1.272
44
67
Ihr habt schon alles Wesentliche zum letzten Abschnitt geschrieben.

Ist es Mord wenn Charlie mit dem Hammer auf Adams Kopf schlägt um ihn zu stoppen? Wieder stellt uns McEwan vor ein moralisches Dilemma. In meinem Kopf hat sich eine deutliches Bild von dieser brutalen Handlung geformt, so dass mein erster Gedanke war, dass es sich hierbei um Mord handelt. Anderseits konnte Adam seine Persönlichkeit ja speichern und hoffen, dass er wieder hergestellt wird...das fand ich verwirrend, in dem Sinne, dass Adam nun ja nicht endgültig tot ist...oder habe ich da was falsch verstanden?

Früher hatte Adam wiederholt gesagt, dass er sich nicht selbst zerstören wird, wie das andere Roboter getan haben. Zu den Gründen sagt er in diesem Kapitel Genaueres: Er habe die Mathematik, die Gedichte und die Liebe zu Miranda, die ihn davon abhalten Selbstmord zu begehen.

Interessant fand ich, dass Adam das Geld, das er an der Börse verdient hatte, verschenkt hat. Ich bin davon ausgegangen, dass dies eigentlich Charlies Geld ist. Nach diesem Abschnitt stelle ich das allerdings in Frage. Es ist eigentlich Adams Geld wenn man davon ausgeht, dass er eine eigenständige Persönlichkeit ist und nicht nur der Besitz von Charlie. Schön wie uns der Autor da immer wieder ins Grübeln bringt.

Adam richtet mit der strikten Einhaltung der Gesetzte viel Schaden an. Laut McEwan (eigentlich laut Alan Turing) ist es schwer, Maschinen beizubringen was eine Notlüge ist. Ein sehr interessanter Gedanke!
McEwan postuliert als Vorteil der Menschen gegenüber Maschinen die Fähigkeit zu einer flexiblen Auslegen von Regeln und auch eine chaotische- kreative Herangehensweise an das Leben (wie das Kind Mark).
Allerdings wird ja angedeutet, dass auch diese Eigenschaften in Zukunft bei Robotern einprogrammiert werden könnten.

Angedeutet wird dieser Prozess in der politischen Destabilisierung, die Realität, wie McEwan sie schildert, hat erschreckende Ähnlichkeit mit unserer.
Auf den Gedanken bin ich gar nicht gekommen aber du hast vollkommen Recht. Warum sonst sollte McEwan von den politischen Wirrnissen in seiner erfunden Zeit schreiben, es könnte eine Andeutung vom Ende der Führung der Menschen sein...

Keine Maschine, kein Algorithmus sollte über dem Menschen/Maschinenführer stehen.
Ja genau. Ein Roboter, der so massiv in das Leben "seiner Menschen" eingreift, das darf es eigentlich nicht geben...
 

Mikka Liest

Bekanntes Mitglied
14. Februar 2015
1.513
2.403
49
Hilter am Teutoburger Wald
wordpress.mikkaliest.de
@MRO1975

Das ist ein interessanter Gedanke, dass es im Grunde Adams Methode war, Selbstmord zu begehen. Er tut mir sehr leid, denn ich glaube ihm, dass er Miranda liebt und sich dennoch gezwungen fühlt, sie anzuzeigen.

@Querleserin

Für mich war es auch Mord, oder zumindest Totschlag. Ob Adam wirklich tot ist? Sein Haiku deutet darauf hin, dass dem nicht so ist. Vielleicht hat er sein Bewusstsein längst irgendwohin übertragen und ist dort quicklebendig...

@wal.li

Ich denke, wenn wir wirklich immer die absolute Kontrolle über die Maschinen / KIs haben wollen, ist es ethisch nicht vertretbar, ihnen ein Bewusstsein zu geben, denn ansonsten ist es für mich im Grunde Sklaverei und Unterdrückung...

@Leseglück

Ich denke auch, es ist Adams Geld, oder zumindest hätte Charlie ihm eine Art "Lohn" zahlen müssen, wenn er ihn schon dazu benutzt, für ihn zu arbeiten.

Ich denke, irgendwann werden KIs lernen, wann Notlügen die bessere Wahl ist. Nicht undbedingt, weil man sie darauf programmiert, sondern weil sie sich selber weiterentwickeln! Adam war schon so nahe dran, es zu verstehen...
 

Leseglück

Aktives Mitglied
7. Juni 2017
543
1.272
44
67
@Mikka Liest
ich freu mich immer wenn ich deine Rückmeldungen zu meinen/unseren Kommentaren lese! Vielen Dank!

Zu deinem Gedanken, dass KIs lernen können, auf Notlügen zurück zu greifen: Ja, das denke ich auch. In dem Roman wird auch angedeutet, dass die Roboter irgendwie so umprogrammiert werden müssen, dass sie Ambivalenzen und Notlügen verstehen. Ansonsten verzweifeln sie an den Menschen und begehen Selbstmord. Das würde aber bedeuten, dass die Maschinen noch menschenähnlicher werden...das wäre noch unheimlicher.
 

kingofmusic

Bekanntes Mitglied
30. Oktober 2018
7.244
18.657
49
48
Letztlich kann ich hier allen Beiträgen nur noch zustimmen. Ist halt der Nachteil, wenn man so spät in eine Leserunde einsteigt *g*.
Aber ich musste auch einige Male schlucken bei der Lektüre - insbesondere die Szene, als Adam "gestorben" ist - ich krieg jetzt noch Gänsehaut. Und als Charlie am Ende "Versöhnung" mit Adam schließt - wunderbar menschlich und ergreifend.
 

parden

Bekanntes Mitglied
13. April 2014
5.835
7.675
49
Niederrhein
www.litterae-artesque.blogspot.de
Manchmal glaube ich, die Wissenschaft sollte sich eine Grenze setzten. Keine Maschine, kein Algorithmus sollte über dem Menschen/Maschinenführer stehen. Der Mensch sollte die letzte Entscheidung über die Maschine haben, bei allen niedlichen Robotern, die Menschen hilfreiche Dienste leisten können.
Für den Appell ist es längst zu spät - die KI wird kommen, das ist nur noch eine Frage von Jahrzehnten... Gruselige Vorstellung, weil niemand vorhersagen kann, was sich daraus entwickeln wird...
 

parden

Bekanntes Mitglied
13. April 2014
5.835
7.675
49
Niederrhein
www.litterae-artesque.blogspot.de
Wirklich ein beeindruckender Roman mit so viel Stoff zum Nachdenken - sowohl was die politische Lage Großbritanniens / Europas anbelangt als auch und v.a. natürlich die Entwicklung der K.I. Viele Fragestellungen - moralisch, ethisch, gesellschaftlich -, auf die es keine wirklichen Antworten gibt.

Maschine - Mensch: wo ist die Grenze? Was ist Menschsein überhaupt? Adam entwickelte ein Bewusstsein und Gefühle - reicht das aus, um seine Zerstörung als Mord zu deklarieren? Und andersherum: wenn jemand aufgrund von Erkrankung (Alzheimer, Schädel-Hirn-Trauma) das Bewusstsein von sich selbst verliert: ist er dann kein Mensch mehr? Jeder der Angehörige hat, die dieses Schicksal erleiden, wird hier wohl vehement protestieren. Aber dennoch bleibt beim Lesen ja das Gefühl, dass Adam ermordet wurde.

Puh, jetzt muss ich erst noch in mich gehen, bevor ich mich an die Rezension begebe. Viele Gedanken schwirren mir durch den Kopf - der Roman beschäftigt mich definitiv über das Lesen hinaus.
 

Sassenach123

Bekanntes Mitglied
27. Dezember 2015
4.294
10.424
49
49
Laut McEwan hatte Adam ein Bewusstsein, an vielen kleinen Stellen hat er uns das klar gemacht. D.h. auch, es war unmoralisch, das Charles Adam zerstört hat, um die Enthüllung des Meineides zu verheimlichen. Allerdings werde ich den Verdacht nicht los, dass Adam das irgendwie geahnt und provoziert hat. Noch ein (getarnter) Selbstmord? Ich hatte jedenfalls Mitgefühl für ihn und die letzten Seiten musste ich beim Lesen ganz schön schlucken.
Toller Denkansatz, dass Adam dies vorhergesehen hat um der Zerstörung nahe zu kommen. Die Idee ist mir gar nicht gekommen, aber wenn man bedenkt wie er in punkto Prozess kombiniert hat, gar nicht abwegig deine Idee.
 

Sassenach123

Bekanntes Mitglied
27. Dezember 2015
4.294
10.424
49
49
Ein toller Roman, der mich nachdenklich gestimmt hat. Ob Adam nun Gefühle hatte oder nicht, er hat mit den beiden Menschen eng zusammen gelebt. Allein diese Tatsache hat alle verändert, Charlie, Miranda und auch Adam selbst. Die Programmierung Adams wurde von zwei Menschen vorgenommen, also haben sie ihn gemeinsam geprägt. Das schöne an dem Roman ist das Ende,in dem noch viel Raum für eigene Spekulationen bleibt.
 

milkysilvermoon

Bekanntes Mitglied
13. Oktober 2017
1.803
5.061
49
Irgendwie bin ich erleichtert, als Adam endlich „tot“ war. Die Vorstellung, dass eine Maschine uns nur anhand gewisser Regeln beurteilt und uns bei den Behörden verpfeift, ist doch ziemlich unheimlich.

Maschinen, die an Menschen verzweifeln. Das ist echt überraschend und unerwartet. Ich hätte eher gedacht, die Maschinen würden die besseren Menschen und würden sie ersetzen.

Ich finde diesen Ansatz auch eher ungewöhnlich. Auf diesen Gedanken bin ich bisher nicht gekommen.

Ich denke, wenn wir wirklich immer die absolute Kontrolle über die Maschinen / KIs haben wollen, ist es ethisch nicht vertretbar, ihnen ein Bewusstsein zu geben, denn ansonsten ist es für mich im Grunde Sklaverei und Unterdrückung...

Ja, das meine ich auch. Es ist auch gefährlich, wenn sie uns überlegen sind.

Zu deinem Gedanken, dass KIs lernen können, auf Notlügen zurück zu greifen: Ja, das denke ich auch. In dem Roman wird auch angedeutet, dass die Roboter irgendwie so umprogrammiert werden müssen, dass sie Ambivalenzen und Notlügen verstehen. Ansonsten verzweifeln sie an den Menschen und begehen Selbstmord. Das würde aber bedeuten, dass die Maschinen noch menschenähnlicher werden...das wäre noch unheimlicher.

Ich fände es auch bedenklich, wenn sich Mensch und Maschine so sehr annähern, dass sie kaum noch zu unterscheiden sind. Aber wozu auch? Der Vorteil von Maschinen war doch bisher, dass sie eben nicht Menschen (mit all ihren Fehlern) sind.

Der Roman gibt auf jeden Fall viel Stoff zum Nachdenken. Ich bin auch froh, dazu eure Gedanken gelesen zu haben. Da wird man auf einiges mehr aufmerksam...