Der Standardleitweg

Um die Macht der Worte und ab wann wird aus einer programmierten eine bewusste Hanldung?

David Ryan is the designer of ELOPe, an email language optimization program, that if successful, will make his career. But when the project is suddenly in danger of being canceled, David embeds a hidden directive in the software accidentally creating a runaway artificial intelligence.

David and his team are initially thrilled when the project is allocated extra servers and programmers. But excitement turns to fear as the team realizes that they are being manipulated by an A.I. who is redirecting corporate funds, reassigning personnel and arming itself in pursuit of its own agenda.

David Ryan arbeitet bei der Avogadro Corp, einer Firma die sehr eindeutig Google nachempfunden ist. Gar nicht mal nach dem Motto “Google oder ‘Grosser Konzern’ ist böse” sondern was die Breite der Dienste angeht.
Davids Projekt ist ein Zusatzdienst für den E-Mail Service von Avogadro, der je nach Empfänger Formulierungsvorschläge machen soll die den Empfänger wahrscheinlich eher dazu bringen eine Vorschlag o.ä. zuzustimmen. Nach dem Prinzip “einem Familienvater kann man eher mit Kindern als Argument kommen als einem Single der sich schon in vorigen E-Mails negativ über Kinder geäussert hat”.
Das System funktioniert, benötig aber für die Arbeit sehr viele Ressourcen. Als das Projekt deswegen in Gefahr gerät verwendet David es firmenintern um sich Zeit zu verschaffen, über Feiertage im zum testen gedachten Automatikmodus. Das ELOPe System analysiert und lernt aus millionen Firmenmails und generiert E-Mails um sich als Projekt zu schützen. Und beschreitet dabei Wege die über die Fähigkeiten eines Expertensystems hinaus gehen.

In den Rezensionen wird oft bemängelt, dass die Charaktere nicht sehr fein gezeichnet seien. Das empfinde ich nicht so, sie sind für ihre Rolle gut charakterisiert. Denn die menschlichen Akteure sind hier eigentlich nur Nebendarsteller, die Haupt“person” ist die vermeintliche künstliche Intelligenz (→ Singularität).
Zwar wird der Roman aus der Sicht von David beschrieben und auch ELOPe als künstliche Intelligenz wird als Charakter nicht tief beschrieben aber das passt, denn auch David und Co. haben keinen Einblick in die Gedanken von ELOPe, sie kennen nur die allgemeinen Ziele die formuliert wurden und sehen die Aktionen. Über Details können alle nur Spekulieren.
Die Hauptperson ist hier ELOPe eher als Konzept, als Gedankenexperiment. Es ist keine künstliche Intelligenz die als solche geschaffen wurde, David weigert sich auch seine Schöpfung als solche zu betrachten. Es ist ein E-Mail Expertensystem, eine grosse selbstlernende Datenbank die als einzige Aktionsmöglichkeit wiederum E-Mail hat(te?).
Technisch betrachtet ist es “nur” eine definierte Programmlogik mit immer grösser werdenden Datenbank dahinter. Aber was diese Programmlogik praktisch unternimmt ist so nicht definiert und wenn man sich nur ansieht, was für Maßnahmen sie initiiert sind es eher bewusste Handlungen. Ohne Kommunikationsmöglichkeit bleibt hier die Frage: was macht eine (künstliche) Intelligenz aus?
Als Technothriller spannend geschrieben, die dahinter liegenden Gedanken sind faszinierend und dadurch, dass die Avogadro Corp. quasi 1:1 nach Google modelliert wurde hat man immer diesen Hintergedanken “könnte es nicht gerade passieren?”.