Lykos
Monat: September 2014
Der dritte Kreis der Hölle: Dave Eggers’ „Der Circle“ im Vergleich mit Huxley und Orwell
Der dritte Kreis der Hölle: Dave Eggers’ „Der Circle“ im Vergleich mit Huxley und Orwell.
Dave Eggers’ „Der Circle“ Der dritte Kreis der Hölle
Normierung war einmal Sache der Polizei, in Dave Eggers’ Roman „Der Circle“ übernimmt es das Individuum selbst. Was verbindet und was trennt diese Dystopie von Orwells „1984“ und Huxleys „Schöne neue Welt“?
09.08.2014, von ANDREAS BERNARD
Es ist ein Kennzeichen der Gegenwart, dass Handlungen, die im 20. Jahrhundert unweigerlich auf autoritäre Staaten bezogen wurden, heute freiwillig und im Zeichen der Individualität geschehen. Auf dem Gebiet der Reproduktionsmedizin haben Verfahren wie die Pränatal- oder Präimplantationsdiagnostik dazu geführt, dass kaum noch Kinder mit Behinderungen geboren werden; besorgte Elternpaare lösen längst jenes prekäre Versprechen ein, das die Eugeniker in der ersten Hälfte des 20. Jahrhunderts nur forderten. In den Sozialen Netzwerken pflegen die Benutzer Tag für Tag ihre „Profile“ und teilen der Community per GPS-Signal die neuesten Joggingerfolge oder ihren Aufenthaltsort im Nachtleben mit – lauter Techniken der Wissenserzeugung also, die ursprünglich zur kriminologischen Erfassung abweichender Subjekte entwickelt wurden („Profile“ gab es mehr als hundert Jahre lang nur von Wahnsinnigen und Serienmördern, Ortungsdienste kamen zum Einsatz, um nach entflohenen Straftätern zu fahnden).
Die beiden berühmtesten Schreckensvisionen der Weltliteratur im 20. Jahrhundert spielen genau solche Szenarien totalitärer Unterdrückung durch, von der Empfängnis bis zum Tod. Aldous Huxleys „Schöne neue Welt“ von 1932 handelt von einem autoritären Weltstaat, der Liebe und sexuelle Fortpflanzung unter Strafe stellt und seine Untertanen durch künstliche Erzeugung in Flaschen fabrikgleich produziert. George Orwells „1984“, gut 15 Jahre später erschienen, entwirft das Bild eines Regimes, das seine Bevölkerung durch omnipräsente Bildschirme überwacht und gleichschaltet. Nun erscheint Dave Eggers’ „The Circle“ auf Deutsch, und in den Debatten, die das Buch in den Vereinigten Staaten ausgelöst hat, wurde es immer wieder in die Tradition dieser dunklen Klassiker gestellt.
© picture-alliance / akg-images 
Die düstere, klar erkennbare Dystopie: Szene aus einer Verfilmung von George Orwells „1984“
Drei literarische Dystopien, drei Geschichten von einem allmächtigen Gebilde, das seine Umwelt tyrannisiert – und es ist so entscheidend wie verstörend, dass Eggers, dessen Roman sich (bewusst oder intuitiv) stark an die Vorbilder Aldous Huxleys und George Orwells anlehnt, zunächst aus genau entgegengesetzter Perspektive erzählt, aus einer Sphäre der Freiheit und Selbstverwirklichung. In „Schöne neue Welt“ und „1984“ war vom ersten Satz an klar, dass man es mit einem repressiven politischen System zu tun hat (das Huxley als Reaktion auf die eugenischen Forschungen seines Bruders Julian, Orwell unter dem Einfluss des gerade zu Ende gegangenen Zweiten Weltkriegs erschuf).
„Der Circle“ dagegen beginnt in einer beinahe vertrauten Gegenwart, deren demokratische Verfassung immer wieder betont wird, in der Zentrale eines fiktiven Internet-Unternehmens, das nur konsequent zusammenführt, was Google, PayPal, Facebook oder Twitter seit eineinhalb Jahrzehnten unabhängig voneinander getan haben. Mit dem Social-Media-Konzept „TruYou“ hat die Firma Circle alle Konkurrenten überflüssig gemacht: „ein Konto, eine Identität, ein Passwort, ein Zahlungssystem pro Person. Schluss mit mehrfachen Identitäten. Ein einziger Button für den Rest deines Onlinelebens.“ Der Roman begleitet seine Hauptfigur, Mae Holland, bei ihrem heißersehnten Eintritt in den Konzern und ihrem Aufstieg durch die Hierarchien.
Was genau musste geschehen, dass die Internet-Community Nordkaliforniens, entstanden aus dem Geist der Hippies und der 68er-Kultur, von einem Roman in die Nähe totalitärer Regime gerückt wird? Auf den ersten Blick kann es ja keine verschiedenartigeren Konzepte geben: Der Circle ist ein soziales, humanitär engagiertes Unternehmen; seine Geschäftsmodelle feiern Individualität und unterdrücken sie nicht wie der Weltaufsichtsrat in „Schöne neue Welt“ oder der „Gedankentrust“ in „1984“. Dennoch entfalten die auf alle Gänge und Wände des Hauptquartiers projizierten Leitlinien–„Leidenschaft, Partizipation, Transparenz“ – nach und nach eine beklemmende und tyrannische Macht. Aus Freiwilligkeit wird Zwang, aus Aufklärung Despotismus, aus Einzigartigkeit Konformität, und die letzten Außenseiter, die sich diesem Terror der Sichtbarkeit widersetzen wollen, brechen zusammen oder kommen ums Leben, wie Maes engste Vertraute im Unternehmen und ihr ehemaliger Freund.
1 | 2 | 3 Nächste Seite
Dave Eggers‘ The Circle: a book for our times…
Shoshan Zuboff on “Big Data” as Surveillance Capitalism
Shoshan Zuboff on “Big Data” as Surveillance Capitalism.
A Digital Declaration
If the digital future is to be our home, then it is we who must make it so. Against the Surveillance Capitalism of „Big Data“.
15.09.2014, von Shoshana Zuboff
I. HOME
In the cove below our window a pair of loons returns each spring from their distant travels. For many months we are lulled to sleep by their cries of homecoming, renewal, and protection. Green turtles hatch on the beach and go down to the sea where they travel thousands of miles for a decade or two before they retrace the path to that patch of beach and lay their eggs.
This theme of “nostos”, finding home, is at the root of all things human too. We yearn for the place in which life has been known to flourish. Humans can choose the form of home , but it is always where we know and where we are known; where we love and are beloved. Home is voice and sanctuary— part freedom, part solace.
When we look to the digital future there is one anxiety from which all others derive: What kind of home will it be? Will we be masters in a community of masters, or some-thing else—guests, fugitives, or perhaps unwitting slaves subdued by interests beyond our influence or understanding? If the digital future is to be our home, then it is we who must make it so.
There are three points about this prospect that I want to explore. First, that we are at the very beginning of this journey. Second, that the future is made in specific ways. If we understand these better, then perhaps we can step into the river more effectively and shape it to good purpose. Third, that you, your colleagues and their colleagues, have a pivotal role, a privilege of responsibility in this time of contest.
II. THE BEGINNING
When it comes to „big data“ and the digital future, we are at the very beginning. Despite the rapid pace of connection and the oceans of data it generates, our societies have yet to determine how all this will be used, to what purpose, and who decides. The big tech companies want us to believe that the future will roll out according to their visions and the so-called “objective requirements” of technological development as a driver of economic growth in a free market. Their scenario is straight from the playbook of the neoliberal theorist Frederich Hayek—what he called a self -determining “extended order” that individuals cannot understand but to which they must submit.
I have suggested that the iPod is to the Internet era what the Model T was to the mass production era. But what defines an era is far more than its technology. For example, the mass production era was only partially about machines. First, mass production required employees and consumers. People mattered. Second, the era was shaped by the gradual development of legislative, legal, and social institutions to amplify capitalism’s pro-social dynamics and tame its excesses. This is what Karl Polanyi called the double movement.
Our new era will be ultimately be shaped by the ideas around which we mobilize for new market forms and new institutions. Life in 2050 will depend on developments like these that have not yet occurred, and we will look back to see this time, our time, as the beginning.
III. HOW THE FUTURE IS MADE
How is the future made? The philosopher John Searle answers this question in his re-markable book Making the Social World: The Structure of Human Civilization. I want to share a couple of his ideas— just enough to provide us with a few key tools.
Yvonne Hofstetter: Der Angriff der Intelligenz | ZEIT ONLINE
Yvonne Hofstetter: Der Angriff der Intelligenz | ZEIT ONLINE.
„Wir brauchen eine Treuhandstelle für Algorithmen“, sagt Yvonne Hofstetter, Expertin für Künstliche Intelligenz. Sonst drohe eine Herrschaft intelligenter Maschinen.
Yvonne Hofstetter, aufgenommen am Münchner Flughafen | © Christine Brandl
Yvonne Hofstetter, erfolgreiche Unternehmerin und Expertin für Künstliche Intelligenz, warnt vor einer heraufziehenden Herrschaft der Maschinen. „Wenn sich alles zum Schlechten entwickelt, dann werden intelligente Maschinen unsere Zukunft so sehr vorherbestimmen, dass der Mensch seine Entscheidungsfähigkeit verliert“, sagt sie im Interview mit der ZEIT. Diese Systeme können „unsere Freiheit einschränken“.
Hofstetter entwickelt mit ihrem Unternehmen Teramark seit mehr als zehn Jahren intelligente Software-Systeme für die Rüstungsindustrie und für zivile Unternehmen. Sie kennt viele Anwendungsfälle für Künstliche Intelligenz und beschreibt die Entwicklung der Software als Evolution im Zeitraffer. Ihre Fähigkeiten nähmen rasant zu. In ihrem neuen Buch Sie wissen alles, das am 15. September erscheint, beschreibt sie anhand von praktischen Beispielen die Macht intelligenter IT-Systeme – und ihre bedrohlichen Schwächen.
Ein System gelte als intelligent, „wenn es ein Verhalten zeigt, das vom Programmierer ursprünglich nicht so vorgesehen wurde. Es trifft Entscheidungen, die man nicht in all ihren Abzweigungen und Konsequenzen durchdacht und festgelegt hat. Ich bin der Meinung, dass Systeme, die lernfähig sind und einen Plan, eine Strategie entwickeln können, als intelligent gelten müssen“.
Solche IT-Systeme gäbe es bereits, sie seien etwa im Aufklärungsflugzeug Awacs im Einsatz und an den Finanzmärkten. Aktuell würden aber vor allem die großen Internetkonzerne in Künstliche-Intelligenz-Systeme investieren. Hofstetter sagt: „Google ist ein Musterbeispiel. Der Konzern hat durch Zukäufe viele Basistechnologien für intelligente und selbst lernende Systeme erworben: Lernverfahren, Roboter, Sensorik, selbst Drohnen und Satelliten. Zunächst ist das nicht mehr als Technologie. Doch daraus werden neue Produkte und Dienstleistungen mit viel Künstlicher Intelligenz entstehen, Maschinen, die selbstständig neue Informationen wie unsere Bewegungsprofile und Alltagsgewohnheiten zusammentragen und verarbeiten. Mit noch mehr Daten lernen sie, uns noch besser zu analysieren und aktiv zu beeinflussen.“
Deutschland und Europa brauchen eine Aufsichtsbehörde
Hofstetter schätzt den Komfort, den diese Technik mit sich bringt, sagt aber: „Derartige Systeme sind ein Angriff auf die Autonomie des Menschen. Sie funktionieren nur auf der Basis unterbrechungsfreier Totalüberwachung.“
Aus ihren Erfahrungen mit intelligenter Software zieht Hofstetter den Schluss: „Wir haben noch rund fünf Jahre Zeit, eine Balance zwischen den Internetunternehmen und den Verbrauchern herzustellen.“ Es sei grundsätzlich möglich, Künstliche-Intelligenz-Systeme so zu programmieren, dass sie keinen Schaden anrichten. „Aber dies geschieht in der Regel nur, wenn man politischen Einfluss auf die Programmierung hat. Die ganz großen Datenbestände und Technologien für die Auswertung dieser Daten liegen derzeit aber in ganz wenigen Händen, die kein Datenschützer beaufsichtigen kann.“ Deshalb ist die Unternehmerin überzeugt, dass Deutschland und Europa eine neue Aufsichtsbehörde gründen müssen. „Wir brauchen eine Treuhandstelle, eine Aufsicht für Algorithmen.“