Die Digitalisierung schreitet in Deutschland immer weiter voran. Doch das hat Auswirkungen auf den Globalen Süden – auch auf Peru. Was neue Technologien wie die Künstliche Intelligenz (KI) für Peru bedeuten und welchen Beitrag die andine Mythologie des sumaq kawsay zu einer globalen Ethik der Digitalisierung leisten könnte.
(Aqui la versión en castellano del artículo)
———–
Sprich‘ nur ein Wort, so bestellt Alexa dir eine Pizza: In den letzten Jahren sind immer mehr digitale Sprachassistenten wie Amazon Alexa oder Google Home in unsere Wohnzimmer eingezogen, die auf Künstlicher Intelligenz (KI) basieren. Eine kleine, unscheinbare Lautsprecherbox aus dem Hause großer Digitalkonzerne ersetzt jetzt das Zimmermädchen (in der Tat sind die sprechenden Boxen oftmals mit einer weiblichen Stimme ausgestattet) von früher und nennt uns, wenn wir sie darum bitten, die aktuelle Wettervorhersage oder spielt unsere Lieblingsmusik ab – nur putzen kann sie noch nicht.
Aber was hat die digitale Bequemlichkeit unserer Gegenwart mit Lateinamerika und Peru zu tun? Die virtuelle „Wolke“ schwebt keineswegs luftleicht über den Dingen. Sobald wir Alexa einen Sprachbefehl erteilen, werden im Hintergrund gewaltige Serverfarmen aktiviert. Diese brauchen Rohstoffe wie Kupfer und deutlich mehr Strom als die bis zu 5 Watt Leistung, die Alexa aus der Haushaltssteckdose zieht. Die bisherige Debatte um eine Digitale Ethik konzentrierte sich sehr stark auf die mit Sprachassistenten wie Alexa verbundenen Fragen um Datenschutz und die Gefährdung der Privatsphäre. Doch nimmt man auch diese physikalische Realität ernst, dann muss man auch die „unsichtbare“ Seite der Digitalisierung und ihre globalen Auswirkungen in den Blick nehmen – und „global“ bedeutet eben nicht nur: „Paris, New York, London“, sondern auch: „Bangkog, Nairobi, Lima“.
Aus peruanischer Perspektive ist dabei durchaus der Einwand berechtigt, ob denn angesichts der akuten Gefahren, die die Regierung von Dina Boluarte für die peruanischen Demokratie darstellt, ein vermeintlich „abstraktes“ Thema wie die Digitalisierung derzeit wirklich die dringendste Priorität genießen sollte. Doch die Krisen der Gegenwart dürfen den Blick auf langfristige Entwicklungen nicht verstellen. Ziel dieses kleinen Beitrags soll es daher sein, peruanische und deutsche Perspektiven auf die Digitalisierung in einen fruchtbaren Dialog zu bringen – trotz der Tatsache, dass der Autor deutsch sozialisiert ist und daher keineswegs den Fehler begehen darf, zu glauben, dass er die realidad peruana (so der große peruanische Schriftsteller José Carlos Mariátegui) besser zu interpretieren vermag als die Peruaner selbst. Begegnet man dieser „peruanischen Realität“ jedoch mit einer lernenden Haltung, so wird in der Auseinandersetzung mit ihr erkennbar, wo die blinden Flecken unseres Blicks auf die Digitalisierung liegen. Dieser Essay soll daher in erster Linie eine Einladung zum Nachdenken sein – ein Doppelpunkt, kein Ausrufezeichen.
Peru und die Digitalisierung: Zwischen neuer Eroberung und Instrument der Befreiung
Wie also verhält sich die Digitalisierung in und mit der „peruanischen Realität“? Ähnlich wie in Deutschland lässt sich die Rolle der Digitalisierung in Perú am ehesten als ambivalent beschreiben.
Die digitalen Technologien treffen auf Peru wie Südamerika zunächst einmal genauso „von außen“ wie vor 500 Jahren die spanischen Eroberer. Das Herz der Technologieentwicklung schlägt im Silicon Valley, in China und – in geringerem Umfang – auch in Deutschland. Ein Land wie Peru ist also zunächst gezwungen, sich an das anzupassen, was im Globalen Norden erdacht wurde. Ein gutes Beispiel dafür bietet das im Juli 2023 verabschiedete erste peruanische Gesetz zur Regulierung der artificial intelligence (AI), der Künstlichen Intelligenz. Es verfolgt zwar, ähnlich wie die geplante KI-Verordnung der Europäischen Union (EU), einen risikobasierten Ansatz (nicht jede KI-Anwendung ist gleich riskant), ist aber mit nur sechs Artikeln im Vergleich zu den 85 Artikeln des EU-Kommissionsentwurfs verhältnismäßig kurz. Außerdem regelt das peruanische Gesetz nur den Gebrauch (uso) der KI, während die EU für sich durchaus in Anspruch nimmt, einen ambitionierten globalen Regelungsrahmen für die KI-Entwicklung zu setzen. Ein Binnenmarkt mit 450 Millionen Verbrauchern hat hier einfach eine höhere Durchschlagskraft als ein Staat mit 33 Millionen Einwohnern. Zwar sieht die peruanische KI-Strategie auch die Errichtung eines „Nationalen Hochleistungsrechenzentrums“ vor, aber solange Regierung und Kongress weiter mit sich selbst beschäftigt sind, werden derart ambitionierte Vorhaben wohl auf sich warten lassen.
Peru: Digitalisierung mit zwiespältigen Folgen
Auf der anderen Seite besteht ein auffälliger Kontrast zwischen der Kritik an den Gefahren für Privatheit, Meinungsbildung und Demokratie, die in deutschen Digitaldebatten oftmals dominieren, und der Rolle, die digitale Technologien für die Demokratiebewegung der letzten Jahre in Peru gespielt haben. InfoPeru hat mehrfach darauf hingewiesen: Sowohl die Massenproteste gegen die Absetzung des damaligen Präsidenten Martín Vizcarra als auch die Herausbildung einer alternativen Medienöffentlichkeit, die die Regierung der aktuellen Präsidentin Dina Boluarte von der des ebenfalls autoritär regierenden Alberto Fujimori unterscheidet, wären ohne die Existenz der Sozialen Medien und des Internets undenkbar gewesen. In Peru wurde und wird damit etwas von den utopischen Hoffnungen lebendig, die mit der Entwicklung des Internets in seinen Anfangstagen verbunden gewesen waren: freie Informationen ermöglichen freie Bürgerinnen; das Internet wird zu einem Instrument der Befreiung. Freilich haben die Protestbewegungen in Peru bis dato noch zu keiner nachhaltigen Verbesserung der sozialen und politischen Situation beigetragen. Hierin liegt auch eine große Gefahr, denn nimmt man das Bedrohungspotenzial durch Fake News ernst, die jetzt dank KI sogar automatisiert in noch viel größerer Geschwindigkeit erzeugt werden können, dann könnte die sowieso schon instabile peruanische Demokratie noch weiter destabilisiert werden.
Risiken für Peru aus der Digitalisierung ergeben sich auch aus ihren ökologischen und sozialen Nachhaltigkeitsauswirkungen. Das Problem des Rohstoffverbrauchs durch Digitaltechnologie geht noch weit über den Stromverbrauch hinaus, den Alexa aus der heimischen Steckdose zieht. KI-basierte Sprachmodelle benötigen einen rechenaufwändigen Trainingsprozess, der sehr viel Energie verbraucht. Die dabei ausgestoßene CO2-Menge wird, je nach zu trainierendem KI-Modell, eingesetzter Computerhardware und verwendetem Strommix, auf den Umfang eines Flugs quer durch die USA geschätzt – 300-mal, von Küste zu Küste. Für ein Land wie Perú, das heute schon stärker als Deutschland unter den Auswirkungen der Klimakrise leidet, ist das eine fatale Botschaft.
Neue Billigjobs für den globalen Süden
Der KI-Trainingsprozess braucht nicht nur Rohstoffe und CO2, sondern auch menschliche Arbeit. Harte Arbeit. Denn die Künstliche Intelligenz selbst ist weder „intelligent“ noch „künstlich“. Alles, was sie „weiß“, muss ihr mühselig von Menschen beigebracht werden, und in diesem Lernprozess setzen große Unternehmen – selbstverständlich nicht zu Unrecht – darauf, dass Sprachmodelle von den Endnutzern nicht (oder zumindest nicht so leicht) dazu gebracht werden können, sogenannten harmful content auszugeben: Hass und Hetze, Verschwörungstheorien, Pornographie. All diese Inhalte befinden sich aber in den Rohdaten, mit denen KI trainiert wird und die einfach aus dem Internet „abgesaugt“ werden, und müssen daher zuvor manuell herausgefiltert werden. Manuell, das heißt: Irgendjemand muss diese Inhalte sichten, markieren und löschen. Irgendjemand, das heißt: Billiglohnarbeiter in Ländern wie Kolumbien oder Venezuela (aus Peru wurden entsprechende Fälle noch nicht berichtet – dies scheint aber nur eine Frage der Zeit), denn im Globalen Norden möchte diese psychisch enorm belastende Arbeit natürlich niemand auf sich nehmen.
Digitalisierung und KI werden also höchstwahrscheinlich wenig an der bisher schon bestehenden extraktivistischen Wirtschaftsstruktur ändern: Perú liefert physikalische Rohstoffe und sehr bald vielleicht auch schon Trainingsdaten, im Globalen Norden wird der größte Teil der Wertschöpfung abgeschöpft, und im Austausch dafür erhält Perú unsere gesteigerten CO2-Emissionen zurück.
Von sumaq kawsay zu sumaq kawsAI: Eine Digitale Ethik aus Peru
Die dunkle Seite der Künstlichen Intelligenz ist also sehr wohl relevant. Wie der Autor jedoch an früherer Stelle bereits einmal argumentiert hatte, darf die Lösung für die Probleme Südamerikas nicht immer nur aus Europa importiert werden. Südamerika selbst kann der „entwickelten“ Welt alternative Wege zur Entwicklung aufzeigen. Was also könnte Peru beitragen, um die Digitalisierung ethisch verantwortlich zu gestalten?
Das bisherige Verständnis von Digitaler Ethik, so wie sie in Deutschland prominent wurde, stützt sich vor allem auf die aristotelische Tugendethik. Mit dieser fragt sie in der antiken Tradition der eudaimonía, die das Glück als das höchste Gut ansieht, nach dem „guten Leben in vernetzten Welten“, und nimmt dabei vor allem eine individualethische Perspektive ein. Aristoteles definiert in seiner „Nikomachischen Ethik“ das „gute Leben“ als ein „tugendhaftes Leben“ und die „Tugend“ wiederum als eine charakterliche Disposition, eine Haltung zwischen einem „Zuviel“ und einem „Zuwenig“. So ist zum Beispiel die Tapferkeit die Mitte zwischen Furcht und Mut, die Mäßigkeit die Mitte zwischen Lust und Unlust und die Freigiebigkeit die Mitte zwischen Verschwendung und Geiz. Auf eine Ethik des Digitalen übertragen bedeutet das, bei der Entwicklung und der Anwendung von Digitaltechnologien ebenfalls einen „Goldenen Mittelweg“, wie ihn die Stuttgarter Digitalethikerin Petra Grimm nennt, anzustreben. Auf diese Weise soll ein „gutes Leben“ in der Digitalität erreicht werden.
Wie geht „Gutes Leben“ in vernetzten Welten?
Doch kennt nicht auch die historische Tradition Perús eine Philosophie, die sich mit dem „guten Leben“ beschäftigt? Richtig. Die Rede ist vom sumaq kawsay, der traditionellen Weltvorstellung der indigenen Bevölkerung Perús und des Andenraumes. Der Autor ist alles andere als ein Experte für indigene Mythologie, aber doch meint er – wiederum im Sinne einer Einladung zum Dialog –, das buen vivir für eine Digitale Ethik fruchtbar machen zu können. Kann so das sumaq kawsay zu einem sumaq kawsAI werden?
Die Gemeinsamkeiten sind jedenfalls auffällig: Sowohl Aristoteles‘ Tugendethik als auch das sumaq kawsay nehmen das „gute Leben“ in den Blick. Auch kennen beide Ansätze die Idee eines „Mittelwegs“ oder einer „Harmonie“, also eines Ausgleichs zwischen den Gegensätzen. Sie setzen jedoch unterschiedliche Akzente: die europäische Tradition denkt sehr stark vom Individuum ausgehend, die indigene Tradition dagegen sieht das Individuum immer eingebettet in eine Gemeinschaft. Zu dieser Gemeinschaft gehört zwangsläufig auch die Natur, und hierin liegt die große Anfrage begründet, die das sumaq kawsay an das westliche Verständnis vom „guten Leben“ richtet.
Keine Hierarchie mehr zwischen Mensch und Natur
Denn eine der wichtigsten Forderungen des sumaq kawsay besteht in einer Aufhebung des Hierarchieverhältnisses zwischen Mensch und Natur und der Anerkennung der Natur als eigenständiges Rechtssubjekt. Wenn die Erde durch eine Kupfermine aufgerissen wird, dann soll sie das Recht erhalten, gegen diese Verletzung ihres originären Rechts auf Leben zu klagen, mehr noch: sie soll das Recht erhalten, sich wieder regenerieren zu dürfen.
Nimmt man diese Forderung ernst, dann zwingt das sumaq kawsay die Digitale Ethik zu einer Neubestimmung gegenüber den Auswirkungen der Entwicklung digitaler Technologien auf die Natur. Am besten ausgedrückt hat dies ein Aktivist, der in Nordwestargentinien – früher Teil des Inkareichs – gegen den Abbau von Lithium kämpft, dem Rohstoff der Elektroautos, die in den Digitalutopien des Globalen Nordens als Lösung vieler Verkehrsprobleme angesehen werden: „Wir können nicht unsere Natur dafür opfern, dass jeder Europäer den Motor seines BMW austauschen darf“. Die wahre Tragweite dieser Botschaft haben auch die zahlreichen Politiker noch nicht verstanden, die seit Amtsantritt der neuen Ampelregierung so gerne nach Südamerika und Peru reisen bzw. Besuche von dort empfangen.
Von Peru lernen: Digitalisierung in natürlichen Grenzen
Das „sumaq kawsay“ aus Peru fordert uns in Deutschland also dazu auf, die Digitalisierung nicht nur – wie bisher schon – in den Grenzen dessen zu denken, was wir als Gesellschaft und als Menschen für ethisch verantwortbar halten (diese Forderung bleibt selbstverständlich weiter gültig), sondern auch in den Grenzen dessen, was die Natur für zulässig hält. Technologien wie die Künstliche Intelligenz können keine „Zukunftstechnologien“ sein, wenn in dieser „Zukunft“ die natürlichen Lebensgrundlagen von uns allen zerstört worden sind – weder in Peru noch in Deutschland.
Jan Doria
Jan Doria ist Medienwissenschaftler und Doktorand am Institut für Digitale Ethik (IDE) der Hochschule der Medien (HdM) Stuttgart. Er ist Mitarbeiter am und Übersetzer des Aufsatzes „Digitale Ethik aus lateinamerikanischer Perspektive“ im „Handbuch der Digitalen Ethik“ und verbrachte 2018/19 ein Auslandssemester in Peru.