La digitalización sostiene al crecimiento económico en el Norte global. Pero al tener una sola madre tierra, hay que aprender a repensar los efectos de nuevas tecnologías como la Inteligencia Artifical (IA) en el Sur global. La cosmovisión andina del sumaq kawsay podría ayudar en crear una Ética Digital verdaderamente global.
—–
Basta con que digas una sola palabra, y Alexa te pedirá una pizza: Recientemente, los asistentes virtuales basados en la Inteligencia Artificial (IA) como Amazon Alexa o Google Home han llegado a nuestras casas. Se trata de chicos parlantes inteligentes creados por las grandes empresas digitales del mundo que van reemplazando a las camareras anteriores (de verdad estos parlantes “hablan” frecuentemente con una voz feminina). Al pedirselo, nos informan sobre el tiempo o tocan nuestra música favorita; solo falta que limpien la casa.
Pero, ¿qué tiene que ver este cómfort digital con la actualidad de Latinoamérica y Perú? Es que la virtualidad de estos asistentes digitales parece cada vez más física al analizarla desde la red gigante de los servidores distribuidos en todo el mundo que se activa cuando hablamos con ellos. Esta red necesita de recursos como el cobre y mucha más eléctricidad que los pocos cinco vatios que Alexa saca del enchufe en casa. Sin embargo, hasta el momento el debate por una Ética Digital ha ido concentrándose en cuestiones relacionadas al riesgo para la privacidad que constituyen tales asistentes. Pero al tomar en serio esta realidad física de la digitalización, los efectos “invisibles” y globales se suman al debate – entiendiendo por “global” acá no solo a “Paris, Nueva York, Londres”, sino también a “Bangkog, Nairobi, Lima”.
Obviamente, los temores inquietantes por la democracia peruana, causados por el actual gobierno de Dina Boluarte, hacen cuestionar si un tema “abstracto” como la digitalización es la prioridad más urgente. Sin embargo, las múltiples crisis del presente no deben ocultar a los desarrollos de largo plazo. La meta de este pequeñito ensayo será entonces iniciar un diálogo entre las perspectivas alemanas y peruanas sobre la digitalización – siempre tomando en cuenta que su autor creció en Alemania y por consecuencia, él debe evitar el error de creer que pueda interpretar mejor a la realidad peruana (como lo expresó el gran José Carlos Mariátegui) que los propios peruanos. Pero acercándose a esta realidad con un ánimo de aprendizaje, este diálogo puede hacer descubrir al punto ciego de los debates digitales en Alemania. Este ensayo entonces no debe entenderse como el final del intercambio mutúo, sino como su inicio.
Perú y la digitalización: entre la nueva conquista y el instrumento de liberación
Pues ¿cómo se debe entender la digitalización en la “realidad peruana”? Se propone que su rol se caracterice, igual como en Alemania, por la ambigüedad.
Las tecnologías digitales entran a Perú y Sudamérica desde afuera, de manera comparable como lo hicieron los conquistadores españoles hace 500 años. El epícentro del desarrollo tecnológico no está allí, sino en EE.UU., China y también en Alemania. Por concescuencia, un país como el Perú se ve limitado a la obligación de adaptarse a lo que se ha pensado y desarrollado en el Norte global, como lo demuestra bien la “Ley que promueve el Uso de la Inteligencia Artificial en Favor del Desarrollo económico y social del País” que se promulgó en Perú en julio 2023. Igual como el Artificial Intelligence Act (AI-Act) de la Unión Europea (UE) – actualmente en negociación –, el reglamento peruano propone un enfoque basado en riesgos, aceptando la premisa que no todas las aplicaciones de la IA sean de igual peligro. Pero comparado con su equivalente europeo con sus 85 artículos, la ley peruana se limita al número de tan solo seís artículos. Además, mientras que los legisladores peruanos solo intentaron a regular el “uso” de la IA, sus pares europeos se animan a proponer una legislación ambiciosa para el desarrollo de la IA, con impacto global. La UE ahí puede aprovechar el hecho de que, como mercado común con 450 millones de consumidores con alto poder adquisitivo, goza de una influencia internacional mucho mayor que a la que puede llegar un estado cuyos 33 millones de habitantes en muchos casos tienen que luchar por su sobrevivencia diario. Cabe señalar que la “Estrategia Nacional de Inteligencia Artificial” de Perú del 2021 también preve la creación de un “Centro Nacional de Computación de Alto Rendimiento”, pero parece poco probable que un proyecto tan ambicioso como este se realice pronto con un Gobierno y un Congreso Nacional centrados solamente en sus conflictos internos.
La digitalización, una experiencia agridulce en el Perú
Al otro lado, llama la atención el contraste entre las críticas dominantes en el debate digital alemán (privacidad, periodismo y democracia) y el rol que verdaderamente cumplió en los movimientos masivos de la socidad civil que Perú vio surgir en los últimos años. La Infostelle Perú lo señaló en varias ocasiones: Las manifestaciones masivas contra la destitución del entonces presidente Martín Vizcarra no habrían sido imposibles sin las redes sociales que los jóvenes activistas usan para coordinarse y difundir sus mensajes, y el Internet representa a un espacio de información libre que permite el desarrollo de medios de comunicación alternativos lo que diferencia al gobierno de Boluarte de la época de Fujimori. De tal manera, en el Perú se está realizando algo de las esperanzas utópicas que habían sido relacionadas al Internet en su fase de inicio: la circulación libre de la información libera a los ciudadanos, el Internet se convierte en un instrumento de liberación. Queda concedido que estos movimientos aún no han logrado mejorar la institucionalidad precaria del Perú, un hecho que puede representar un gran peligro para el futuro al pensar en la posibilidad de automatizar la creación en masivo de noticias falsas a través de la IA. La aplicación masiva de esta tecnología así podrá desestabilizar aún más a la ya vulnerable democracia peruana.
Las implicaciones ecológicas y sociales de la digitalización se suman. Por ejemplo, el desafío causado por el alto consumo de recursos naturales va mucho más allá de la luz que consume Alexa en casa: los modelos de lenguaje usados en esta tecnología de IA resultan de un proceso altamente elaborado de aprendizaje automático con alto consumo de energía. Su huella de carbono depende de la configuración del hardware y de la mezcla energética que se utilizan, pero se la calcula en hasta el equivalente de las emisiones de 300 vuelos a través de los EE.UU., de costa a costa. Para un país como el Perú, afectado ya el día de hoy con mucha más fuerza por la crisis climática que Alemania, tales emisiones son un mensaje de horror.
Sigue la precaridad en el Sur global
El aprendizaje “automático” no solo depende de recursos naturales y produce emisiones de carbono, sino también necesita fuerza laboral humana: vista de cerca, la “Inteligencia Artificial” no es ni “inteligente” ni “artificial”. Todo su “saber” lo acumuló arduosamente a través del labor humano. En este proceso de adquirimiento, las grandes empresas digitales confían justificadamente en que se excluyan los “contenidos peligrosos” como el odio y la agitación, las teorías de conspiración y la pornografía. Como tales contenidos también se encuentran frecuentemente en las redes que se usan como bases de datos para la creación de la IA, resulta necesario que alguien los filtre manualmente. Es decir: Se necesita a alguien quien revise, marque y borre estos contenidos, siendo una labor mentalmente estresante a la cual los usuarios de Alexa en el norte global por supuesto desean evitar. Las grandes empresas “solucionan” el problema en tercerizar esta tarea a trabajadores de sueldos precarios en países como Colombia o Venezuela, y sólo será cuestión de tiempo hasta que se reporteen casos comparables del Perú también.
Para resumir: La digitalización y la Inteligencia Artificial cambiarán poco en la estructura extractivista del modelo económico hegemónico. El Perú suministra los recursos físicos y, en poco tiempo, los datos de entrenamiento, pero la creación de valor toma lugar en el norte global cuyos emisiones de carbono incrementados se devuelven al Perú a través de nuestra atmósfera común.
Del sumaq kawsay al sumaq kawsAI: Repensar la Ética Digital desde Perú
Queda pues demostrado la relevancia del lado oscuro de la Inteligencia Artificial, pero como el autor ya había argumentado en una ocasión anterior, no se pueden importar todas las soluciones para los desafíos de Sudamérica desde Europa; es este mismo continente que podría abrir caminos alternativos al desarrollo del “mundo desarrollado”. Entonces, ¿qué es lo que puede aportar el Perú para una gestión responsable de la digitalización?
Los intentos de crear una Ética Digital en Alemania se basaron hasta el momento sobre todo en la ética de las virtudes de Aristóteles. Junto con la tradición antigua de la eudaimonía que reconoce la felicidad como el bien mayor, la Ética Digital pregunta por el “buen vivir en un mundo de redes”, tomando un enfoque individualista. En su “Ética Nicomáquea”, Aristóteles define al “buen vivir” como el de una persona virtuosa y a la virtud como un hábito moral del carácter entre el exceso y el defecto. Por ejemplo, la fortaleza de ánimo es la medianía entre los temores y los atrevimientos, la templanza la medianía entre los placeres ,y la liberalidad la medianía entre prodigalidad y avaricia. La Ética Digital pues busca la “Media Dorada” (en alemán: “Goldener Mittelweg”), como lo llama la investigadora de ética digital alemana Petra Grimm, cuando se desarrollan y se aplican nuevas tecnologías digitales, llegando así al “buen vivir” en la digitalidad.
¿Cómo llegar a un “buen vivir” en un mundo de redes?
Justamente en este término del “buen vivir“ está la clave para abrir la puerta a la tradición antigua peruana: entra el sumaq kawsay, la cosmovisión andina. El autor no es de ningún experto en las creencias indígenas, sin embargo, quiere invitar a un diálogo entre estos dos conceptos para así llegar a un sumaq kawsAI.
Son las características comunes de los dos conceptos mismos que permiten abrir esta puerta: Igual como la ética de las virtudes, el sumaq kawsay se concentra en el “buen vivir”, e igual como Aristóteles, los filósofos indígenas reconocen la idea de una “medianía” o “harmonía” entre los contrastes. Pero también cabe señalar que las dos teorías se diferencian por la manera en la que describen la relación entre el individuo y la sociedad, y de ahí surge el gran cuestionamiento que pone el sumaq kawsay al entendimiento occidental del “buen vivir”. Para la población andina, la idea de la “comunidad” es clave, con la pacha mama siendo una parte integral de ella.
Hombre y naturaleza en equilibrio
Entendiendo la relación entre hombre y naturaleza como equilibrio, muchas comunidades andinas reclaman el reconocimiento de la “madre tierra” como una entidad jurídica. Es decir, cuando una mina de cobre hiere a la tierra, ella misma debe poder denunciar esta vulneración de su derecho propio a la vida ante la justicia, y aún más: debe poder regenerarse.
Si se toman las demandas del sumaq kawsay en serio hay que repensar a la Ética Digital por los efectos causados de la tecnología digital en la madre tierra. La mejor manera de expresarlo la encontró un activista que lucha en el noroeste argentino – antiguamente parte del tawantinsuyo incaico – contra la extracción del litio, este mineral que se necesita para la construcción de los autos eléctricos que muchos en el norte global quieren ver como solución a todos los problemas de transporte: “no podemos usar la zona de sacrificio para que cada estadounidense tenga su Tesla propio o para que cada europeo reemplace su BMW”. Incluso los numerosos políticos alemanes que, desde la toma de mando del nuevo gobierno alemán en 2021 suelen viajar a Sudamérica y Perú o recibir visitas de allá en búsqueda de nuevas alianzas para solucionar los problemas mundiales, todavía no han entendido la verdadera dimensión de estos reclamos.
Aprender del Perú: La digitalización en sus límites naturales
Las preocupaciones tradicionales de la Ética Digital existente pues siguen siendo válidas, pero con la recepción del sumaq kawsay peruano, a ellas se suma la demanda de pensar la digitalización en sus límites naturales. Tecnologías como la Inteligencia Artificial no pueden ser “tecnologías de futuro” si este mismo futuro se va destruyendo mediante su aplicación. Como tenemos a un solo planeta común, también tenemos que cuidarlo juntos.
Jan Doria
El autor es estudiante de doctorado en el Instituto para la Ética Digital (Institut für Digitale Ethik, IDE) en la Stuttgart Media University, Alemania y además colaborador y traductor de un ensayo sobre Latinoamérica y la Ética Digital en el “Manual de la Ética Digital”. En el 2018/19, cursó un semestre de estudios en la Pontificia Universidad Católica del Perú, Lima.