Catfishing on the Net x Automating Inequality
Hi!
Das hier ist das, was der WEEKLY PLANET geworden ist. Diesmal sind es zwei kurze Buchempfehlungen. Danke fürs Lesen!
Zu erst war da Catfishing on Catnet von Naomi Kritzer. Zusammengefasst mit diesem kleinen und sehr feinen Zitat:
“How’s the new town?” Alice asks. “I guess I’d sum it up with, ‘They’re going to have a robot teach us sex ed because they don’t trust the human teachers not to go off-script.’ Rachel seems cool, though.”
Und dann wird der sex ed bot gehackt und es gibt eine künstliche Intelligenz und das gesamte Buch ist trotz eines düsteren Hintergrundes eine aufbauende, wertschätzende, queere und insgesamt sehr gute Sache. Es ist absolut Young Adult, aber nicht die Art, die mit unendlichen Emotionen erdrückt und generell nicht so gut ist. Die Emotionen der Teenager haben mich “erwachsenen” Lesenden nicht erdrückt, sondern meistens eher verzückt (HA). Sie waren nachvollziehbar und gut in Szene gesetzt. Ich weiß nicht wer sonst noch im Rennen war, aber ich würde sagen den Lodestar Award for best Young Adult Book hat es verdient gewonnen.
Von der KI weitergehend habe ich außerdem Automating Inequality von Virginia Eubanks gelesen. Es ist ein absolut faszinierender Blick auf Armut in den USA und die Auswirkungen die Algorithmen und Automatisierungen auf den “War on Poverty” haben. Erschreckend wie hier mit Menschen umgegangen wird um ein wenig Geld einzusparen. Es geht um die automatisierte Überprüfung davon, ob ein Mensch berechtigt ist, Hilfe vom Staat zu bekommen. Um die automatisierte Vermittlung von Wohnraum an Obdachlose in Los Angeles und um einen Algorithmus, der vorhersehen soll wie wahrscheinlich es ist, dass ein Kind misshandelt wird. Alle drei haben drastische und teilweise fatale Auswirkungen auf die Menschen, die direkt davon betroffen sind. Das liegt zum einen daran, dass sie nicht unbedingt das Wohlbefinden der Betroffenen verbessern wollen und zum anderen daran, dass sie nicht die wirkliche Wurzel der Probleme angehen. Armut wird sicherlich nicht dadurch bekämpft, dass eine Person keine Foodstamps mehr bekommt. Und Foodstamps sind auch nicht der Grund für Armut. Was die Obdachlosigkeit angeht, gibt es da ein kleines feines Zitat: “But homelessness is not a systems engineering problem. It’s a carpentry problem.” Das Buch ist relativ kurz, ausgezeichnet recherchiert, gut geschrieben und doch sehr umfangreich. Es enthält außerdem eine Art hyppokratischen Eid für Menschen, die mit Daten arbeiten:
“Oath of Non-Harm for an Age of Big Data
I swear to fulfill, to the best of my ability, the following covenant:
I will respect all people for their integrity and wisdom, understanding that they are experts in their own lives, and will gladly share with them all the benefits of my knowledge.
I will use my skills and resources to create bridges for human potential, not barriers. I will create tools that remove obstacles between resources and the people who need them.
I will not use my technical knowledge to compound the disadvantage created by historic patterns of racism, classism, able-ism, sexism, homophobia, xenophobia, transphobia, religious intolerance, and other forms of oppression.
I will design with history in mind. To ignore a four-century-long pattern of punishing the poor is to be complicit in the “unintended” but terribly predictable consequences that arise when equity and good intentions are assumed as initial conditions.
I will integrate systems for the needs of people, not data. I will choose system integration as a mechanism to attain human needs, not to facilitate ubiquitous surveillance.
I will not collect data for data’s sake, nor keep it just because I can.
When informed consent and design convenience come into conflict, informed consent will always prevail.
I will design no data-based system that overturns an established legal right of the poor.
I will remember that the technologies I design are not aimed at data points, probabilities, or patterns, but at human beings.”
Beide Bücher gibt es in gut sortierten Buchläden mit englischem Sortiment. Catfishing gab es zu letzt auf jeden Fall im Kulturkaufhaus. Ich arbeite da. Also Grain of Salt und ihr wisst schon.
Belassen wir es erst einmal dabei. Auf DRAGONS EAT EVERYTHING gibt es weiterhin diverse Podcasts oder mal das eine oder andere Interview mit einer coolen Band. Bis demnächst in diesem heimischen Chaos!
Lele
Hintergrundmusik: Code Orange - Under the Skin (Ein Akustik Album von einer Band die sonst dollsten Hardcore Metal macht ist ergreifend und sehr, sehr gut. Favoriten sind “autumn + carbine”, “sulfur surrounding” und “down in a hole”.)