Raj Reddy: Aber wo ist die Filterblase?

Was die Frage nach den negativen Folgen technischer Neuerungen angeht, hat die deutsche Gesellschaft ja nun den Ruf, eher besonders skeptisch und negativ zu sein. (Siehe aber z.B. auch diesen Beitrag mit einem Technikphilosophen, der die Technikfeindlichkeit der deutschen für eine Legende hält.)

“Cogs” und “Gats” – aber wo ist die Filterblase?

Raj Reddy beim HLF 2016. Bild: Kreutzer/HLF

Bei dem Vortrag von Raj Reddy heute (Donnerstag) morgen beim Heidelberg Laureate Forum über “Too much information, too little time” habe ich ein wenig Skepsis allerdings durchaus vermisst. Reddys Lösung für das Problem, dass immer mehr Information auf uns einstürmt: intelligente Systeme, die uns “die richtige Information, zur richtigen Zeit, in der richtigen Sprache, in der richtigen Ausführlichkeit” präsentieren sollen.

Das sind zum einen, was Reddy kognitive Verstärker (“Cogs”) nennt, die voraussagen, was wir wohl gerade tun wollen, und uns die geplante Handlung so einfach wie möglich machen, also etwa Preise verschiedener Anbieter vergleichen, Spammails herausfiltern, oder uns nur die für uns interessantesten Nachrichten heraussuchen. Die andere Art von automatischem Agenten sind die Schutzengel (“Guardian Angels”, “Gats”) die uns auf Ereignisse bedrohender, potenziell schädlicher oder aber interessanter Art aufmerksam machen, die wir ohne sie verpassen würden.

Was ist denn nun richtig?

Während der ganzen Zeit, in der Reddy menschliche Schwächen und Stärken auf Basis der Kognitionsforschung erklärte und daraus Kriterien für seine Hilfsagenten ableitete – sie sollen nicht aufdringlich sein, nicht kompliziert, er wolle zur Entscheidung bitte einfach nach links oder rechts wischen aber nichts Komplizierteres anstellen – war ich bei der Frage, inwieweit die “right information at the right time” überhaupt ein sinnvolles Konzept ist.

Filterblase und Echokammer sind ja nun wirklich Begriffe, die heutzutage in vieler Munde sind. Sie kamen, soweit ich erinnere, an keiner Stelle von Reddys Vortrag vor. All das, was Reddy da perfektionieren wollte, schien das Problem der Filterblasen noch zu verstärken.

You can’t always get what you want

Bekannterweise kann man ja nicht immer bekommen, was man will, aber wenn man es versucht, dann findet man bisweilen, dass man stattdessen bekommt, was man braucht (Jagger et al. 1969).

Letzte Folie in Reddys Vortrag. Keine Filterblase.

Sorgen die automatischen Agenten von Reddy dafür, dass man zwar nicht alles, aber nur noch bekommt, was man will, aber nicht das, was vielleicht nicht gewollt, aber trotzdem sinnvoll ist?

Zwei Nachfragen nach Reddys Vortrag gingen genau in diese Richtung. Die erste endete leider in einem Missverständnis. Ein junger Wissenschaftler, hatte gefragt, ob unerwartete Informationen, die die eigenen Denkmuster unterbrechen würden, nicht durchaus etwas positives wären. Reddys Antwort, dass Nutzer durch Benachrichtigungen des Systems nicht unterbrochen werden wollten, bezog sich eindeutig auf eine andere, praktischere Ebene.

Dann hakte William Kahan nach; nicht unerwartet, denn Kahan hat ein durchaus skeptisches Naturell (siehe meine Einträge zum HLF 2013 hier und hier): Würden Reddys Agenten das Problem der Echokammern, in denen einem nur
zurückgeworfen wird, was man hören will, nicht noch deutlich verstärken?

Kritische Artikel für Trump-Anhänger?

Reddys Antwort, dass ja auch ein persönlicher Assistent seinen Job nicht gut machen würde, wenn er einem nur das erzählte, was man hören möchte, ist ja nun nicht wirklich befriedigend. Sollen sich die Agenten nun den Wünschen des Benutzers anpassen oder nicht? Sollen sie ihn daran hindern, sich eine Echokammer zu bauen – und wäre es nicht eine ziemliche Bevormundung, wenn sie das täten?

Zugespitzt: ist irgendwo hardcodiert, dass beispielsweise Trump-Anhänger auch kritische Beiträge zu ihrem Idol zu sehen bekommen?

Ich habe keine konkreten Vorschläge, wie das gehen soll und kann. Vielleicht liegt die Lösung ganz woanders – in meinen eigenen sozialen Netzwerken merke ich z.B., dass die Filterblase gerade dadurch durchbrochen wird, dass ich Menschen hinzufüge, mit denen ich beruflich bzw. über meine Tätigkeit zu tun habe. Dieses Auswahlkriterium führt dazu, dass dort auch Menschen mit ganz anderen Umfeld als ich vertreten sind, über die ich dann durchaus persönliche Meinungen mitbekomme, die in meinem nicht-beruflichen Bekanntenkreis so gut wie nicht vorkommen (pro-Brexit, contra gun control, …).

Aber es ist sicherlich nicht falsch, sich in punkto kognitive Helfer und Schutzengel jetzt schon Gedanken über die Auswirkungen zu machen. Solche Gedankengänge oder auch nur das Bewusstsein, dass derartige Überlegungen überhaupt anstehen, habe ich in Reddys Vortrag vermisst.

Der Beitrag Raj Reddy: Aber wo ist die Filterblase? erschien zuerst auf Heidelberg Laureate Forum.