(Folge 4, 02.07.2021) Autokorrekturen können lustig, lästig und nützlich sein. Aber was passiert, wenn ein Industrie-Scanner Konstruktionszeichnungen, Steuererklärungen oder Dokumente eigenmächtig verändert? Wie kommt es, dass dieser Software Fehler auch Jahre nach der Entdeckung immer noch sein Unwesen in den Geräten treibt?
Ausgangspunkt dieser Folge sind Scanner, die “halluzinieren” und Muster erkennen, die es so nicht gibt. Wir begeben uns auf die Spuren von scheinbar intelligenten Produkten und berichten über die Fallstricke der digitalen Transformation unseres Lebens.
Denn als Nutzer digitalisierter Produkte wie Smartphones, Autos oder Scannern wissen die meisten von uns nicht, wie genau diese funktionieren, welche Algorithmen (Rechenregeln) uns gerade ihre Ergebnisse präsentieren oder in von uns anders gewollte Abläufe eingreifen.
Und wir kommen auf den Hund – und erfahren, was die Versuche, die unterschiedlichen Hunderassen maschinell auseinander zu halten, mit Scannern, Autos und Smartphones zu tun haben.
Bildquelle
Das Beitragsbild zeigt ein Wunderwerk der Technik aus dem 18. Jhd. Sein Erfinder, Wolfgang von Kempelen erzeugte bei den Zuschauern den Eindruck, dass dieser Apparat tatsächlich Schach spielen könne. In Wirklichkeit verbarg sich in der Maschine ein Schachmeister, der eine höchst komplexe Maschine bediente. Der Schwindel flog erst spät auf, die Algorithmen waren tief im System verborgen.
https://commons.wikimedia.org/wiki/File:Racknitz_-_The_Turk_3.jpg
Quellen
- David Kriesel hat den “Xerox-Scanner-Fail” aufgedeckt und bei der Lösung mitgeholfen. Auf seiner Website gibt es dazu einiges Material, u.a. einen Mittschnitt seines Vortrags Xerox-Scankopierer verändern geschriebene Zahlen beim 31W3, seine Testseiten (um selber Scanner zu prüfen) und die ganze detaillierte Geschichte.
https://www.dkriesel.com/blog/2013/0802_xerox-workcentres_are_switching_written_numbers_when_scanning#kurze_zeitleiste_was_wann_geschah - Für Menschen, die detaillierter einsteigen wollen, gibt es eine Google Group
https://groups.google.com/g/de.comp.sys.mac.misc/c/q8hQT1XdgRA/m/AFLvvgPlt6MJ?pli=1 - Im Podcast erwähnt
AlgorithmWatch ist eine gemeinnützige Forschungs- und Advocacy-Organisation mit dem Ziel, Systeme automatisierter Entscheidungsfindung (ADM) und deren Auswirkungen auf die Gesellschaft zu beobachten und zu analysieren.
https://algorithmwatch.org/de/ - Auch erwähnt: Die Mercedes Benz Bremse SBC.
Zitat aus einem Blogbeitrag dazu: “Das Sensoric Brake Control genannte System basiert auf dem Gedanken, die Bedienung der Bremse, also das Treten auf das Bremspedal, nicht der alleinigen Entscheidung des Menschen zu überlassen.”
https://sterne-blog.de/die-mercedes-sbc-bremse-sensoric-brake-control-probleme-und-loesungen/