Probleme beim Einloggen

Für Verantwortung in der digitalen Wirtschaft und Gesellschaft. Forum

Die Entwicklung der Digitalisierung ist von ihrem Ende her zu denken. Dies erfordert klare ökonomische und gesellschaftliche Konzepte.

Andreas Seidel Ist unser gegenwärtiges Konzept von Digitalisierung überhaupt Menschen gemäß?
Digitalisierung soll in die Schulen, möglichst schon in die Kitas eingeführt werden - je früher je besser! In den Kinderzimmern ist sie bereits weitgehend Alltag.
Augenmediziner waren jetzt, dass bei Kindern eine nachhaltige, irreversible Schädigung der Augen droht, wenn sie zu lange auf Displays von Smartphones, Tabletts oder Notebooks schauen. Damit stellt sich schon die Frage, welchen gesundheitlichen Schaden wollen wir als Gesellschaft unseren Kindern zumuten, damit sie unseren Erwartungen einer digitalen Zukunft entsprechen? Ist das Recht von körperlicher Unversehrtheit uns Schutzbefohlenen gegenüber den Zielen digitaler Optimierung überhaupt verhandelbar, oder müssen wir nach anderen Wegen suchen?
Dient die Digitalisierungen bei solchen Entwicklungen noch den Menschen, oder überschreiten wir schon die Grenze, wo der Mensch der Digitalisierung dient?
Andreas Seidel
+14 weitere Kommentare
Letzter Kommentar:
Andreas Seidel Statistik ist dumm
Lange galt der Satz: Glaube nie einer Statistik, die du nicht selbst gefälscht hast. KI-Methoden basieren auf Statistik. Dies wohl umfassender, als sich dies Statistiker in der Vergangenheit wohl vorstellen konnten. Nun will ich diese Art von Statistik und die zugrunde liegenden Algorithmen nicht klein reden, da habe ich seit 1990 mit unseren damaligen Entwicklerteams zu viele Tage und auch manchmal Nächte an der Umsetzbarkeit von Lösungen gearbeitet. Trotzdem oder gerade deshalb, weil ich dies alles seit jetzt ziemlich genau 30 Jahren mitgemacht habe, seinen mir einige tiefergehende Fragen erlaubt.
Eigentlich wissen wir, dass statistische Daten einer Interpretation bedürfen, die auch eine Auseinandersetzung damit beinhaltet, wie eine Statistik aufgestellt wurde. Solche Rückfragen sind immer wieder notwendig, selbst wenn es um uns geläufige Kennzahlen, wie etwa das Bruttoinlandsprodukt oder die Pegelstände des Rheins, die alle interessieren, die etwas auf dem Fluss transportieren wollen. Der Pegelstand besagt eben nichts über die Wassertiefe in der Fahrrinne. Wenn wir etwa von einigen Orten Pegelstände von nur noch wegen Zentimetern hören, heißt dies eben nicht, dass man den Rhein zu Fuß durchqueren kann. Dies könnte auf verschiedene Weise tödlich enden.
Ich erinnere mich noch sehr gut an eine Situation Anfang der 90. Jahre als ich mit dem jungen Chefentwickler unserer algorithmenbasierten Software bei einem Kundentermin war. Er fasste das Kundengespräch so zusammen: Ihr Problem passt nicht zu unserer Lösung und wollte damit damals sagen, bitte passen sie ihr Problem auf unser Modell an.
Übersetzen wir das auf unsere Gegenwart, dann erleben wir fortlaufend, dass wir unsere Realität an KI-Modelle anpassen sollen. Und in der Tat scheint es so zu sein, dass Entscheider dem nachgeben, wenn den auf dem Werkzeug KI draufsteht.
So wird das aber nichts mit KI. Was mit den Rheinpegeln noch banal daher kommt, wird z.B. in der medizinischen Diagnostik schon schwieriger. Jüngst gab es eine Reihe von Berichten, das Projekte mit der IBM-KI Watson gerade im Bereich der Krebserkennung wegen tatsächlicher Nutzlosigkeit wieder eingestellt wurden. Genauer müsste man wohl formulieren, dass das Umfeld relevanter Informationen – wenn sie denn überhaupt erkannt waren – und der Aufwand diese in das System einzupflegen, einfach zu hoch war. Am Ende war Watson im besten Fall nicht klüger als ein guter Arzt.
All dies erinnert mich an einen jahrelangen Wettstreit, den wir gegen unterschiedliche Systeme der Standort- und Prozessoptimierung im logistischen Bereich haben durchführen können. Wir haben bislang immer gewonnen. Beginnen wir früh. Das Zentrum deutscher Logistik in der alten Bundesrepublik war immer Unna, bis dort für niemand mehr Flächen und qualifiziertes Personal verfügbar war. Gewinner waren damals Logistiker die Alternativen zu Unna entwickeln konnten. Mal lieferten die Simulationssysteme Trivialitäten, mal krachenden Nonsens. Ein Zentrallager für die Europa-Ersatzteildistribution in der Schweiz ergibt keinen Sinn, weil man ca. 98 % der Ware über eine EU-Außengrenze schickt und zudem Nachtfahrtverbote in der Schweiz, die Bereitstellung der Produkte in vorgesehen Zeitfenstern unmöglich machen. Wir Menschen wissen dies, wie wir auch viele einfache aber auch unmögliche Lösungen aus unserem Wissen ausschließen können. Ein anderes Mal wurde ein Südeuropa-Zentrallager nach Teneriffa geplant, touristisch schön, logistisch in der Praxis im Niemandsland. Beispiele kann man beliebig fortsetzten.
Die Reaktion der Softwareanbieter jedes Mal zerknirscht: ja wir müssen unsere Datenmodelle erweitern. Wenn wir als Menschen im Fall einer Entscheidung klüger sein können, was hilft es dann, dass wir in sollen Fällen die Auskunft bekommen: das nächste Datenmodell wird größer sein und dann auch die richtige Antwort finden. Für die aktuelle Entscheidung ist der Aufwand vertan.
Klug können dagegen die Fragen sein, die man an Statistik stellt, meist schon bevor man diese überhaupt verfasst. Damit verändert sich auch der Blickwinkel, den wir an KI stellen können und auch müssen. Hierin liegt die eigentliche Heraus- und Anforderung, die jetzt und zukünftig an künstliche Intelligenz stellen müssen. Mit den Möglichkeiten komplexer KI erhöht sich auch die Komplexität der Fragen. Die richtigen Fragen und die Fragen richtig zu stellen ist die entscheidende Krux. Vor allem wirft sie die Herausforderung auf uns Menschen zurück. »42« ist die mittlerweile legendäre Antwort die der Supercomputer »Deep Thought« in Douglas Adams Romanreihe »Per Anhalter durch die Galaxis« nach mehreren Millionen Jahren Rechenzeit auf die Anforderung eine Antwort auf die Frage »nach dem Leben, dem Universum und dem ganzen Rest« zu ermitteln. Natürlich sind alle von der Antwort verwirrt, auf die Rückfrage an den Computer, was denn genau die Frage sei, worauf der Computer antwortet: dazu müsse ein viel größerer Computer gebaut werden, der in der Lage wäre, zu ermitteln, wie denn genau diese Frage wäre.
Die Schlussfolgerung kann daher heute nur sein, spekulieren wir auf den neuen größeren Computer, oder begeben wir uns selbst auf den schwierigen Weg Fragen zu stellen. Damit KI ein Erfolg werden soll, wird es uns wohl nichts anderes bleiben. Darin sehe ich aber vor allem eine Chance. In der Debatte um KI geht immer wieder um den Aspekt, wird uns KI überflüssig machen? Die Fähigkeit zur Frage gibt uns da eine dauerhafte Selbstermächtigung, es sei denn wir verlernen, die richtigen Fragen zu stellen. Dabei ist es die Stärke der Fragen, die auch die Chancen in der Entwicklung von KI ausmacht.
Für alle die ohne Umweg über eine kluge Frage zur Antwort kommen wollen und dies sind heute in Wirtschaft und Gesellschaft viele, ist dies natürlich ein Problem. Genau da bleiben Statistik oder eben KI auch dumm.
Andreas Seidel A fool with a tool is still a fool.
Die Realität mit Big Data ist nach wie vor, dass viele die Herausforderung unterschätzen. Die Anwendungen sind nicht die Zauberkästen, die uns höhere "Wahrheiten" liefern. Liegt es daran, dass wir die Daten missverstehen und daher von Anfang an die falschen Fragen an die Daten stellen? Grundsätzlich hat sich das Problem schon gezeigt, als wir noch nicht so viele Daten verarbeiten konnten. Müssen wir also noch mal unsere Methoden auf den Prüfstand stellen?

Moderatoren

Infos zu den Moderatoren

Über die Gruppe "Für Verantwortung in der digitalen Wirtschaft und Gesellschaft. Forum"

  • Gegründet: 12.07.2016
  • Mitglieder: 34
  • Sichtbarkeit: offen
  • Beiträge: 138
  • Kommentare: 86