Automatisierung. Und wo bleibt die wesentliche Frage?

Automatisierung ist auf dem Vormarsch. Immer mehr menschliche Arbeit wird durch Robotik ersetzt. In manchen Bereichen ist dies wünschenswert, denn wer hat schon Spaß an stupider, häufig gefährlicher und gesundheitsschädigender Arbeit? In anderen Bereichen sieht das ganz anders aus. Zunehmend öfter kommen auch Berufe in den Sog der Automatisierung, die wir klassischerweise als Wissensarbeit bezeichnen würden. Da sollen bald Ärzte und Berater durch künstliche Intelligenz und Robotik ersetzt werden.

Automatisierung: Zwei wissensbasierte Berufe auf dem Prüfstand

Von 2001 bis 2003 beschäftigte ich mich an der Universität Heidelberg intensiv mit ärztlicher Kommunikation. Jede ärztliche Behandlung folgt dem Schema Anamnese – Diagnose – Therapie. Naheliegenderweise ist die Qualität und der Erfolg der Therapie davon abhängig, dass die richtige Diagnose gestellt wird. Dies ist wiederum abhängig vom ersten Arbeitsschritt, der Anamnese, dem ärztlichen Aufnahmegespräch und der damit verbundenen Untersuchung. Dabei stehen Ärzte vor einer gewissen Herausforderung: Sie können der Repräsentativitäts- oder Verfügbarkeitsheuristik verfallen und zu Fehlurteilen gelangen. Im Falle der Repräsentativitätsheuristik kommt es folgendermaßen zum Irrtum: Je ähnlicher eine Person oder Situation einer Gruppe von Personen oder Situationen ist, desto eher findet eine Zuordnung zu dieser Gruppe statt. Die Verfügbarkeitsheuristik sagt aus, dass wir etwas für um so wahrscheinlicher halten, je leichter wir es erinnern können. Ein Roboter / Künstliche Intelligenz könnte diesen Bias-Effekt ausschließen. Soweit das Pro.

Darüber hinaus sind körperliche Aspekte wie Laborwerte zweifelsfrei objektivierbar. Aber wie steht es und die Antworten des Patienten auf die ärztlichen Anamnesefragen? Das zentrale Problem dabei: Hat der Patient wahrheitsgemäß alles gesagt? Hier gilt es zwei Herausforderungen zu lösen: Mangelnde Selbstwahrnehmung des Patienten sowie den urmenschlichen Zug der Scham. Es gibt erfahrungsgemäß verschiedene Lebensbereiche, in denen Menschen Scham entwickeln. Das klassische Beispiel dafür: Sexualität. Niemand, weder ein Mensch noch ein Roboter kann zur Zeit die Wahrheit durch einen schnellen, unaufwändigen Hirnscan mit Sicherheit feststellen. Der Mensch hat jedoch zur Zeit noch einen leichten Vorteil: Seine Intuition. Der Arzt kann spüren, ob der Patient alle wesentlichen Informationen zur Diagnosenstellung mitgeteilt hat. Und kann dann durch Empathie Vertrauen aufbauen und sensibel weiterfragen. Die Maschine könnte allerdings durch die Erhebung vegetativer Daten näherungsweise herausfinden, ob der Patient alle nötigen Informationen wahrheitsgemäß mitgeteilt hat. Fragt sich nur, ob wir uns an einen Wahrheitsdetektor anschließen lassen wollen. Somit dürfte momentan aus diesen Gründen noch gelten: Mind over Machine.

Die Arbeit eines Unternehmensberaters ist da nicht viel anders: Auftragsklärung (=Anamnese) – Diagnose – Beratung (Therapie). Jeder Berater muss in der Auftragsklärung auch entscheiden, ob der Neu- oder Bestandskunde die volle Wahrheit sagt. Eine Beraterin muss herausfinden, ob es eine verdeckte Agenda gibt, ob der Auftrag ernst gemeint ist oder ob er eine Alibifunktion hat. Zudem müssen Berater die Arbeitshypothesen der Gesprächspartner kritisch hinterfragen und mit eigenen Hypothesen erweitern. So fand ich selbst die Ursachenbeschreibung für das Problem eines Kunden schon des öfteren nicht ausreichend überzeugend und ergänzte deshalb eine eigene Annahmen. Die Kunden akzeptierten meine Hypothesen als möglich und im Laufe einiger Beratungsprozesse wurde diese dann bestätigt. Fraglich, wie das zur Zeit automatisiert werden soll. Denn die gesamten Daten des Unternehmens könnten zwar analysiert und ausgewertet werden, aber das würde vorn und hinten nicht reichen. Denn erstens wäre nicht klar, ob alle Daten korrekt erhoben oder eingegeben wurden. Außerdem würden die ganze individual- und sozialpsychologischen sowie kulturellen Faktoren fehlen. Und genau die können wir Menschen intuitiv erspüren, können unsere professionelle Intuition nutzen, um kulturelle und (gruppen)psychologische Muster zu erkennen. Und ob diese Daten eines Tages überhaupt für Maschinen verfügbar sind, ist völlig offen. Erstens technisch und zweitens ethisch. Das werden wohl – hoffentlich – noch wir Menschen entscheiden.

Automatisierung: In welcher Welt wollen wir leben?

Somit gibt es zu Zeit noch erhebliche Probleme, die Robotik noch nicht lösen kann. Aber selbst wenn wir technische Optimisten sind und felsenfest an zukünftige Erfolge künstlicher Intelligenz glauben (und die sich mit großer Sicherheit enorm weiterentwickeln wird), bleiben eine Menge anderer, viel wesentlichere Fragen unbeantwortet:

  • Wollen wir uns selbst auch in Arbeitsbereichen überflüssig machen, denen wir einen großen Sinn und tiefe Befriedigung abgewinnen? Nicht alle Ärzte und Berater*innen, gehen ihrem Beruf nach, weil sie sich dazu aus finanziellen Gründen gezwungen sehen.
  • Wo soll das Ganze enden? In einem Brueghelschen Schlaraffenland, in dem wir den ganzen lieben Tag lang nichts mehr zu Schaffen haben und uns die gebratenen Hähnchen oder veganen Häppchen vielleicht nicht von alleine ins Maul fliegen, aber durch Serviceroboter angereicht oder Amazon Drohnen über unseren weit geöffneten Kiefern abgeworfen werden, sobald wir Hunger verspüren?
  • Und wie stünde es dann um die Roboter? Wenn die so intelligent wären, wären sie dann nicht ohnehin menschenähnlich? Dürften wir dann Roboter zu unseren Sklaven machen? Eine der spannenden Fragen aus dem Buch/Film I, Robot. Darüber hinaus hat Yuval Harari in seinem großartigen Werk „Homo Deus“ klargestellt: Der große Trick unserer heutigen technischen Fortschritte besteht in der Entkoppelung von Intelligenz und Bewusstsein. Maschinen können viel schneller viel mehr Daten zuverlässiger und genauer verarbeiten als wir Menschen – sind aber noch weit weg auch nur von tierischen Formen von Bewusstsein.

Aber es geht ja jüngst um weitere Entwicklungen: Roboter oder Computer könnten für uns und unsere Arbeitsteams Entscheidungen treffen, die wir dann leichter annehmen, weil endlich die ach so unangenehmen Gefühle aus dem Spiel wären. Tatsächlich zeigte sich in einem Experiment, dass Teams nicht nur effizienter arbeiten, wenn Aufgaben durch maschinelle Intelligenz zugeordnet werden. Den Teammitgliedern gefiel die Lösung auch noch besser als menschliche Vorschläge. Das bedürfte noch weiterer Studien, warum genau das so war. Aber letztlich bleibt die alles entscheidende Frage:

Wollen wir uns zu Erfüllungsgehilfen künstlicher Intelligenz machen?

 

Herzliche Grüße

Andreas

 

Bildnachweis

  • Beitragsbild: YouTube Screenshot
  • Video: YouTube
  • Buchcover: C.H.Beck Verlag
2 Kommentare
  1. Roland Schopp
    Roland Schopp says:

    Elon Musk (Gründer von Tesla) hat eine noch schlimmere Vision zu den Fragen hinzugefügt: Wenn ein intelligentes und umfassendes System z.B, damit beauftragt ist SPAM zu bekämpfen und dann den Menschen als Ursache von SPAM entdeckt. Was soll es dann tun ?

    Er steht mit dieser Vision nicht alleine. Namhafte Mahner, auch mit IT- und Robotik-KnowHow, stimmen ihm zu.

    Antworten
    • Andreas Zeuch
      Andreas Zeuch says:

      Guten Morgen Herr Schopp,

      danke für den Beitrag. Helfen Sie mir weiter, vielleicht übersehe ich etwas: Ich finde die frage simpel. Das System ist – noch – in letzter Instanz von Menschen beauftragt worden. Also stellt sich die Frage, was die Menschen für diesen Fall in der Programmierung vorgesehen haben. Meiner Auffassung nach sollte dieses System den Tatbestand des menschlichen Spammers einfach melden. Dann werden wir als Menschen tätig und gehen die rechtlichen Schritte, die durch unsere Rechtslage möglich sind.

      Vielleicht könnte man das Szenario etwas ausweiten: Algorithmen sind ja mittlerweile in der Lage, selbst neue Algorithmen zu erzeugen, sofern ich richtig informiert bin. Was also, wenn ein Algo einen neuen erzeugt, dessen Aufgabenstellung nicht mehr durch Menschen erzeugt wurde? Anders gesagt: Wenn Maschinen anfangen, selbstständig zu werden und eine Eigendynamik entwickeln?

      HGAZ

      Antworten

Dein Kommentar

Want to join the discussion?
Feel free to contribute!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.