Aussichtsreiche Lerngemeinschaft Maschine-Mensch

Maschine vs. Mensch

Welche Eigenschaften der Mensch im Zeitalter von Machine Learning mitbringen muss, in welchen Situationen der Mensch und in welchen die Maschine unschlagbar ist, und wie lange es uns als Arbeitskräfte noch braucht: sechs scharfsinnige Menschen und ihre diversen Perspektiven zu künstlicher Intelligenz und Machine Learning.

Immer mehr Software-Programme überraschen uns mit intelligenten Hinweisen im Alltag: Google Maps rechnet die schnellste Route zur Arbeit aus, Amazon schlägt passende Bücher vor, Facebook warnt mich vor Regenschauern. Doch nicht nur im Alltag, sondern auch in der Medizin, der Juristerei und im Büro übernehmen Maschinen immer mehr Aufgaben. Sie entlasten uns von Routineaufgaben, verarbeiten grosse Datenmengen, erkennen Muster. Wie sinnvoll die Lösungen sind, hängt bis heute davon ab, wie intelligent die Regeln für diese Entscheidungen programmiert wurden: Deterministische Algorithmen werden von Computern automatisch ausgeführt. Gleiche Fehlentscheide werden x-mal wiederholt. Doch schon länger experimentieren Forscher mit selbstlernenden Systemen – sie geben also nicht vor, wie ein Problem gelöst werden soll, sondern programmieren Lernmethoden. Die ersten Ergebnisse dieses Paradigmenwechsels von der künstlichen Intelligenz zu maschinellem Lernen halten nun Einzug in unser Leben und werden die Art und Weise, wie wir arbeiten, kommunizieren und Beziehungen pflegen, massgeblich verändern.

Der Chemie-Professor über die Unschlagbarkeit des Menschen

Gerd Folkers ist Professor an der ETH
für pharmazeutische Chemie und
Präsident des Schweizerischen
Wissenschafts- und Innovationsrats

Was kann der Mensch, das fehleranfällige, vergessliche Wesen, einer 24x7-Lernmaschine entgegenhalten? «Critical thinking!», antwortet Gerd Folkers spontan. Der ETH-Professor für pharmazeutische Chemie und Präsident des Schweizerischen Wissenschafts- und Innovationsrats ist überzeugt, dass der Mensch unschlagbar ist in seiner Fähigkeit, das «Unerwartete» zu tun. Im Sich-Erinnern, Nichts-Vergessen oder Ausblenden schlägt die Maschine den Mensch. Deshalb werden wir künftig situativ Entscheidungen an Maschinen auslagern: «Eine Gehirnoperation ohne Roboter, bildgebende Verfahren oder Simulationstechnik ohne Maschine sind heute fast schon nicht mehr vorstellbar. Der Rat des Arztes ist nicht immer frei von Nebenbedingungen – es gibt keine absolute Objektivität. Deshalb könnte die Maschine mehr über mich als Patienten wissen als der Arzt», so Folkers. Beispielsweise verrät ein Patient dem Arzt nicht, dass er häufig die Tabletteneinnahme vergisst oder einfach verweigert. Eine Maschine, zum Beispiel eine Apple Watch, wäre in der Lage, das Verhalten zu analysieren und dem Arzt mitzuteilen: «Das hat eine positive Seite für meine Gesundheit und eine negative Seite für meine Selbstbestimmung. Was ist besser? Ich weiss es nicht!» Wem soll man also im Zweifelsfall vertrauen – fällen Maschinen die besseren Urteile als Menschen? «Wenn die gegnerischen Anwälte Werbespots schalten können, um die Schöffen, Geschworenen oder Richter zu beeinflussen, möchte ich lieber von einer Maschine verurteilt werden. Wenn die künstliche Intelligenz der Zukunft sich im Fernsehen Werbespots anschaut, dann spielt es keine Rolle mehr», denkt Folkers die Idee weiter.

Der Innovationsexperte über den Mehrwert des Menschen

Stephan Sigrist ist Leiter des renommierten
Schweizer Think-Tanks W.I.R.E.

Welchen Aufgaben werden Menschen nachgehen, wenn Maschinen Routineaufgaben und Alltagsprozesse übernehmen können? «Der Aufgabenbereich von Menschen wird verstärkt dort liegen, wo Systeme oder Software keinen Mehrwert bringen», meint Stephan Sigrist. Der Leiter des renommierten Schweizer Think-Tanks W.I.R.E. ist überzeugt, dass Menschen im Erkennen von komplexen Zusammenhängen, im Finden von Lösungen oder in der Entwicklung überraschender Ideen in Bereichen, in denen es noch keine Erfahrungen gibt, unschlagbar sind. Auch empathische Fähigkeiten und Vertrauenswürdigkeit schreibt der Wissenschaftler dem Menschen zu: «Wider Erwarten wird die Automatisierung nicht nur Menschen mit tiefem Bildungsstand betreffen, sondern alle Berufsgruppen. Selbst bei CEOs könnten bis zu 30% der Tätigkeiten wegfallen.» Umgekehrt dürften gerade «einfache» Arbeiten – beispielsweise die Gartenarbeit in schwierigem Gelände oder die Pflege von Menschen – auch in Zukunft durch Menschen ausgeführt werden. Die Komplexität der geforderten Fähigkeiten entspricht nicht den Stärken der Maschine. Stephan Sigrist geht davon aus, dass wir künftig sowohl die Entscheidungsvorbereitung als auch einfache Entscheidungen an Maschinen auslagern werden: «Dadurch gewinnen wir mehr Zeit oder Freiheiten, uns anderen Dingen zu widmen. Gleichzeitig werden wir uns mehr auf Daten verlassen, wenn wir Entscheide treffen», so der Innovationsexperte. Wem würde er eher Vertrauen: Maschine oder Arzt? «Beim Screening von Hautkrebs würde ich in einem ersten Test auf die softwaregestützte Mustererkennung setzen, in einem zweiten Verfahren aber die Resultate mit einem Arzt besprechen wollen. Ziel ist es nicht, Menschen und Maschinen gegeneinander auszuspielen, sondern ein System zu entwickeln, in dem Schnittstellen geschaffen werden, mit denen gemeinsam Mehrwerte für Unternehmen, Menschen und die Gesellschaft generiert werden.»

Der Arzt als «human interface»

Eberhard Scheuer ist Diplom-
Psychologe und E-Health-Experte

Dass die Maschinen bereits heute bessere Diagnosen liefern als der Mensch, weiss Eberhard Scheuer. Der Diplom-Psychologe und E-Health-Experte geht sogar davon aus, dass der Tipping Point in der Medizin bereits überschritten ist. «Wenn es um klar umrissene Fragestellungen mit einer guten Datenlage geht, schlägt auf jeden Fall die Maschine den Mensch: Sie ist schneller, weniger fehleranfällig und kommt immer zum gleichen Ergebnis», so der Gründer des Forums Digitale Gesundheit. Dennoch glaubt er nicht daran, dass der Beruf des Arztes ganz durch Maschinen ersetzt werden kann. «Reine Rationalität ist nur ein Teil des Anforderungsprofils eines Arztes. Der Mensch in Kombination mit Machine Learning ist das Modell der Zukunft. Der Arzt kann die Schnittstelle für die Vermittlung von Therapieempfehlungen der Maschine sein.» Damit maschinelle Diagnosen tatsächlich «brauchbar» sind, müssten sie nachvollziehbar und fälschungssicher sein. Der Experte empfiehlt, zwei voneinander unabhängige Systeme einzusetzen und das Ergebnis erst bei einer Übereinstimmung zu berücksichtigen – und drängt damit den Arzt erst recht in die Rolle des empathischen Vermittlers. Wie sieht das der Jurist?

Der Rechtsanwalt: «Das menschliche Urteilsvermögen ist besser»

Christian Laux ist Rechtsanwalt mit
Spezialisierung auf IT und Digitalisierung

Der auf IT und Digitalisierung spezialisierte Rechtsanwalt Christian Laux sagt, dass bei der Rechtsfindung Entscheide des Richters «nur» (aber immerhin) überzeugend sein müssen. Sie dürfen nicht gegen Grundsätze des Rechts und einer etablierten Methodik verstossen. «Man kann aber sagen, dass ein Ergebnis immer dann nicht stimmt, wenn es den übergeordneten Richter nicht überzeugt. Das zeigt zweierlei: Recht ist ein Gespräch, und Entscheide müssen überzeugend sein.» Der Jurist geht nicht davon aus, dass Richter künftig von Maschinen ersetzt werden. «Es kann aber sein, dass der ‹Anwendungsbereich› für den Richter kleiner wird.» Damit spielt Laux auf Smart Contracts an: Digitale Verträge, die Vertragsbedingungen automatisch kontrollieren und ausführen. Für Rechtsfragen grösserer Bedeutung liessen sich zwar auch Automatisierungen vorstellen; diese würden dann aber eher die Rechtsfindung bzw. -anwendung vereinfachen, aber nicht ersetzen. «Der Entscheid müsste am Ende doch durch einen Richter gefällt werden. Denn der Mensch ist im Urteilsvermögen besser als Maschinen. Insbesondere, wenn er Maschinen nutzt, um das entscheidrelevante Wissen schneller und verlässlicher zu erhalten.»

Die Politikerin über Bots als Meinungssöldner

Regula Rytz ist Nationalrätin und
Präsidentin der Grünen Partei Schweiz

In der Politik kommt es vermehrt zum Einsatz von Maschinen – mit teils unberechenbaren Konsequenzen, bestätigt die Nationalrätin Regula Rytz: «Die Maschinen selektionieren, Christian Laux ist Rechtsanwalt mit Spezialisierung auf IT und Digitalisierung. Eberhard Scheuer ist Diplom- Psychologe und E-Health-Experte. filtern, liken, ‹reden› online mit – alles mit dem Ziel, vorprogrammierte Meinungen zu verbreiten und die Werbemaschine zu ölen.» Die Präsidentin der Grünen hält diese Entwicklung gar für gefährlich: «Bots sind digitale Meinungssöldner und deshalb eine Gefahr für die Demokratie. Umso wichtiger ist es, das kritische Denken und unabhängige Medien mit publizistischer Qualität zu fördern!» Dennoch kann einen angesichts der jüngsten Entwicklungen ab und zu das Gefühl beschleichen, dass mittels maschinellem Lernen bessere Entscheide gefällt werden können als in einer Demokratie – schliesslich könnte ein System alle Erfahrungen zu einem für die jeweilige Situation optimalen Ergebnis zusammenführen. Diesem Gedanken möchte Regula Rytz nur ein kleines Stück weit folgen: «Maschinen können Menschen in ihrer Meinungsbildung unterstützen. Demokratische Entscheidungen sind aber immer mehrdimensional und lassen sich nicht auf die binäre Welt von Maschinen reduzieren. Für menschliche Politik braucht es Kopf, Herz und Rückgrat!»

Der Ethikprofessor zum Alleinstellungsmerkmal Moralfähigkeit

Peter G. Kirchschläger ist Ethikprofessor
an der Universität Luzern

Der Ethikprofessor Peter G. Kirchschläger von der Universität Luzern bezweifelt, dass Maschinen moralisches Urteilsvermögen, Gewissen oder Sinneinsichten entwickeln können. «Meines Erachtens unterscheiden sich Menschen insbesondere in ihrer Moralfähigkeit von Maschinen.» Dazu zählt der Ethiker eine auf der Achtung von Menschenwürde beruhende Haltung, Autonomie sowie Vernunft und betont mit Vernunft die ethische Rationalität, die sich auf menschliche Sinneinsichten stützt, im Unterschied zur technischen Rationalität, die sich aus den vorhandenen Daten ergibt und zweckmässig ist.

Gleichzeitig weist der Ethiker darauf hin, dass Maschinen den Menschen bereits in verschiedenen Intelligenzbereichen überlegen sind. Es sei anzunehmen, dass weitere Intelligenzbereiche dazukommen werden. «Daher sollten sich die Menschen bereits jetzt mit der Möglichkeit von ‹Superintelligenz› auseinandersetzen, um dafür rechtzeitig einen normativen Rahmen zu setzen, der menschenwürdiges Leben für alle Menschen auch in Zukunft garantiert.» Peter G. Kirchschläger sieht das Potenzial der Maschinen vor allem in der Entscheidungsvorbereitung: «Aktuelle Pilotprojekte von ‹Maschinen- Richtern› scheitern unter anderem an der Rechtstradition der Gnade. Daher wäre wohl eine Zusammenarbeit von Menschen und Maschinen mit klar definierten Aufgabenbereichen sinnvoll, bei der die Zwischenmenschlichkeit immer ihren zentralen Platz behält und die Verantwortung wegen der einzigartigen Moralfähigkeit der Menschen immer bei Menschen bleibt.»

Moralfähige Maschinen?

Können Maschinen nicht auch Moral lernen? Dazu hat das MIT eine Lernplattform lanciert, um Moralfähigkeit maschinell zu trainieren: Gezeigt werden moralische Dilemmata, bei denen sich ein führerloses Auto für das «geringere Übel» entscheiden muss, beispielsweise die Entscheidung, zwei Mitfahrer oder fünf Fussgänger zu töten. Die Plattformnutzer bewerten, welcher Ausgang ihrer Meinung nach erträglicher ist. Am Ende werden die Antworten mit denen der anderen Teilnehmenden verglichen. Auf diese Weise soll die Maschine lernen, wie Menschen zu entscheiden.

Empfohlene Inhalte

DeepArt ist ein selbstlernender Algorithmus, der Kunstwerke kreiert. Auf deepart.io kann man ein Foto hochladen und einen Stil wählen. DeepArt analysiert das Bild und wendet die Stileigenschaften auf das Foto an.

Ein Blick in die Zukunft

Christian A. Rusche, visionärer Software Engineer bei BSI

Was unterscheidet Machine Learning von Algorithmen?

Machine Learning (ML) ist ein lernendes Instrument. Meist als neuronales Netz, das sich selbst verändert und optimiert: Eine ML-«Verkäuferin» setzt den Produktpreis für einen Kunden gemäss der gelernten Erfahrung aus vorgängigen Angeboten. Ein ML- «Marketeer» verfasst eine E-Mail mit individuellen Inhalten und Tonalität aufgrund der Reaktion des Kunden. Eine ML-«Ärztin» ist kein von Menschen programmiertes Expertensystem, sondern verschreibt Arzneien und Dosierungen anhand erlernter Erfolgswahrscheinlichkeiten. Ein ML-«Politiker» lernt aus Tausenden Fällen, wie er durch die passende Höhe von Bussen die Anzahl an Verkehrsunfällen reduzieren kann. Das klingt nach Science-Fiction, aber ist durchaus eine vorstellbare Zukunft.

Braucht es noch Verkäufer, Marketeers, Ärzte und Politiker aus Fleisch und Blut?

Ich denke, mittelfristig auf jeden Fall, langfristig als Kontrollinstanz.

Wann ist der Mensch unschlagbar? Wann die Maschine?

Mensch: Wille. Maschine: Flexibilität.

Welche Eigenschaften müssen Menschen im ML-Zeitalter mitbringen?

Demut.

Werden wir Entscheidungen an Maschinen auslagern oder nur die Vorbereitung?

Wir werden Entscheidungen auslagern. Unser neustes Produkt BSI Studio wird zum Beispiel Entscheidungen treffen zu Inhalten, Kanalwahl oder Ansprache – für jeden einzelnen Kunden. Jede Customer Story besteht aus intelligenten Schritten, die aufgrund der Datenlage entscheiden, ob es links (E-Mail versenden) oder rechts (SMS versenden) weitergeht.

Muss eine Entscheidung immer 100%-ig richtig sein? Oder reichen 70%?

Das muss man sich für jeden Anwendungsfall überlegen, je nach Qualität und Kosten der (menschlichen) Alternativen und den Konsequenzen bei False Positive und False Negative. Bei einem Newsletter-Versand ist eine falsche Entscheidung nicht lebensbedrohend. Zudem macht ML nur Sinn, wenn das System genügend Daten zum Lernen hat oder durch einen Regelkreis Feedback zu seinen Entscheiden erhält. Selbstlernende Systeme – gar solche, die durch evolutionäre Methoden ihre innere Struktur selbst definieren – werden uns überraschen.