2018-08-25 06:37:22

Die schwierigen Fragen zur künstlichen Intelligenz (Teil 1)

Teil eins des zweiteiligen Artikels untersucht, warum Unternehmen über die Nutzung der künstlichen Intelligenz nachdenken sollten.

Der Kampf zwischen der qualitativen und der quantitativen Analyse dauert inzwischen einige Jahrzehnte an. Inzwischen wird die künstliche Intelligenz (KI) auf neue Weise in Wirtschaft und Politik sowie der Wissenschaft genutzt. Bei der Nutzung der KI-Technologie sollten jedoch die Schwachstellen der Technologie berücksichtigen werden, damit wir nur geprüfte Ergebnisse zum Erkenntnisgewinn nutzen.

In vielen Bereichen des Lebens wurde schon immer zwischen quantitativer und qualitativer Faktoren gegeneinander abgewogen. Was sich jedoch in letzter Zeit geändert hat, ist die zunehmende Präsenz von KI-Tools, die Verfeinerung dieser Tools und die Algorithmen zur Manipulation riesiger Datenmengen. Diese KI-Werkzeuge sind neu und die Bedeutung der KI in unserem Leben nimmt kontinuierlich zu. Die neu analysierten Daten sollen den Entscheidungsträgern deren Entscheidungen erleichtern, neue Erkenntnisse berücksichtigen, die durch komplexe Algorithmen erzeugt werden, die mehr Rohdaten und noch mehr Variablen enthalten, als jemals zuvor verfügbar waren. KI-Anbieter, die wie selbstverständlich die Macht und das Potenzial dieser neuen Analyselösungen nutzen, lassen uns jedoch nicht in ihre Geheimnisse blicken. Wir erfahren nie, wie die Analyse durchgeführt werden, die zu den Schlussfolgerungen führen, denen wir vertrauen sollen. Laut der Autorin Cathy O'Neil in ihrem 2016 erschienenen Buch "Weapons of Math Destruction" ist es die „proprietäre und geheimen Soße" die es uns unmöglich macht, die Gültigkeit der Zahlen und die Ergebnisse zu verstehen.

Wie können Entscheidungsträger angesichts dieser Herausforderungen die bereitgestellten Informationen vertrauensvoll nutzen, ohne von ihnen auf das Glatteis geführt zu werden? Dies ist eine fast unlösbare Frage…

 Sollte sich Entscheidungsträger jedoch für die KI-Nutzung entscheiden, müssen die Ergebnisse immer qualitativ analysiert und die Entscheidung kritisch hinterfragt werden…

 Dieses Konzept ist zwar nicht neu, aber wird immer wieder in der Technikeuphorie vergessen.

Betrachten wir dazu die folgenden realen Beispiele:

1. Vor Jahren arbeitete ich in einem Callcenter eines großen Kreditkartenanbieters. Dies war zu den Zeiten, als Call-Center noch relativ neu waren und die genutzte Datenanalyse noch relativ einfach war. Am Ende jedes Monats wurden die Agenten streng nach der Anzahl der von ihnen bearbeiteten Anrufe eingestuft. Der Agent, der Monat für Monat als Zweiter durchs Ziel kam, war wahrscheinlich schlauer als alle anderen Agenten zusammen. Egal was passierter die besagte Kollegin wurde immer Zweite. Wie konnte sie dies schaffen? Wenn der Agent, der konsistent zuerst fertig war, einen komplexen Anruf erhielt, der mehr als die vorgesehene Zeit benötigte, brach sie "versehentlich" den Anrufer ab. Dies geschah in der Hoffnung, dass der Anrufer erneut anrufen würde und beim Folgeanruf einen anderen Agenten bekommen würde, der sich die Zeit nehmen musste, um das Problem zu lösen. Irgendwann bemerkte das Management die Unstimmigkeiten. Dies dauerte jedoch mehrere Monate, in denen das Unternehmen zumindest teilweise einen lausigen Service bot.

Da jedoch nur die reinen Zahlen analysiert wurden, ergab sich ein falsches Ergebnis und führte zu einem unverdienten Bonus für den schummelnden Mitarbeiter.

2. Das zweite Beispiel stammt aus einem großen Beratungsunternehmen. Viele junge Mitarbeiter werden nach Zielvorgaben und "abrechenbaren Stunden" bewertet. Diese Ziele müssen sie mindestens erreichen, um für eine Beförderung und eine finanzielle Belohnung in Betracht gezogen zu werden. Dieses Bewertungsmodell steht immer dem Ziel entgegensteht, den Kunden einen effizienten Service zu bieten. Wer besagt, dass der Berater, der mehr bezahlbare Stunden arbeitet wirklich mehr wert als der Berater, der die Arbeit in kürzerer Zeit erledigt und somit weniger abrechenbare Stunden hat?

Nimmt man die Analyse vor, dann wird der Berater, der die meisten Stunden abrechnet, für seine Firma in Bezug auf die Abrechnung wertvoller sein.

Ich bezweifle jedoch, dass der Kunde auch so denken wird….

…. Aber die Zahlen lügen nicht… (?)

Wenn durch die Einbeziehung vieler weiterer messbarer Variablen (ob etwas wirklich "messbar" ist oder nicht ist eine völlig andere Frage) die Komplexität eines Problems immer gleich ausfällt, dann bleiben die zugrunde liegenden Probleme gleich.

Die Zahlen an und für sich liefern nie ein vollständiges Bild, unabhängig davon, wie tief man in die Details einer Berechnung einsteigt.

Die Geräte, die die riesigen Datenmengen superschnell verarbeiten und die beeindruckenden Ergebnisse liefern, bieten uns möglicherweise kein unzureichendes und unvollständiges Bild. Aus diesem Grund ist es fragwürdig auf dem Haufen fehlerhafter Daten wichtige Entscheidungen zu ziehen.

Außerdem darf man sich nicht blind auf die Ergebnisse verlassen…

… es sei denn, der Entscheidungsträger hat ein umfassendes Verständnis von der Zahlenbasis und weiß, wie die unterschiedlichen Faktoren gewichtet wurden....

 

Bei der Bewertung von KI-Ergebnissen sollte man sich immer von zwei Überlegungen leiten lassen:

Kein Code und kein Programmierer ist ohne jegliche Voreingenommenheit entstanden. Im ersten Moment ist dieser Gedanke etwas schwer zu glauben. Aber bei genauer Betrachtung der Fakten, macht die Aussage Sinn.

Kein Mensch ist ohne Voreingenommenheit.

Dieser Gedanke ist noch irgendwie zu akzeptieren, aber eine Welt aus 1- und 0-Werten beschreibt noch immer Schwarz- und Weiß-Welten…

 Diese können jedoch nur die Wahrheit beschreiben…

Wenn man nicht ganz genau weiß, wie die Berechnungen durchgeführt wurden und welche Rechenfehler bzw. Verzerrungen (beabsichtigte oder unbeabsichtigte) sich in die Algorithmen eingeschlichen haben…. MÜSSEN wir die nackten Zahlen immer skeptisch betrachten.

Wie wurde die jeweilige Analyse durchgeführt? Wurde beispielsweise nicht nur der Endpunkt, sondern auch den Ausgangspunkt betrachtet? Wie wurden die jeweiligen Eigenschaften gewichtet?

Spielen die Gewichtungen bei der Ergebnisfindung eine Rolle?

Keine dieser Fragen stellt uns bereits offensichtliche Antworten bereit…

… aber bevor man eine Entscheidung trifft, die nur auf der Analytik basiert, sollte man die Ausgangswerte genau kennen.

Da wir immer beschäftigt sind, ist manchmal eine Zahlenreihe oder ein Diagramm, die das Ergebnis komplexer Berechnungen darstellen, ein nützliches Werkzeug, Manchmal sagt ein Schaubild mehr als 1000 Worte.

Vorhersagen basieren häufig auf zuvor gesammelten Daten. Die Vorhersagen müssen jedoch ständig neu bewertet werden. Die Quintessenz lautet, dass ohne Berücksichtigung qualitativer Kriterien alle Entscheidungen, die auf Ki-Vorhersagen basieren, nicht stichhaltig sind.

Die künstliche Intelligenz liegt im Trend und wird uns noch lange erhalten bleiben. Daher wird die KI auch zunehmend in unserem Leben präsent sein. Die KI bietet jedoch nicht die Antwort auf alle Dinge, und diejenigen, die sich darauf bei Unternehmensentscheidungen verlassen, gut beraten wären, ihre Entscheidungen noch einmal kritisch zu würdigen.

mat

Druckversion

Zum Thema