Search
Filter anwenden
Nur exakte Treffer
Suche im Titel
Suche im Inhalt
Filter by Kategorien
Blog
Empfehlungen
24
Sep
2019
2

Offener Brief an Fr. Prof. Sarah Spiekermann zum Thema Einsatz von KI im AMS

Sehr geehrte Fr. Professor Spiekermann,

zu Ihren bisher geäußerten Einwänden gegen den Einsatz unseres Arbeitsmarktchancen-Assistenzsystems im AMS und vor allem zu Ihrem gestern auf DerStandard.at veröffentlichten Blog Beitrag „Warum das AMS keine KI auf österreichische Bürger loslassen sollte“ darf ich im Folgenden zumindest zum Teil Stellung nehmen.

Ich schätze einen qualifizierten Diskurs, er stellt für mich einen Austausch von Sachargumenten dar. Bitte daher um Verständnis, dass ich deswegen zu Ihren im Zusammenhang mit dem AMS Algorithmus bisher öffentlich verwendeten Zuschreibungen „entwürdigend“,  „naiv“, „völlig falsch“ oder auch zu der von Ihnen im Rahmen der gemeinsamen Podiumsdiskussion in Alpbach geäußerten Unterstellung, ich würde das System nur einsetzen wollen, um Karriere zu machen, nicht Stellung nehme.

Ein paar Richtigstellungen erscheinen mir jedoch notwendig:

Es gibt keinen KI Einsatz im AMS
Die gesamte Kritik ihres Blogs richtet sich gegen den Einsatz von KI, also künstlicher Intelligenz, im AMS. In Ihrer weiteren Argumentation bezeichnen Sie die im AMS eingesetzte Technik sogar überhöhend als „magische AMS-KI“ bzw. als „Super-KI“.

Das AMS setzt keinerlei KI ein und hat dies auch nicht vor. Ihre diesbezüglichen Behauptungen sind falsch und ich vermute Sie wissen das auch, auch wenn ich nicht weiß warum Sie es dann trotzdem behaupten. Unser System kennt keine neuronalen Netze, es wird nicht trainiert und lernt auch nicht selbständig, es korrigiert sich nicht selbst, die möglichen Ergebnisse werden von uns vorgegeben und alle updates kommen aus Menschenhand. Unser System basiert auf verschiedenen Algorithmen, also der Anwendung einer logistischen Regression, also eines klassischen, theoriegetriebenen, statistischen Modells.

Obgleich es mir ehrlich gesagt absurd erscheint, Ihnen bei Ihrer Profession einen Link mit Informationen zur begrifflichen Abgrenzung von Algorithmen und KI zu übermitteln, so darf ich dies zumindest für andere Leser/innen meiner Stellungnahme tun.
Aber selbst unabhängig davon, wie man KI definiert, erschliesst sich mir nicht, warum Sie selbst den Begriff im Zusammenhang mit dem AMS nun verwenden, haben Sie ihn doch noch im August in einem Interview mit dem Standard als „irreführend“ und als „Missbrauch des Wort Intelligenz“ bezeichnet.

Das AMS unterstützt alle seine Kundinnen und Kunden auch in Zukunft
Sie unterstellen ein Computer würde künftig im AMS ausrechnen „ob man einem arbeitsuchenden Menschen noch hilft oder nicht.“ Das ist falsch. Ziel unseres neuen Systems ist es nicht, Menschen mit schlechteren Arbeitsmarktchancen nicht mehr zu unterstützten, sondern das Gegenteil: Mit unserer Strategie soll sogar ein größerer Anteil dieser Personengruppe unterstützt werden. Eine Reihe von empirischen Beobachtungen stützt die These, dass bei arbeitslosen Menschen mit geringen Integrationschancen durch eine intensivere Betreuung eine bessere Beschäftigungsintegration und eine deutlichere Verringerung von Vormerkzeiten beim AMS erreicht wird als durch übliche arbeitsmarktpolitische Interventionen. Wir wollen daher Mittel von der Förderung befristeter Beschäftigung und Qualifizierung für arbeitsmarktferne Personen umschichten zur Förderung von Einrichtungen zur intensiveren Betreuung dieser Personen. Damit werden wir mehr Personen in Arbeit bringen können als bisher.

Frauen profitieren von der Einführung des AMS Algorithmus
Trotz mehrfacher ausführlicher Richtigstellung seitens des AMS unterstellen Sie weiterhin dem AMS-System, „dass Frauen mit Betreuungspflichten eher in die Gruppe der Nichtvermittelbaren gehören.“ Alle statischen Auswertungen ergeben ein anderes Bild: Frauen werden überproportional mit mittleren Arbeitsmarktchancen ausgewiesen und sind bei der Gruppe mit niedrigen Arbeitsmarktchancen unterrepräsentiert. Ich habe dies alles bereits in meinem Blog vom 14.11.2018 im Detail beschrieben.

Das von Ihnen gebrachte Beispiel der neuen Kommissionspräsidentin Ursula von der Leyen ist auch unsinnig. Weder betrifft das neue System wie sie schreiben die AMS-Dienstleistung der Vermittlung, die erfolgt selbstverständlich weiterhin für allen Kundinnen und Kunden des AMS, noch wäre Frau von der Leyen weder als junge Akademikerin, die auch zwischen einzelner ihrer Geburten arbeitete, noch später vom AMS System jemals als mit niedrigen Chancen eingestuft worden. Sie geben hier Klischees von sich, ohne zu wissen, wie die Analyseergebnisse des Modells überhaupt aussehen. Aus Interesse habe ich mir nun eine Auswertung mit interessanten Ergebnissen machen lassen. Frauen mit einem Studienabschluss gehören auch bei längerer Arbeitslosigkeit deutlich seltener in die Gruppe mit den niedrigen Arbeitsmarkchancen als Männer und wiedereinsteigende Akademikerinnen stehen interessanterweise besser da als „Nicht-Wiedereinsteigerinnen“. Es ist am Arbeitsmarkt also vieles deutlich komplexer als schnell einmal dahingesagt.

Die Entscheidung über die Wahl der richtigen Betreuungsstrategie trifft weiterhin der AMS-Berater bzw. die AMS-Beraterin
Sie unterstellen das AMS delegiere „das Denken und Lernen und eigentliche Entscheiden an eine Maschine.“ Auch das ist falsch. Die Entscheidung über die Einschätzung der Arbeitsmarktchancen und die Wahl der richtigen Betreuung liegt beim Berater/der Beraterin. Dies wird nicht nur in internen Richtlinien festgelegt, sondern es werden die AMS-Beraterinnen und Berater auch ermutigt, den vom Computer errechneten Wert zu prüfen und jedenfalls bei einer Reihe von normierten Umständen auch zu korrigieren. (Auf die existentielle Absicherung arbeitsloser Menschen, also auf Leistungen der Arbeitslosenversicherung hat das System keinen Einfluss.)

Was wir mit dem neuen System für die Betreuung wirklich tun ist, wir stellen unseren Beraterinnen und Beratern eine zusätzliche Information zur Verfügung. Das verbessert die Entscheidungsgrundlage für jene Förder- oder Unterstützungsmaßnahme, die am ehesten geeignet ist, um den Kundinnen und Kunden wieder zu einer Arbeit zu verhelfen.

Prognosen in die Zukunft mit Wahrscheinlichkeiten und nicht 100%tiger Treffergenauigkeit sind heute ein unverzichtbarer Bestandteil unseres Lebens. Die Wirksamkeit von medizinischen Diagnosetools und von Medikamenten beruhen nur auf Wahrscheinlichkeit – mit manchmal oft deutlich geringerer Treffergenauigkeit als unser Algorithmus. Dennoch sind diese Tools und Medikamente unverzichtbarer Bestandteil unseres Lebens und haben millionenfach Menschen gerettet. Und wie auch beim Einsatz von Medikamenten bedarf es aber ergänzend der menschlichen Beurteilung und Bewertung des Diagnoseergebnisses. Und genau dies wird im AMS künftig geschehen.

Mit vorzüglicher Hochachtung
Johannes Kopf

PS. Vielen herzlichen Dank für Ihr Buch zur Digitalen Ethik, dass Sie mir per Post überraschenderweise zukommen haben lassen. Ich habe die von Ihnen für mich markierten Stellen bereits aufmerksam gelesen.

Hinweis: Mein offener Brief erschien in der Folge (25.9.) auch als „Kommentar der Anderen“ im Print und Onlinestandard.

5 Kommentare

  1. Ich teile die Argumentation von Johannes Kopf mit einer Ausnahme: warum ist der Einsatz von AI so strikt abzulehnen? Deep learning wäre gerade in diesem Fall eine nützliche Technologie, weil die Eingabe von Regeln nur durch Menschen Vorurteile perpetuiert. Natürlich kann auch das nur Entscheidungen von verantwortlichen und qualifizierten Menschen unterstützen, nicht ersetzen. AI würde übrigens auch lernen, wenn die Entscheidung des Menschen vom Vorschlag des Algorithmus abweicht und besser war, allerdings auch umgekehrt.

  2. Richard Schaffranek

    Nur die Änderung des Algorithmus produziert etwas neues.

    Sehr geehrter Herr Kopf,

    ich finde den vom AMS entwickelten Algorithmus wunderschön. Die zu Verfügung gestellte Unterlagen beschreiben sehr schön was das AMS als Erfolg versteht, den Abschluß eines Geschäftsfalles. Hierbei hoffe ich stark, daß die Anzahl der Abschlüsse durch die Verwendung des Algorithmus erhöht wird, somit wäre die Entwicklung ein Erfolg.

    Das interessante an einem Algorithmus ist jedoch, daß dieser bei gleichen Inputs immer die gleichen Ergebnisse liefert. Änderung der Inputs führen zu leicht angepassten Ergebnissen. Um hier ein Bild aus der Küche zu bemühen: Mach ich einen Karottenkuchen und nehme anstatt der Karotten, Zucchini so ist es noch immer ein Kuchen.

    Will ich jedoch zu einem anderen Ergebnis kommen so muß ich am „Algorithmus“ etwas ändern nur dann werde ich ein anderes Ergebnis erzielen.
    Somit wurde durch den „AMS Algorithmus“ etwas geschaffen das den Staus Quo effizienter verwaltet und vermutlich den Erfolg (Anzahl der Abgeschlossenen Geschäftsfälle) verbessert. Tut er das nicht so ist die Einführung des Algorithmus ein Misserfolg.

    Seit ca. einem Jahr wird über die „unmenschlichkeit des“ „Diskriminierung durch“ den Algorithmus geschrieben, daß was Ihn jedoch so schön macht ist, das dieser genau den BIAS des AMS auf die Vermittlung von Personen beschreibt und diese auch noch mit einer Genauigkeitsangabe von rund 80% versieht. (Anmerkung: diese für die meisten Menschen nur schwer zu verstehen hier würde ich gerne auf einen Betrag von Julia Krüger verweisen die in dem 20 Minütigen Video auch die Überforderung der Mitarbeiter des BAMF mit Algorithmen erklärt. https://media.ccc.de/v/np14-13-algorithmen_und_ki_ein_wegweiser_fuer_die_zivilgesellschaft#t=122)

    Was in der Diskussion nicht gebracht wird ist wie dieser Algorithmus geändert werden kann, wo die Stellschrauben sind um nicht auf die Vergangenheit mit einer Multiblen Regressionsanalyse zu reagieren sondern für die Zukunft zu agieren.

    Dies würde es nötig machen einen neuen Algorithmus zu „erfinden“!

  3. Fritz Fröhlich

    Auch simple (und alte) Expertensysteme sind eine einfache Form von künstlicher Intelligenz. Ich denke, dass die Begriffsabgrenzung nicht so klar ist. Heute gehen wir davon aus, dass ANNs für AI verwendet werden, aber man könnte ein regelbasiertes System durchaus als AI/KI sehen.

    …und regelbasierte Systeme machen zumindest für das AMS auf jeden Fall insoweit Sinn als eine einheitliche Vorgangsweise (unabhängig vom Berater) vorgeschlagen wird. Es liegt dann an der Organisation, Beratern (wirklich) die Freiheit zu geben von Empfehlungen mit Begründung abzuweichen. Also z.B. wird ein Mann mit 64 Jahren, wenig Bildung und vielen körperlichen Erkankungen eher unvermittelbar sein, aber in begründeten Ausnahmefällen vielleicht doch nicht.

    Die Schaffung dieser „fairen“ Rahmenbedingungen in einer Organisation ist sehr schwierig und daher verstehe ich auch die Skepsis die viele Leute haben.

  4. Robert Wolfgang

    Unabhängig vom konkreten Anlassfall und von der begrifflichen Diskussion: Systeme die auf Algorithmen, KI und/oder Big Data basieren und Entscheidungen über Lebensschicksale nahelegen benötigen unbedingt ExpertInnen aus dem ethischen, rechtlichen, soziologischen und psychologischen Bereich auf Augenhöhe mit den technischen EntwicklerInnen am Gestaltungstisch (nicht als Deckmäntelchen). Stichwort „Values by Design“. Auch wenn dann ein „echter Mensch“ die Entscheidung fällt oder überprüft, erhebt sich doch die Frage, unter welchen Rahmenbedingungen zB in einem technuik-affinen-Betrieb Vorschläge des (teuren) Systems wiederholt overrult werden.

Kommentar hinzufügen

Klicken Sie hier um Email-Benachrichtigungen bei neuen Kommentaren zu aktivieren, ohne selber einen Kommentar zu schreiben.