Künstliche Intelligenz (KI) in der Wohlfahrtsarbeit

Welche Rolle spielt KI in der Wohlfahrt und im DRK?

„Wir stehen in der Wohlfahrt noch ziemlich am Anfang, sehen aber in jedem Fall große Potenziale. Viele Landesverbände haben sich schon auf den Weg gemacht und wertvolle Erfahrungen gesammelt, unter anderem in der Entwicklung von Chatbots. Auch in der humanitären Hilfe und im Katastrophenschutz gibt es spannende Ansätze und Erfahrungen in der Arbeit mit KI-basierten und datenwissenschaftlichen Ansätzen, aus denen wir viel lernen können. Auch andere Wohlfahrtsverbände sind aktiv und schaffen Experimentierräume, da sind wir im Austausch.“

Was hat das Projekt “DRK Data Science Hub” mit KI zu tun?

„Uns geht es im Data Science Hub darum, den Mehrwert datenwissenschaftlicher Methoden für unsere sozialen Angebote zu erproben und herauszufinden, wo wir zum Beispiel durch eine Automatisierung von Datenerhebung und Datenanalyse einen echten Mehrwert für unsere Kolleginnen und Kollegen vor Ort und insbesondere auch für die Nutzenden unserer sozialen Angebote erzielen können und wo nicht. Da kommen wir an vielen Stellen in den Bereich des maschinellen Lernens, was ein Teilgebiet des KI-Themas ist.“

Kann KI die Arbeit von Menschen ersetzen?

„Nein, zumindest nicht in der nahen Zukunft und vor allem nicht in den sozialen Angeboten im Bereich der Wohlfahrtsarbeit. Da ist der Anteil der Routinetätigkeiten an einem Arbeitstag zum Beispiel in der Migrations-, Suchthilfe-, oder Schuldnerberatung einfach, auch im Vergleich zu anderen Branchen, zu gering. Die Beratungsbedarfe sind sehr individuell, wir arbeiten mit sehr sensiblen Informationen, da braucht es erfahrene Fachkräfte, die die Qualität etwa von KI-generierten Empfehlungen prüfen, bewerten und anwenden können.”

Kann KI die Arbeit von Fachkräften erleichtern?

“Das Versprechen, dass KI unsere Arbeit erleichtern könnte, ist gerade im Kontext des Fachkräftemangels und der oft defizitären finanziellen Ausstattung vieler sozialer Angebote (auch schon vor den aktuell angekündigten Haushaltskürzungen) natürlich verlockend. Wir haben im sozialen Sektor das Problem, dass wir viele freie Stellen nicht besetzen können und Fachkräfte vor Ort überlastet sind. KI könnte in der Theorie einen Beitrag dazu leisten, Entlastung zu bringen. Gleichzeitig ist die Einführung jeder Art von neuer Technologie mit Aufwand und zum Teil hohen Investitionskosten verbunden. Das ist eine Herausforderung für uns als Wohlfahrtsverband, aber auch für die Kolleginnen und Kollegen vor Ort. Da braucht es auf jeden Fall eine gute Begleitung, also finanzielle und personelle Ressourcen. Die aktuell geplanten Haushaltskürzungen, gerade auch im Bereich der Digitalisierung, stimmen mich da eher nachdenklich.”

Welche Risiken gibt es beim Einsatz von KI?

“Bei der konkreten Anwendung beispielsweise in der Beratung braucht es entsprechende Kompetenzen, um mit der KI-Anwendung verantwortungsbewusst umgehen und kritisch reflektieren zu können, ob deren Ergebnisse für die Arbeit nutzbar sind oder ob sie möglicherweise unfair sind und bestimmte Gruppen benachteiligen. Gleichzeitig muss sichergestellt werden, dass persönliche und sensible Informationen nach den höchsten Maßstäben geschützt werden. Wer ChatGPT oder ähnliche vermeintlich kostenlose und niedrigschwellige Anwendungen nutzt, sollte im Kontext der Erbringung sozialer Angebote sehr vorsichtig sein und niemals personenbezogene Daten eingeben.

Es gibt Situationen, in denen eine KI-Anwendung schnelle und richtige Entscheidungen treffen kann. Dann aber, wenn KI-Anwendungen und deren Entscheidungen Auswirkungen auf Menschen haben, müssen wir besonders wachsam und kritisch sein. Das trifft auch auf die Arbeitsfelder des sozialen Sektors zu. KI-basierten Systemen und deren Entscheidungen an der falschen Stelle zu viel Vertrauen zu schenken und Verantwortung abzugeben, die in die Hände von Menschen gehört, kann sehr negative Folgen haben. Insofern gehört einiges an Kompetenzaufbau dazu, um KI-basierte Anwendungen und Ähnliches gerade im sozialen Sektor sinnvoll und verantwortungsbewusst nutzen zu können.”

Was ist Aufgabe der Wohlfahrtsverbände im Kontext von KI?

„Zunächst mal denke ich, dass wir uns mit diesen Entwicklungen vertraut machen müssen und Kompetenzen aufbauen sollten, um damit verantwortungsvoll umgehen zu können. Auch sollten wir den Diskurs begleiten, um bei Bedarf die Interessen unserer Anspruchsgruppen und unserer Einrichtungen vertreten zu können.

Wir sollten uns mit Nutzungsszenarien auseinandersetzen und schauen, inwiefern wir mit diesen Ansätzen einen Mehrwert für unsere Zielgruppen generieren können. Können wir für unsere Fachkräfte vor Ort die Arbeit tatsächlich erleichtern? Können wir tatsächlich qualitativ bessere Angebote machen? Was sind die Bedingungen für einen sinnvollen, erfolgreichen Einsatz und wo gibt es auch Grenzen der Nutzbarkeit?

KI-basierte Anwendungen sind auf viele Herausforderungen im sozialen Sektor nicht die Antwort. Vor allem müssen wir aufpassen, dass wir nicht in eine Ökonomisierungsspirale geraten, in der sich Arbeit nur noch mehr verdichtet und die Qualität sozialer Angebote gar nicht verbessert wird.“

Brauchen wir mehr KI-Expertinnen und -Experten im Wohlfahrtsbereich?

„Ob es Expertinnen braucht, weiß ich gar nicht, aber auf jeden Fall braucht es mehr Expertise. Wie bei allen neuen Technologien, die in den Mainstream kommen und Teil unserer Arbeit werden, brauchen alle, die damit in Berührung kommen, ein Grundverständnis darüber, was das ist und wie es genutzt werden kann. Als Deutsches Rotes Kreuz haben wir eine besondere Verantwortung und die Aufgabe, uns für vulnerable Gruppen einzusetzen. Wenn wir zum Beispiel KI-gestützte Anwendungen in der sozialen Beratung nutzen wollen, müssen wir sicher sein können, dass sie niemanden benachteiligen oder gar ausschließen. Dafür braucht es natürlich entsprechende Kompetenzen.”

Gibt es konkrete Beispiele für relevante Standards, die es zu definieren gilt?

„Wir als Wohlfahrtsverband müssen keine Standards entwickeln, sondern im Blick behalten, was geltende Standards in Deutschland und in der EU sind, die weiterentwickelt werden. Wir sollten Prozesse und Systeme schaffen, mit denen wir diese Standards dann auch einhalten können.”

Wo siehst du die Wohlfahrt und das DRK in Bezug auf KI in 5 bis 10 Jahren?

„Wenn du mich das vor fünf oder zehn Jahren gefragt hättest, hätte ich jetzt auf jeden Fall danebengelegen. Dieses Feld bewegt sich rasant schnell vorwärts. Der Wohlfahrtsstaat gerät massiv unter Druck. Allein durch demographische Veränderung wird der Fachkräftemangel in fünf bis zehn Jahren Dimensionen erreichen, die wir nicht mehr stemmen können. Soziale Angebote fallen im schlimmsten Fall weg, wenn es keine Menschen mehr gibt, die sie anbieten können. Wenn technologische Entwicklungen einen Beitrag zur Lösung dieser Herausforderungen leisten können, wäre das schön. Uns geht es darum, qualitativ hochwertige Angebote für Kinder, für Alte, für Kranke und für Menschen in sozialen Problemlagen anzubieten. Uns geht es darum, Fachkräfte zu entlasten und ihnen zu ermöglichen, einen qualitativ guten Job zu machen. Und in dem Sinne nicht darum, mit möglichst wenig Geld möglichst viele Fachkräfte einzusparen.”

Wie würde sich alles im schlimmsten Fall entwickeln?

„Wenn wir alles so laufen lassen und die Entwicklung von KI und deren Nutzung allein den großen Tech-Firmen überlassen.”

Wie würde sich alles im besten Fall entwickeln?

„Wenn KI-basierte Anwendungen uns dabei helfen könnten, die wirklich großen Herausforderungen unserer Zeit anzugehen. Wenn wir in der Breite die notwendigen Kompetenzen entwickeln, unterschiedliche Stimmen gehört werden und eben nicht nur privatwirtschaftliche Interessen, sondern auch soziale und ethische Erwägungen eine Rolle bei den Entwicklungen spielen.”

Danke für das spannende Interview, Jasmin!

Wenn Sie zur digitalen Transformation im DRK auf dem Laufenden gehalten werden möchten, abonnieren Sie unseren Newsletter Digitalisierung und folgen Sie uns auf Twitter.

Die interaktive Landkarte “DRK-Digital: Der Projektfinder” bietet einen besseren Überblick zu Digitalisierungsprojekten und macht die digitale Transformation im DRK transparenter. Werden Sie ein Teil von etwas Größerem und reichen auch Sie Ihr Projekt ganz einfach über das Online-Formular ein!