Künstliche Intelligenz und ihre Rolle im Sozialen

Egal, ob bei der Nutzung von Social Media oder bei der Interaktion mit Siri oder Alexa: Fast alle von uns haben täglich an der ein oder anderen Stelle mit künstlicher Intelligenz zu tun. Auch wenn wir unsere E-Mails abrufen, sorgt ein Spam-Filter mithilfe von Algorithmen dafür, dass uns möglichst nur die E-Mails erreichen, die wir auch tatsächlich lesen möchten.

Da der Einfluss von Algorithmen, die auf Basis von Datenanalysen Entscheidungen unterstützen oder treffen, größer wird, wollten wir beim Digitaltag ein Forum für eine Diskussion zwischen Fachkräften aus sozialen Berufen, der Wissenschaft und Führungskräften schaffen. Gemeinsam mit Dr. Gesa Linnemann von der FH Münster haben wir nach einer kurzen Einführung in das Thema “künstliche Intelligenz” vier Szenarien des Einsatzes von KI in der Wohlfahrtspflege diskutiert. Wir betrachteten dabei nicht nur die potenziellen Chancen von KI, sondern auch die Herausforderungen und Risiken jener Anwendungsmöglichkeiten. Im Folgenden stellen wir einige Beispiele kurz vor, ohne im Einzelnen eine kritische Betrachtung durchzuführen.

Kinder- und Jugendhilfe:

• Im Bezirk Allegheny, in den USA, wird ein Tool eingesetzt, das auf Basis verschiedener Einflussfaktoren einen Risikoindex bildet und damit Sozialarbeiterinnen und -arbeiter dabei unterstützt, Kindeswohlgefährdung zu erkennen. Ab einem bestimmten Wert wird eine Familie durch eine Fachkraft genauer beobachtet.
• Ein Projekt aus Deutschland ist die KiJuAssistenz. Ein digitales Assistenzsystem, das die Betreuung von Kindern und Jugendlichen verbessern soll. Es soll zum Beispiel auf Basis von Datenanalysen Vorschläge für die Beschäftigung mit den Kindern und Jugendlichen machen.

Chatbots in der Onlineberatung

• Between the Lines, ein Projekt zur Unterstützung von Jugendlichen, die eine Beratungsstelle suchen oder Hilfe benötigen. Die KI sorgt dafür, dass die richtigen Hilfsangebote gemacht oder passende Informationen vorgeschlagen werden.
• Der Woebot geht einen Schritt weiter und soll durch das Stellen von Reflexionsfragen eines Chatbots, selbst aktiv unterstützen. Darüber hinaus wird aber auch hier eine Einschätzung der Situation anhand der anfangs eingegebenen Daten vorgenommen und anhand dieser im Akutfall eine Beratungsstelle vor Ort empfohlen.

Diagnosen und Interventionen in der Suchthilfe

• Ein neuronales Netz lernte anhand von CT-Scans die Identifikation von Alkoholismus. In einer Studie mit fast 400 Personen kam es zu einer 97%igen Genauigkeit in der Identifikation der Krankheit zwischen aktiven und abstinenten Personen. (Wang et al. 2018)
• Smartphone- und Smartwatch-Applikationen mit schwacher KI werden in Frühstadien eingesetzt. Diese können sowohl von Klientinnen und Klienten zum Selbstmanagement sowie von Behandelnden zum Monitoring oder zur Diagnostik eingesetzt werden.

Altenhilfe und Pflege

• Intelligente Assistenzsysteme (Ambient Assisted Living) können mithilfe von Sensorik dafür sorgen, dass ältere Menschen länger in ihren eigenen vier Wänden leben können. Diese Systeme geben zum Beispiel Alarm, falls der Mensch stürzt und messen zum Teil auch den Bewegungsgrad oder die Öffnung des Kühlschranks.

Chancen von künstlicher Intelligenz

Mit der Nutzung von Methoden des maschinellen Lernens ist es grundlegend möglich, große Datensätze zu analysieren und neue Zusammenhänge in diesen zu erkennen. Der Unterschied zu reinen statistischen Verfahren ist, dass auch Muster erkannt werden, die vorab durch klassische Datenanalysen nicht entdeckt worden wären. Auch die Geschwindigkeit der Analysen nimmt deutlich zu.

Zur Entscheidungsunterstützung von Beratenden und Behandelnden können Assistenzsysteme, die KI nutzen, eingesetzt werden. Die Datengrundlage, auf Basis derer eine Entscheidung getroffen werden kann, wächst durch den Einsatz von Algorithmen beträchtlich. Dadurch können Sozialarbeiterinnen und -arbeiter zum Beispiel dabei unterstützen werden, neue Zusammenhänge zu entdecken. In Anbetracht der Personallücken in verschiedenen Bereichen der sozialen Arbeit, können über Chatbots und automatisierte Terminvergabe auch längere Wartezeiten ohne einen ersten Kontakt vermieden werden und erste Unterstützungsangebote gemacht werden.

Fortschritte im Bereich der Sensorik und die Möglichkeit einer weitreichenden Vernetzung von Alltagsgegenständen, sorgen für eine verbesserte Unterstützung in der häuslichen und stationären Pflege. Dadurch wird sowohl die Lebensqualität der zu pflegenden Menschen verbessert als auch die Pflegekraft in ihrer Arbeit unterstützt. Durch sinnvoll eingesetzte Assistenzsysteme können die Pflegenden an anderer Stelle mehr Zeit für ihre Kernaufgaben am Menschen einsetzten.

Risiken von künstlicher Intelligenz

Die Nutzung von Daten ist auf der einen Seite ein Vorteil der Algorithmen, zugleich aber eines der größten Risiken. Denn Großteils geht es um sehr sensible, gesundheitsbezogene und persönliche Daten. Ohne eine informierte Zustimmung zur Verarbeitung der Daten ist eine Anwendung der oben genannten Unterstützungstechniken nicht zu verantworten. Oftmals wird den Nutzenden jedoch nicht transparent gemacht, was genau mit ihren Daten passiert und wo und zu welchem Zweck ihre Daten gespeichert werden. Dazu kommt, dass viele Fachkräfte die Kompetenzen, die Ergebnisse der Analysen korrekt zu lesen und zu interpretieren, nicht vermittelt bekommen haben.

Ein weiteres Risiko ist das der Diskriminierung in den Ergebnissen der Algorithmen. Wenn die eingegebenen Informationen diskriminierend oder verzerrt sind, sind es auch die Ergebnisse. Das kann dazu führen, dass Ungleichheiten fortgeschrieben werden. Zahlreiche erschreckende Beispiele wurden in den letzten Jahren bekannt. Ein Einsatz technischer Lösungen, der dazu führt, dass weniger menschliche Zuwendung stattfindet, ist kritisch zu sehen. Auch ein auf Berührungen reagierender Roboter kann keine menschliche Nähe ersetzen und ein Chatbot keine Beratung durch eine Sozialarbeiterin oder einen Sozialarbeiter. Werden Technologien eingesetzt, um Personalmangel auszugleichen oder gar, um Personalkosten zu sparen, geht die Entwicklung in die falsche Richtung. Darüber hinaus besteht das Risiko, dass bei der Entwicklung von innovativen Lösungen ohne die Einbindung von Fachkräften, Qualitätsstandards aus der Praxis nicht berücksichtigt werden.

Auch die Frage der Haftung und Verantwortung von KI-Empfehlungen in der Wohlfahrtspflege ist zu berücksichtigen. Sind es die herstellenden Unternehmen, die haften müssen? Die Anbietenden von Systemen? Die Klientinnen und Klienten selbst? Die Anbietenden von Hilfeleistungen, wie etwa Beratungsstellen? Diese Fragen sind noch nicht umfassend geklärt und müssen weiter diskutiert werden.

Wie geht es weiter?

Aus der Diskussion mit den Teilnehmenden am Digitaltag lassen sich folgende Thesen und Forderungen formulieren:

1. Technische Lösungen und künstliche Intelligenz sollten primär zur Unterstützung für die sozialen Tätigkeiten eingesetzt werden und nicht um menschliche Arbeit zu ersetzen.
2. Weniger Spielereien, mehr echte Hilfe im Beruf. Im Idealfall haben Fachkräfte durch den Einsatz sinnvoller Technologien mehr Zeit für ihre Kernaufgabe, die Arbeit mit den Menschen.
3. Es muss transparent sein, wo künstliche Intelligenz zum Einsatz kommt und welche Einflussfaktoren eine Rolle spielen. Dem Einsatz muss jederzeit widersprochen werden können.
4. Die Fach- und Führungskräfte müssen sprechfähig gemacht werden, um die Entwicklungen in Bezug auf künstliche Intelligenz und Soziale Arbeit mitzugestalten.
   • Nicht nur Führungskräfte, sondern auch Mitarbeitende müssen mit einbezogen werden, denn sie müssen mit den Technologien täglich umgehen.
   • Beim Nachwuchs sind Hochschulen und Ausbildungsstätten gefragt, sie sollten auch dieses Thema auf die Lehrpläne setzen. Nur so können zukünftige Fachkräfte die Technologien sinnvoll anwenden und ihre Klientinnen und Klienten darüber aufklären. (Aktueller Beitrag in der FAZ zur Lehre von KI an Universitäten)

Wir sollten gemeinsam stärker in den Diskurs gehen und die öffentliche Debatte mitgestalten, dann kann künstliche Intelligenz an vielen Stellen sinnvolle Arbeitsentlastung ermöglichen. Nur wenn wir uns einmischen, können wir dafür sorgen, dass die Entwicklungen nicht am Bedarf vorbei gehen.

Abschließend möchten wir Sie auf die 2. Runde des Ideenwettbewerbs der Civic Innovation Plattform hinweisen. Sie haben eine Idee oder sind bereits in einem Projekt, indem künstliche Intelligenz zum Einsatz kommt? - Dann registrieren Sie sich hier für bis zu 20.000€ Preisgeld. Inspirationen gesucht? Das DRK war in der 1. Runde des Wettbewerbs mit folgenden Ideen erfolgreich:

• Nutzung von KI zur Einbindung von Menschen mit besonderen Bedürfnissen in den ersten Arbeitsmarkt
• Sozialleistungsrechner

Sie möchten praktisch testen, wie künstliche Intelligenz funktioniert?

• Spielen Sie Survival of the Best Fit und erleben Sie, welchen Einfluss Verzerrungen in den Daten auf das Ergebnis von Algorithmen haben können.
• Google hat diverse spielerische KI-Formate zum Kennenlernen zusammengestellt

Autorin und Autor:

Dr. Beate Rottkemper und Maximilian Christian Kühn

Projektmitarbeitende bei den Kompetenzzentren Digitalisierung im DRK