Die Beziehung zwischen Mensch und KI ist komplex und facettenreich. In einer aktuellen Forschungsstudie, die über fünf Jahre hinweg durchgeführt wurde, stehen die Wechselwirkungen zwischen KI-Systemen, menschlichen Experten und deren Klienten im Fokus. Laut der Universität Kassel zeigt sich, dass Vertrauen eine zentrale Rolle spielt, wenn es darum geht, wie Experten KI-Technologien bewerten und welche Auswirkungen dies auf ihre Klienten hat. Bei sensiblen Themen wie Gesundheit und Finanzen wird deutlich, dass die soziale Einbettung von KI oft wichtiger ist als technische Fähigkeiten der Systeme. Diese Erkenntnisse hat die Universität Kassel in ihrer Studie zusammengetragen, die nun zur Veröffentlichung im Journal Management Information Systems Quarterly akzeptiert wurde. Im Rahmen der Studie wurden 89 Interviews und zahlreiche Beobachtungen bei einer Bank mit einem Robo-Advisor durchgeführt, was einen tiefen Einblick in die Thematik bietet. Die ersten Rückmeldungen der Experten waren skeptisch, doch durch gezielte Maßnahmen konnte Vertrauen schrittweise aufgebaut werden, indem KI in soziale Interaktionen integriert wurde.
Aber was bedeutet Vertrauen in KI eigentlich? Das BSI beschreibt, dass Vertrauen ein mehrdimensionales Konstrukt ist, das sowohl kognitive als auch emotionale Komponenten umfasst. In der Forschung wurden spezifische Hypothesen aufgestellt, die erahnen lassen, wie unterschiedlich die Menschen in Bezug auf Vertrauen in technologische Systeme reagieren. So wurde festgestellt, dass insbesondere in sensiblen Bereichen wie Gesundheit und Recht der Wunsch nach menschlicher Vermittlung stark ausgeprägt ist. Dies liegt nicht nur an individuellen Bedürfnissen, sondern auch an sozialen und situativen Faktoren. Ein bisschen Vertrauen zu entwickeln, kann also ein längerfristiger Prozess sein, der viel mit der emotionalen Beteiligung der Nutzer zu tun hat.
Der Wert menschlicher Vermittler
Interessant ist auch die Rolle menschlicher Vermittler, die laut Studie als Vertrauensanker fungieren. Intermediäre wie Ärzte, Anwälte oder auch Testimonials können entscheidend dazu beitragen, dass Menschen den Ergebnissen von KI-Systemen eher Vertrauen schenken. Es zeigt sich, dass insbesondere Menschen mit einer niedrigen Technikaffinität oder einer hohen Ambiguitätsintoleranz eher auf menschliche Vermittler angewiesen sind, um Akzeptanz für KI-Lösungen zu finden. Die Forschung diesem Bereich schlägt neue Geschäftsmodelle vor, die sich auf die Gestaltung solcher Vertrauensschnittstellen konzentrieren. Ein Beispiel dafür ist das Konzept „Intermediär-as-a-Service“, das die Bereitstellung menschlicher Vermittler als Dienstleistung anstrebt.
Außerdem unterstreichen die Ergebnisse, dass jüngere, digital sozialisierte Personen tendenziell offener für KI ohne menschliche Vermittlung sind. Dennoch bleibt festzuhalten, dass in den sensiblen Bereichen der Mensch stets eine wichtige Rolle spielt. Die Studie macht deutlich, dass die Kluft zwischen technologischen Möglichkeiten und psychologischer Akzeptanz zwar immer kleiner wird, noch besteht aber Handlungsbedarf, um den Menschen Vertrauen in KI-Systeme zu vermitteln. Dieser dynamische Prozess erfordert neue Strategien und wirft viele Fragen auf, die im Zuge weiterer Forschungen beantwortet werden sollten.
Insgesamt lässt sich sagen, dass Vertrauen in KI ein komplexes Zusammenspiel zwischen technologischen Möglichkeiten, menschlichen Erfahrungen und gesellschaftlichen Rahmenbedingungen ist. Es bleibt spannend zu beobachten, wie sich diese Beziehungen in Zukunft entwickeln werden.