GoITSystems by Dr. M. Gottlieb
Algorithmische Führung bruach menschliche Verantwortung (KI-generiert)
Algorithmische Führung bruach menschliche Verantwortung (KI-generiert)

Einleitung: Algorithmische Steuerung von Arbeit und Führung

Algorithmic Management bezeichnet den Einsatz datenbasierter, regel- oder lernbasierter Systeme zur Unterstützung, Vorbereitung oder teilweisen Automatisierung von Managementaufgaben. Dazu zählen insbesondere die Zuweisung und Priorisierung von Aufgaben, Leistungsbewertung, Koordination, Überwachung sowie die Ausgestaltung von Anreiz- und Kontrollmechanismen. Algorithmisches Management ist damit nicht auf Plattformarbeit beschränkt, sondern gewinnt auch in wissensintensiven Organisationen, in der Personalsteuerung und in datengetriebenen Entscheidungsprozessen an Bedeutung. ()

Von generativer künstlicher Intelligenz ist Algorithmic Management analytisch abzugrenzen: Generative KI dient primär der Erzeugung oder Transformation von Inhalten, während algorithmische Managementsysteme Arbeitsprozesse strukturieren, Entscheidungen vorbereiten oder Verhalten beeinflussen können. In der Praxis können beide Systemtypen jedoch zusammenwirken, etwa wenn generative KI bei der Aufgabenformulierung eingesetzt wird und algorithmische Systeme zugleich Arbeitsaufträge priorisieren oder Leistungsmuster auswerten.

Für die Wirtschaftsinformatik ist das Themenfeld besonders relevant, weil es die Gestaltung von Organisation, Technologie und Arbeit miteinander verbindet. Im Mittelpunkt stehen Fragen nach der Verteilung von Entscheidungskompetenzen, nach der Erhaltung menschlicher Handlungsspielräume sowie nach der Rechenschaftspflicht für Entscheidungen, die durch algorithmische Systeme vorbereitet oder beeinflusst werden. Algorithmic Management sollte daher als soziotechnisches Phänomen verstanden werden, bei dem technische Funktionen, organisationale Regeln und menschliche Interpretationsleistungen wechselseitig aufeinander einwirken.

Theoretische Einbettung und Konzepte

Eine tragfähige theoretische Einbettung kann über die Soziomaterialität erfolgen. Dieser Ansatz betont, dass soziale Praktiken und technische Artefakte nicht unabhängig voneinander betrachtet werden sollten, sondern in der organisationalen Praxis miteinander verschränkt entstehen. Für Algorithmic Management bedeutet dies: Die Wirkungen eines Systems ergeben sich nicht allein aus seinem Modell, seinen Daten oder seinen Optimierungszielen. Sie entstehen ebenso durch Regeln der Nutzung, Deutungen von Führungskräften und Beschäftigten, Eskalationswege sowie die konkrete Möglichkeit, algorithmische Empfehlungen zu prüfen, zu korrigieren oder zurückzuweisen ().

Ergänzend eignet sich die Perspektive der Technology Affordances. Affordanzen beschreiben Handlungsmöglichkeiten, die aus dem Zusammenspiel technischer Eigenschaften und der Fähigkeiten, Ziele und Interpretationen von Akteur:innen hervorgehen. Algorithmische Systeme können beispielsweise Affordanzen zur Skalierung von Koordination, zur frühzeitigen Erkennung von Mustern oder zur konsistenten Dokumentation eröffnen. Gleichzeitig können sie Kontrollintensität erhöhen, einseitige Zieloptimierungen verstärken oder Beschäftigte zu strategischer Anpassung an messbare Kennzahlen veranlassen ().

Die Forschung zu hybrider Intelligenz richtet den Blick auf die komplementäre Zusammenarbeit von Menschen und KI-Systemen. Im Kontext algorithmischer Führung ist entscheidend, welche Aufgaben an das System delegiert werden, welche Entscheidungen bei Führungskräften oder Beschäftigten verbleiben und wie begründete Abweichungen von algorithmischen Empfehlungen möglich sind. Eine menschengerechte Gestaltung setzt daher nicht lediglich „Human-in-the-Loop“ voraus, sondern klare Zuständigkeiten, ausreichende Kompetenz, angemessene Entscheidungsrechte und wirksame Interventionsmöglichkeiten ().

Forschungsfragen und Methoden

Algorithmic Management eignet sich besonders für Mixed-Methods-Forschung, weil technische Eigenschaften, organisationale Gestaltungsentscheidungen und subjektive Erfahrungen gemeinsam untersucht werden müssen. Quantitative Erhebungen können beispielsweise Zusammenhänge zwischen wahrgenommener algorithmischer Kontrolle, Transparenz, Vertrauen, Leistung, Belastung oder organisationaler Gerechtigkeit analysieren. Qualitative Methoden wie Interviews, Fallstudien, digitale Ethnographien oder Grounded-Theory-Ansätze ermöglichen es hingegen, Aneignungspraktiken, Umgehungsstrategien, Aushandlungsprozesse und Deutungsmuster von Beschäftigten und Führungskräften zu rekonstruieren.

Ein sequenzielles exploratives Mixed-Methods-Design könnte zunächst anhand qualitativer Fallstudien relevante Wahrnehmungs- und Gestaltungskategorien identifizieren. Darauf aufbauend ließen sich diese Kategorien in einer quantitativen Befragung oder einem Feldexperiment prüfen. Ein konvergentes Design wäre sinnvoll, wenn Logdaten, Befragungsdaten und Interviewmaterial parallel erhoben und anschließend integriert werden sollen. Dabei sollte die Untersuchungseinheit klar bestimmt werden: Einzelne Beschäftigte, Teams, Führungskräfte, konkrete algorithmische Entscheidungen oder organisationale Governance-Arrangements.

Mögliche Fragestellungen für Promotionsvorhaben

  • Wie beeinflussen Transparenz, Erklärbarkeit und Übersteuerbarkeit algorithmischer Empfehlungen die intrinsische Motivation und das Vertrauen von Beschäftigten in wissensintensiven Organisationen?
  • Welche soziotechnischen Designprinzipien ermöglichen eine nachvollziehbare und als fair wahrgenommene automatisierte Zuweisung von Aufgaben?
  • Wie verändern algorithmisch vorbereitete Leistungsbewertungen die wahrgenommene organisationale Gerechtigkeit, insbesondere Verfahrens-, Interaktions- und Ergebnisgerechtigkeit?
  • Unter welchen Bedingungen erweitern algorithmische Systeme die Handlungsmöglichkeiten von Führungskräften und Beschäftigten, und unter welchen Bedingungen reduzieren sie deren Handlungsspielräume?
  • Wie können Auditierbarkeit, Dokumentation und Eskalationsmechanismen gestaltet werden, damit Verantwortlichkeit bei KI-gestützten Managemententscheidungen nicht diffuser wird?

Herausforderungen und Governance

Ein zentrales Spannungsfeld besteht zwischen Effizienzgewinnen durch Standardisierung und dem Erhalt professioneller Urteilskraft. Wenn Systeme Aufgaben zuteilen, Arbeitsleistung bewerten oder Prioritäten festlegen, besteht das Risiko, dass formalisierbare Kennzahlen gegenüber schwer messbaren, aber für die Organisationsleistung relevanten Tätigkeiten übergewichtet werden. Zugleich können Beschäftigte die algorithmische Bewertung als intransparent oder nicht anfechtbar erleben. Die Forschung zu Algorithmic Management verweist deshalb auf Konflikte zwischen Kontrolle und Autonomie, zwischen organisationaler Effizienz und individueller Würde sowie zwischen technischen Optimierungszielen und pluralen Wertvorstellungen ().

Besondere Bedeutung kommt der Accountability zu. Rechenschaftspflicht setzt voraus, dass Verantwortlichkeiten nicht hinter technischen Systemen verschwinden. Organisationen benötigen nachvollziehbare Entscheidungswege, dokumentierte Daten- und Modellannahmen, klar benannte Entscheidungsträger:innen sowie wirksame Verfahren zur Prüfung und Korrektur problematischer Ergebnisse. Für KI-gestützte Entscheidungen im Beschäftigungskontext gewinnen diese Anforderungen auch regulatorisch an Gewicht. Der europäische AI Act enthält für Hochrisiko-KI-Systeme unter anderem Vorgaben zu Transparenz, menschlicher Aufsicht, Monitoring und der Information betroffener Beschäftigter ().

Algorithmische Verzerrungen dürfen dabei nicht allein als technisches Datenqualitätsproblem verstanden werden. Verzerrungen können durch historische Daten, fehlerhafte oder unvollständige Zielgrößen, ungleiche Sichtbarkeit von Leistungen, organisatorische Routinen und diskriminierende Interpretationen entstehen. Eine verantwortungsvolle Gestaltung verlangt daher ein Zusammenspiel aus Daten-Governance, Fairness-Prüfungen, fortlaufendem Monitoring, fachlicher Prüfung und Beteiligung der von den Systemen betroffenen Akteuren ()

Implikationen für Forschung und Praxis

Algorithmic Management ist nicht bloß die Einführung einer weiteren Softwarekomponente, sondern ein soziotechnisches Gestaltungsfeld mit Auswirkungen auf Führung, Arbeitsorganisation, Machtverhältnisse und Verantwortungsstrukturen. Für die Wirtschaftsinformatik folgt daraus, dass Wirkungsanalysen durch gestaltungsorientierte Forschung ergänzt werden sollten. Ziel ist nicht nur zu erklären, welche Folgen algorithmische Steuerung hat, sondern auch Artefakte, Prinzipien und Governance-Mechanismen zu entwickeln und zu evaluieren, die Transparenz, Anfechtbarkeit, Fairness und menschliche Entscheidungshoheit sichern ().

Für Promovierende eröffnet das Feld vielfältige Forschungsperspektiven an der Schnittstelle von Responsible AI, digitaler Transformation und Arbeitsforschung. Besonders aussichtsreich sind Untersuchungen, die technische Systemgestaltung mit organisationalen Governance-Mechanismen verbinden und dabei sowohl die Perspektive der Systementwickler:innen als auch die Erfahrungen von Führungskräften, Beschäftigten und Interessenvertretungen berücksichtigen. So kann die Forschung zu Algorithmic Management einen Beitrag dazu leisten, KI-gestützte Arbeits- und Führungspraktiken nicht nur effizienter, sondern auch nachvollziehbarer, verantwortbarer und menschenzentriert zu gestalten.

Literaturverzeichnis

  • European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105.
  • Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410.
  • Leonardi, P. M. (2011). When flexible routines meet flexible technologies: Affordance, constraint, and the imbrication of human and material agencies. MIS Quarterly, 35(1), 147–167.
  • Orlikowski, W. J. (2007). Sociomaterial practices: Exploring technology at work. Organization Studies, 28(9), 1435–1448.
  • Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., Smith-Loud, J., & Theron, D. (2020). Closing the AI accountability gap: Defining an end-to-end framework for internal algorithmic auditing. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (pp. 33–44). Association for Computing Machinery.
  • Shrestha, Y. R., Ben-Menahem, S. M., & von Krogh, G. (2019). Organizational decision-making structures in the age of artificial intelligence. California Management Review, 61(4), 66–83.
Konzeptdarstellung eines autonomen KI-Agenten im Kontext organisationaler Entscheidungsdelegation (KI-generiert)
Konzeptdarstellung eines autonomen KI-Agenten im Kontext organisationaler Entscheidungsdelegation (KI-generiert)

Einleitung: Von der Assistenz zur Autonomie

Die Wirtschaftsinformatik befindet sich aktuell in einer Phase konzeptioneller Neuorientierung: Generative KI-Systeme werden nicht länger primär als reaktive Assistenzwerkzeuge verstanden, sondern zunehmend als agentische Informationssysteme (Agentic IS), die eigenständig Ziele verfolgen, Handlungen initiieren und Verantwortung für Aufgaben mit hoher Unsicherheit übernehmen (). Agentische Systeme sind demnach nicht länger passive Werkzeuge, sondern Artefakte, die eigenständig Rechte und Pflichten zur Zielerreichung übernehmen können (). Für die Wirtschaftsinformatik eröffnet sich damit ein Forschungsfeld an der Schnittstelle von Human-Computer Interaction (HCI), Organisationsgestaltung und intelligenten Informationssystemen.

Theoretische Einordnung und konzeptionelle Fundierung

Die zunehmende Verbreitung agentischer Systeme erfordert eine Weiterentwicklung etablierter Theorien des soziotechnischen Systemdesigns. Während klassische Ansätze der IS-Nutzungsforschung dem menschlichen Akteur analytische Primärstellung einräumen und Technologie als passives Werkzeug behandeln, argumentieren , dass diese Annahme für eine neue Generation „agentischer“ IS-Artefakte revidiert werden muss. Sie führen hierzu das Konzept der Delegation als theoretische Linse ein, um die Beziehung zwischen Mensch und agentischem IS-Artefakt entlang der Dimensionen Endowments, Preferences und Roles sowie der Mechanismen Appraisal, Distribution und Coordination zu erklären ().

Ergänzend liefert das Task-Technology Fit (TTF)-Modell einen etablierten Bezugsrahmen zur Passung zwischen Aufgabenanforderungen und technologischen Eigenschaften (). Für agentische Architekturen ist dieses Modell um folgende Dimensionen zu erweitern:

  • Autonomiegrad: Ausmaß eigenständiger Entscheidungsfindung und Handlungsinitiierung ().
  • Intentionalität: Fähigkeit zur zielgerichteten Planung über mehrere Handlungsschritte hinweg ().
  • Fehlertoleranz und Resilienz: Umgang mit Unsicherheit in dynamischen Umgebungen.
  • Transparenz: Nachvollziehbarkeit von Entscheidungslogiken und Handlungspfaden.

Methodische Zugänge und empirische Forschung

Die Untersuchung agentischer KI erfordert methodische Designs, die über reine Performance-Metriken hinausgehen und sozio-technische Effekte einbeziehen. Besonders geeignet sind mehrmethodische Forschungsansätze:

  • Design Science Research (DSR): Entwicklung und Evaluation von Artefakten in Form von KI-Agenten oder Multi-Agenten-Systemen, differenziert nach Instanziierungen, Modellen und Methoden, mit ex-ante und ex-post Evaluationsdesigns ().
  • Theoriegeleitete Delegationsforschung: Anwendung des Delegationsframeworks zur Modellierung testbarer Hypothesen über Appraisal-, Distributions- und Koordinationsmechanismen ().
  • Qualitative Fallstudien: Untersuchung organisationaler Transformationsprozesse und sozio-technischer Wechselwirkungen bei der Einführung agentischer Systeme ().

Herausforderungen und zentrale Forschungsfelder

Ein zentrales Spannungsfeld betrifft die Nachvollziehbarkeit autonomer Entscheidungs- und Handlungsketten. Autonome KI-Agenten verletzen zentrale Annahmen klassischer Verantwortungszuschreibung, da Handlungen nicht mehr eindeutig auf einzelne menschliche Entscheidungen zurückgeführt werden können (). Verantwortung muss daher zunehmend auf Ebene der organisationalen Governance-Architektur verortet werden, die festlegt, welche Ziele ein Agent verfolgt und in welchem Ausmaß Entscheidungsbefugnis delegiert wird ().

Daraus ergeben sich zentrale Forschungsfelder:

  • Agentische Governance: Entwicklung von Rahmenwerken zur Steuerung, Kontrolle und Auditierbarkeit autonomer Systeme.
  • Delegationstheorie: Empirische Prüfung der von Baird und Maruping (2021) vorgeschlagenen Delegationsmechanismen in realen Organisationskontexten.
  • Rollen- und Kompetenzwandel: Auswirkungen agentischer Delegation auf Entscheidungsstrukturen und Managerverantwortung.
  • Prozessintegration: Einbettung agentischer IS in bestehende Prozesslandschaften.

Implikationen für die Forschung

Agentische KI stellt keine inkrementelle Weiterentwicklung dar, sondern erfordert eine grundlegende Revision der IS-Nutzungstheorie, wie sie durch die MIS Quarterly Special Issue zu Agentic AI adressiert wird (). Für die Wirtschaftsinformatik ergibt sich die Notwendigkeit, Delegations-, Governance- und Vertrauensmodelle empirisch zu validieren. Insbesondere die Schnittstelle zwischen menschlicher Steuerung und maschineller Autonomie bleibt zentraler Gegenstand zukünftiger Forschung.

Literaturverzeichnis

  • Baird, A., & Maruping, L. M. (2021). The next generation of research on IS use: A theoretical framework of delegation to and from agentic IS artifacts. MIS Quarterly, 45(1), 315–341. https://doi.org/10.25300/MISQ/2021/15882
  • Holldack, F., et al. (2026). Agentic information systems. Electronic Markets 36, 5. https://doi.org/10.1007/s12525-025-00861-0.
  • Rahwan, I., et al. (2019). Machine behaviour. Nature, 568(7753), 477–486.
  • Goodhue, D. L., & Thompson, R. L. (1995). Task-technology fit and individual performance. MIS Quarterly, 19(2), 213–236. https://doi.org/10.2307/249689
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105. https://doi.org/10.2307/25148625
  • Yin, R. K. (2014). Case study research: Design and methods (5th ed.). Sage.
  • MIS Quarterly Executive. (2026). Special Issue Call for Paper: Are organizations ready for autonomous AI agents? https://lnkd.in/dx-wesDZ, zugegriffen am 01.08.2026
Algorithmische Verantwortung und Vertrauen (KI-generiert)
Algorithmische Verantwortung und Vertrauen (KI-generiert)

Problemstellung und wissenschaftliche Relevanz

Die zunehmende Integration von KI-Systemen in organisationale Entscheidungsprozesse markiert einen tiefgreifenden Wandel in der Gestaltung soziotechnischer Systeme. Während die technologische Leistungsfähigkeit kontinuierlich zunimmt, bleibt die wissenschaftliche Fundierung von Governance-Strukturen und algorithmischer Verantwortung (Accountability) vielfach unterentwickelt. Unter algorithmischer Verantwortung wird hierbei die Nachvollziehbarkeit, Zurechenbarkeit und Kontrollierbarkeit algorithmischer Entscheidungen verstanden.

Für die Wirtschaftsinformatik ergibt sich daraus eine zentrale Forschungsfrage: Wie können menschliche Aufsicht (Human Oversight) und algorithmische Autonomie in hybriden Entscheidungsarchitekturen so ausgestaltet werden, dass Effizienzgewinne realisiert werden, ohne regulatorische und ethische Anforderungen zu verletzen? Gerade aus Sicht der behavioral IS stellt sich die Frage, wie individuelle und organisationale Verhaltensmuster, Einstellungen und Vertrauen die Nutzung und Kontrolle KI-basierter Entscheidungssysteme prägen.

Die disziplinäre Relevanz ist hoch, da die Wirtschaftsinformatik traditionell die Schnittstelle zwischen technologischer Innovation und organisationaler Wertschöpfung adressiert. Während frühere Arbeiten primär auf Effizienzsteigerungen fokussierten, verschiebt sich der Diskurs zunehmend hin zu Transparenz, Erklärbarkeit (Explainable AI, XAI) und Risikokontrolle in sensiblen Anwendungskontexten wie Finanzdienstleistungen oder öffentlicher Verwaltung .

Theoretische Konzepte und aktuelle Diskurse

Im Zentrum der verhaltensorientierten IS-Forschung zu KI-Systemen steht das Spannungsfeld zwischen algorithmischer Effizienz und menschlicher Handlungsträgerschaft (Human Agency). Etablierte Adoptions- und Nutzungsmodelle wie das Technology Acceptance Model (TAM) sowie seine Weiterentwicklungen (z. B. UTAUT2) bieten einen strukturierten Rahmen, um wahrgenommene Nützlichkeit, Nutzungserwartung, Vertrauen und Gewohnheit als Treiber der Systemnutzung zu analysieren ; . Für KI-basierte Entscheidungssysteme reicht eine reine Akzeptanzperspektive jedoch nicht aus, da auch Kontrollwahrnehmung, Eingriffsmöglichkeiten und Verantwortlichkeitszuschreibungen modelliert werden müssen.

Ein theoretisch anschlussfähiges Leitkonzept ist in diesem Zusammenhang Meaningful Human Control, das beschreibt, unter welchen Bedingungen autonome Systeme weiterhin einer verantwortbaren menschlichen Kontrolle unterliegen . Die Konzeption von tracking- und tracing-Bedingungen ermöglicht es, normative Anforderungen an Kontrolle und Verantwortung mit verhaltensbezogenen Konstrukten wie wahrgenommener Kontrolle, Verantwortungsbereitschaft und Vertrauen zu integrieren.

Parallel dazu betont die XAI-Forschung, dass Interpretierbarkeit nicht nur eine technische Eigenschaft, sondern auch ein verhaltensrelevantes Merkmal ist, das Einstellungen und Nutzungsmuster beeinflusst ; . Für behavioral IS ergibt sich daraus die Herausforderung, Konzepte wie Vertrauen, Risiko- und Fairnesswahrnehmung sowie Verantwortungszuschreibung empirisch mit konkreten XAI-Features und Governance-Mechanismen zu verknüpfen.

Methodische Zugänge und empirische Forschung

Die Untersuchung algorithmischer Verantwortung aus behavioral-IS-Perspektive erfordert ein methodisches Spektrum, das sowohl individuelle und organisationale Verhaltensmuster als auch technische Artefakte abbildet:

  • Quantitative Surveys und Experimente: Kausale und korrelative Analysen zur Wirkung von XAI-Features und Governance-Mechanismen auf Vertrauen, Nutzungsintention, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung.
  • Qualitative Studien: Tiefgehende Analysen organisationaler Umgangsweisen mit KI-Systemen mittels Interviews und Beobachtungen, um informelle Praktiken der Aufsicht, Delegation und Verantwortungszuschreibung zu erfassen.
  • Design Science Research (DSR): Systematische Entwicklung und Evaluation von Artefakten (z. B. Governance-Dashboards, Entscheidungs-Logs, Audit-Mechanismen) zur Operationalisierung von „Accountability by Design“.

In der IS-Forschung wird DSR als Forschungsparadigma verstanden, das Wissen durch die Konstruktion und Evaluation innovativer Artefakte erzeugt; solche Artefakte können Konstrukte, Modelle, Methoden oder implementierte Instanziierungen umfassen . Für Promotionsvorhaben zur algorithmischen Verantwortung bedeutet dies, dass ein Governance-Dashboard, ein XAI-Erklärungsmodul oder ein Accountability-Framework als explizit theoriebasiertes Artefakt konzipiert werden sollte, dessen Designentscheidungen sich nachvollziehbar aus behavioral-IS-Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) und normativen Anforderungen (z. B. Meaningful Human Control, AI-Governance-Prinzipien) ableiten.

Die Design-Science-Research-Methodology von Peffers et al. bietet hierfür einen prozessualen Rahmen, der Problemidentifikation, Zieldefinition, Design und Entwicklung, Demonstration, Evaluation sowie Kommunikation systematisch miteinander verbindet . Eine methodisch belastbare DSR-Studie zur algorithmischen Verantwortung sollte offenlegen, welcher Artefakttyp entwickelt wird, welche Anforderungen aus behavioral-IS-Theorie und Praxis abgeleitet wurden und anhand welcher Evaluationsformen — etwa Experimente, Fallstudien, Simulationen oder analytische Prüfungen — die Güte des Artefakts beurteilt wird ; .

Besonderes Potenzial liegt in Mixed-Methods-Ansätzen, die Data-Science-Verfahren (z. B. Logfile-Analysen zu tatsächlichen Nutzungsmustern) mit sozialwissenschaftlichen Methoden (Surveys, Experimente, qualitative Analysen) kombinieren, um die Diskrepanz zwischen technischer Systemlogik und beobachtetem Verhalten in Organisationen empirisch zu erfassen .

Herausforderungen und Implikationen für die Forschung

Ein persistentes Kernproblem bleibt die „Black-Box“-Charakteristik vieler KI-Modelle. Trotz Fortschritten im Bereich XAI ist die Umsetzung rechtssicherer und zugleich praktikabler Transparenzanforderungen weiterhin begrenzt, was sich direkt auf Vertrauen, Verantwortlichkeitszuschreibung und Nutzungsmuster auswirkt ; . Gleichzeitig erhöhen regulatorische Entwicklungen, insbesondere durch den EU AI Act, den Druck auf Organisationen, robuste Governance- und Dokumentationsmechanismen zu implementieren .

Vor diesem Hintergrund ergeben sich zentrale Forschungsfragen mit klarem Bezug zu behavioral IS und DSR:

  • Wie beeinflussen Governance-Strukturen und XAI-Features Vertrauen, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung bei unterschiedlichen Nutzergruppen?
  • Welche Artefakte (z. B. Dashboards, Erklärungsschnittstellen, Audit-Trails) eignen sich, um algorithmische Verantwortung in Organisationskontexten operationalisierbar zu machen, und wie lassen sie sich im Sinne von DSR entwickeln und evaluieren?
  • Wie können ethische Prinzipien und regulatorische Anforderungen in verhaltensbezogene Designanforderungen übersetzt und in technisch implementierbare Entscheidungslogiken überführt werden?

Implikationen für die Forschungspraxis

Algorithmische Verantwortung entwickelt sich zu einem zentralen Forschungsfeld der Wirtschaftsinformatik, in dem behavioral IS und DSR komplementäre Perspektiven bieten. Behavioral-IS-Ansätze ermöglichen es, Einstellungen, Wahrnehmungen und Nutzungsmuster im Umgang mit KI-Systemen theoriebasiert zu erfassen und zu erklären, während DSR die Gestaltung und Evaluation von Artefakten vorantreibt, die Accountability, Transparenz und Kontrolle in der Praxis operationalisieren ; .

Für Promovierende bedeutet dies, Forschungsvorhaben so aufzusetzen, dass verhaltensbezogene Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) systematisch mit der Entwicklung von Governance- und XAI-Artefakten verknüpft werden. Entscheidend ist dabei, nicht nur algorithmische Modelle zu analysieren, sondern deren soziotechnische Einbettung und die damit verbundenen Verhaltens- und Governance-Prozesse kritisch zu untersuchen und über Artefakte aktiv mitzugestalten ; .

Literaturverzeichnis

  • Davis, F. D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly, 13(3), 319–340.
  • Venkatesh, V., Thong, J. Y. L., & Xu, X. (2012). Consumer acceptance and use of information technology: Extending the unified theory of acceptance and use of technology. MIS Quarterly, 36(1), 157–178.
  • Rai, A. (2020). Explainable AI: From black box to glass box. Journal of the Academy of Marketing Science, 48(1), 137–141.
  • Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
  • Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, 15.
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105.
  • Peffers, K., Tuunanen, T., Rothenberger, M. A., & Chatterjee, S. (2007). A design science research methodology for information systems research. Journal of Management Information Systems, 24(3), 45–77.
  • European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
Agentische KI: Neue Ära der KI (KI-generiert)
Agentische KI: Neue Ära der KI (KI-generiert)

Die Evolution autonomer Agenten

Die Wirtschaftsinformatik steht an der Schwelle zu einer grundlegenden Transformation: Während generative Sprachmodelle (LLMs) im letzten Jahr primär als dialogbasierte Assistenten wahrgenommen wurden, verschiebt sich der Diskurs im aktuellen Monat hin zu agentischen Systemen. Diese Systeme zeichnen sich dadurch aus, dass sie nicht nur Texte generieren, sondern mittels Werkzeugnutzung, Planung und autonomer Entscheidungsfindung komplexe Geschäftsprozesse eigenständig ausführen können. Für Promotionsstudierende eröffnet dieser Wandel ein hochrelevantes Forschungsfeld, das über die bloße Implementierung hinausgeht und grundlegende Fragen zur Struktur von Arbeit und Organisation aufwirft.

Theoretische Einordnung und Konzepte

Das Konzept der Agency, also die Fähigkeit eines Systems, Handlungsspielräume innerhalb definierter Ziele autonom auszufüllen, bildet das theoretische Herzstück dieses Wandels. Im Vergleich zum Vorjahr, in dem die Forschung stark auf die Nutzerakzeptanz von Chatbots (basierend auf dem TAM oder UTAUT) fokussiert war, rückt nun die soziotechnische Systemtheorie erneut in den Fokus. Es stellt sich die Frage, wie die Kopplung von menschlicher Expertise und algorithmischer Autonomie neu zu kalibrieren ist. Zentrale theoretische Bezugspunkte bilden dabei Konzepte der human-in-the-loop-Architekturen und die principals-agent theory in einer digitalisierten Umgebung, in der der Agent nicht mehr nur ein Mensch, sondern eine Softwareeinheit ist.

Methodische Zugänge und Forschungsdesigns

Die Untersuchung agentischer Systeme erfordert methodische Innovationen. Während quantitative Experimente helfen können, die Effizienzgewinne in standardisierten Prozessen zu quantifizieren, bedarf es für das Verständnis der kollaborativen Dynamik vermehrt qualitativer Längsschnittstudien oder designorientierter Ansätze (Design Science Research). Besonders vielversprechend für Promovierende sind:

  • Design Science Research: Entwicklung und Evaluierung von Artefakten, die als Vermittler zwischen KI-Agenten und menschlichen Entscheidungsträgern fungieren.
  • Ethnografische Studien: Untersuchung der schleichenden Veränderung von Arbeitsprozessen in Organisationen, die bereits erste agentische Workflows implementieren.
  • Vergleichende Fallstudien: Analyse unterschiedlicher Governance-Modelle bei der Einführung von autonom handelnden KI-Systemen in hochregulierten Branchen.

Herausforderungen und Spannungsfelder

Die aktuelle Forschung im Umfeld des AIS Senior Scholars' Basket of Eight verdeutlicht, dass die technologische Machbarkeit den theoretischen Diskurs derzeit überholt. Wesentliche Spannungsfelder, die Raum für Dissertationen bieten, könnten sein:

  • Verantwortlichkeit (Accountability): Wer trägt die Verantwortung bei Fehlentscheidungen eines autonomen Agenten, der in einer Kette von Teilentscheidungen agiert?
  • Transparenz und Erklärbarkeit: Wie lassen sich die Entscheidungspfade komplexer Agenten-Workflows für menschliche Akteure nachvollziehbar machen, ohne die Performance zu beeinträchtigen?
  • Skill-Erosion vs. Empowerment: Führt die Auslagerung komplexer kognitiver Tätigkeiten an Agenten zu einem Verlust menschlicher Kompetenzen oder zu einer Aufwertung der Arbeitsinhalte?

Implikationen für die Praxis und weiterführende Forschung

Für die Forschungspraxis bedeutet der Aufstieg agentischer Systeme eine Abkehr von der reinen Output-Orientierung (Textgenerierung) hin zur Prozess-Orientierung. Praktiker stehen vor der Herausforderung, nicht mehr nur einzelne Werkzeuge zu implementieren, sondern agentische Ökosysteme zu designen. Für Promotionsstudierende ergeben sich hieraus spannende Anknüpfungspunkte: Untersuchen Sie etwa die Governance von KI-Agenten in multinationalen Konzernen oder modellieren Sie die veränderten Arbeitsrollen in Abteilungen wie Controlling oder Beschaffung durch den Einsatz autonomer Systeme. Die aktuelle Debatte lädt dazu ein, die Grenzen des menschlichen Entscheidungshandelns im Kontext einer algorithmisch geprägten Arbeitswelt neu zu definieren.

Publikationen

Soziale Netzwerke

Newsletter - Anmeldung