GoITSystems by Dr. M. Gottlieb
Agentische KI: Delegierte Prozessausführungen (KI-generiert)
Agentische KI: Delegierte Prozessausführungen (KI-generiert)

Generative Künstliche Intelligenz (KI) hat sich innerhalb kurzer Zeit zu einer breit eingesetzten Unterstützungstechnologie entwickelt. Zunächst standen vor allem Anwendungen im Vordergrund, die Texte, Bilder, Softwarecode oder Zusammenfassungen erzeugen. Zunehmend rücken jedoch Systeme in den Fokus, die nicht nur einzelne Inhalte generieren, sondern mehrstufige Aufgaben bearbeiten können: Sie interpretieren Ziele, planen Arbeitsschritte, greifen auf Datenquellen und digitale Werkzeuge zu, bewerten Zwischenergebnisse und lösen innerhalb definierter Grenzen Aktionen aus. Diese Entwicklung wird häufig als agentische KI bezeichnet.

Für die Wirtschaftsinformatik ist damit eine Verschiebung des Erkenntnisinteresses verbunden. Nicht mehr allein die Qualität einzelner KI-Ausgaben steht im Mittelpunkt. Entscheidend wird vielmehr, wie Aufgaben zwischen Menschen und KI-Systemen verteilt werden, wie sich Handlungsspielräume technisch und organisatorisch begrenzen lassen und wie Transparenz, Kontrolle sowie Verantwortlichkeit in KI-gestützten Prozessen sichergestellt werden können. Agentische Informationssysteme werden deshalb zunehmend als eigenständiger Gegenstand der Forschung zu Delegation, Koordination, Governance und Mensch-KI-Zusammenarbeit betrachtet (; ).

Was ist agentische KI?

Agentische KI ist keine einzelne Technologie und auch kein Synonym für ein großes Sprachmodell. Der Begriff bezeichnet vielmehr eine Klasse KI-basierter Systeme, die innerhalb vorgegebener Ziele, Regeln und Berechtigungen eigenständig Teilaufgaben planen und ausführen können. Typische Fähigkeiten umfassen die Zerlegung eines Ziels in Teilaufgaben, die Auswahl geeigneter Werkzeuge, den Zugriff auf zugelassene Informationsquellen, die Bewertung von Zwischenergebnissen sowie die Anpassung eines Vorgehens bei Abweichungen oder neuen Informationen.

Ein klassisches Assistenzsystem reagiert in der Regel auf einen einzelnen Prompt und liefert beispielsweise eine Zusammenfassung, einen Textentwurf oder eine Analyse. Ein agentisches System kann dagegen einen zusammenhängenden Prozess bearbeiten. Es könnte etwa einen Antrag auf Vollständigkeit prüfen, Informationen aus mehreren Fachverfahren zusammenführen, fehlende Unterlagen identifizieren, einen Entwurf für eine Rückfrage erstellen, einen Vorgang zur Freigabe vorlegen und nach menschlicher Bestätigung weitere zulässige Prozessschritte auslösen.

Der wesentliche Unterschied liegt damit in der delegierten Prozessausführung. Nutzende definieren nicht zwingend jede Einzelaktion, sondern legen Ziele, Regeln, Datenzugriffe, Werkzeugberechtigungen, Qualitätsanforderungen und Eskalationsmechanismen fest. Das System erhält dadurch begrenzte technische Handlungsspielräume. Diese technische Handlungsfähigkeit darf jedoch nicht mit menschlicher oder organisationaler Verantwortlichkeit verwechselt werden. Ein KI-System kann Handlungen vorbereiten oder ausführen, aber weder rechtliche noch moralische Verantwortung übernehmen.

Holldack, Banh und Strobel unterscheiden agentische Informationssysteme von traditionell reaktiven Informationssystemen dadurch, dass sie Entscheidungen treffen, in unstrukturierten Umgebungen handeln und neue Formen der Aufgabenübertragung zwischen Menschen und Systemen ermöglichen können (). Damit wird die bisher in der Wirtschaftsinformatik häufig vorausgesetzte Primärrolle des Menschen als alleiniger handelnder Akteur herausgefordert, ohne dass Verantwortung oder Legitimation auf technische Systeme übergehen.

Vom Werkzeug zum Prozessakteur

Die Einführung agentischer KI verändert die Gestaltung digitaler Arbeit. Während herkömmliche Informationssysteme Daten verarbeiten, Informationen bereitstellen oder klar definierte Transaktionen ausführen, können agentische Systeme Teile der Planungs- und Koordinationsarbeit übernehmen. Sie werden damit nicht zu gleichberechtigten menschlichen Akteuren, wohl aber zu technisch handlungsfähigen Bestandteilen eines sozio-technischen Arbeitssystems.

Diese Entwicklung lässt sich als Übergang von der punktuellen Assistenz zur strukturierten Delegation beschreiben. Die relevante Frage lautet nicht mehr nur: „Kann das System eine gute Antwort erzeugen?“ Ebenso wichtig sind die Fragen: „Welche Aufgabe darf delegiert werden?“, „Welche Handlungen muss ein Mensch vorab freigeben?“, „Wie werden Entscheidungen und Werkzeugaufrufe dokumentiert?“ und „Wer ist für Folgen verantwortlich, wenn ein System fehlerhaft oder unerwartet handelt?“

Die aktuelle Diskussion in der Behavioral-IS-Forschung verweist darauf, dass KI die Forschungslandschaft entlang mehrerer Dimensionen verändert. Neben einer agentischen Verschiebung, bei der Systeme Handlungen vorbereiten oder ausführen, treten eine epistemische Verschiebung durch probabilistische und teilweise intransparente Systemleistungen sowie eine kognitive Verschiebung durch die wiederholte Nutzung KI-gestützter Denk- und Entscheidungsunterstützung (). Für Organisationen bedeutet dies, dass die Einführung agentischer KI nicht als isoliertes IT-Projekt, sondern als Veränderung von Entscheidungsrechten, Kompetenzen, Routinen und Kontrollstrukturen behandelt werden sollte.

Theoretische Perspektiven

Die Wirtschaftsinformatik verfügt über mehrere theoretische Zugänge, um agentische KI zu untersuchen. Besonders relevant sind die sozio-technische Systemperspektive, der Task-Technology-Fit-Ansatz, die Forschung zu Vertrauen in Automation sowie IT-Governance- und Accountability-Perspektiven.

Die sozio-technische Systemperspektive betont, dass Arbeitsleistung nicht durch Technologie allein entsteht. Entscheidend ist das Zusammenspiel von Menschen, Aufgaben, Daten, Technologien, Regeln, Qualifikationen und organisationalen Routinen. Agentische KI verändert diese Konstellation, weil sie nicht nur Informationen bereitstellt, sondern innerhalb definierter Grenzen Aufgaben plant, priorisiert, vorbereitet oder ausführt. Die technische Leistungsfähigkeit eines Systems ist daher nur eine Bedingung seines Nutzens. Ebenso wichtig sind die organisatorische Einbettung, die Qualität der zugrunde liegenden Daten, geeignete Rollenmodelle und klar definierte Eskalationswege.

Der Task-Technology-Fit-Ansatz verdeutlicht, dass Informationstechnologie dann besonders wirksam ist, wenn ihre Funktionalitäten zu den Merkmalen einer Aufgabe und zu den Bedürfnissen der Nutzenden passen (). Bei agentischer KI umfasst diese Passung nicht nur die Fähigkeit eines Systems, eine Aufgabe technisch auszuführen. Sie betrifft auch den angemessenen Grad der Delegation. Routinisierte, reversible und gut prüfbare Tätigkeiten können gegebenenfalls weitgehend automatisiert werden. Folgenreiche, schwer reversible oder stark kontextabhängige Entscheidungen erfordern dagegen engere Kontroll- und Freigabemechanismen.

Die Forschung zu Vertrauen in Automation ergänzt diese Perspektive. Vertrauen ist nicht grundsätzlich positiv, sondern muss dem tatsächlichen Leistungsvermögen und den Grenzen eines Systems entsprechen. Zu starkes Vertrauen kann zu einer unkritischen Übernahme von Systemvorschlägen führen; zu geringes Vertrauen kann verhindern, dass sinnvolle Unterstützung tatsächlich genutzt wird. Lee und See bezeichnen dies als angemessenes Vertrauen beziehungsweise angemessene Reliance (). Bei agentischer KI ist diese Herausforderung besonders ausgeprägt, da Fehler nicht nur in einem einzelnen Ergebnis auftreten, sondern sich über mehrstufige Planungen, Datenzugriffe und Werkzeugaufrufe fortsetzen können.

Forschung und Gestaltung agentischer Systeme

Agentische KI eröffnet ein breites Forschungsfeld für die Wirtschaftsinformatik. Besonders geeignet ist ein gestaltungsorientierter Forschungszugang. Design Science Research zielt darauf ab, relevante Probleme durch innovative Artefakte zu adressieren und deren Nutzen systematisch zu evaluieren (). Für agentische KI können solche Artefakte technische, organisatorische oder hybride Gestaltungsobjekte sein.

Denkbar sind beispielsweise Referenzarchitekturen für die sichere Nutzung von Werkzeugen, Rollen- und Berechtigungskonzepte für KI-Agenten, Audit-Trails zur Dokumentation von Planungsschritten, Muster für risikoadäquate Freigaben oder Verfahren zur Klassifikation von Aufgaben nach Delegierbarkeit. Ein DSR-Projekt könnte etwa untersuchen, wie ein KI-Agent in einem Verwaltungsprozess Anträge vorprüft, fehlende Informationen erkennt und standardisierte Rückfragen vorbereitet, ohne rechtsverbindliche Entscheidungen selbstständig zu treffen.

Neben Design Science Research sind experimentelle Designs und Fallstudien relevant. Experimente eignen sich, um beispielsweise die Wirkung verschiedener Transparenz- oder Freigabemechanismen auf Aufgabenqualität, Bearbeitungszeit, Fehlererkennung und Vertrauen zu untersuchen. Fallstudien ermöglichen es, die Einführung agentischer Systeme im realen organisatorischen Kontext nachzuvollziehen. Im Mittelpunkt stehen dann Veränderungen von Rollen, Routinen, Entscheidungsrechten, Kompetenzanforderungen und Koordinationsprozessen.

Eine belastbare Evaluation agentischer KI sollte nicht bei der Qualität eines finalen Outputs enden. Sie sollte auch untersuchen, ob das System seine Handlungsschritte nachvollziehbar dokumentiert, ob Eskalationen zur richtigen Zeit erfolgen, ob menschliche Eingriffe wirksam sind, wie robust das System bei unvollständigen oder widersprüchlichen Informationen reagiert und ob die technische Delegation zu einer tatsächlichen Verbesserung des Arbeitssystems führt.

Governance und menschliche Aufsicht

Je größer die technischen Handlungsspielräume eines KI-Systems sind, desto wichtiger werden Governance-Mechanismen. Governance umfasst hier nicht nur rechtliche Vorgaben. Sie umfasst auch organisatorische Regeln, technische Schutzvorkehrungen, Rollen- und Berechtigungskonzepte, Dokumentationspflichten, Freigabeprozesse, Eskalationswege und Kontrollmöglichkeiten.

Eine zentrale Gestaltungsaufgabe besteht darin, menschliche Aufsicht wirksam und nicht nur formal auszugestalten. Bei Human-in-the-loop prüft oder genehmigt ein Mensch eine Handlung vor ihrer Ausführung. Bei Human-on-the-loop überwacht eine zuständige Person den Betrieb und greift bei Ausnahmen, Warnungen oder Fehlverhalten ein. Bei Human-in-command verbleibt die übergeordnete Entscheidungs- und Verantwortungsbefugnis stets bei menschlichen Rollen und der verantwortlichen Organisation.

Der europäische AI Act verlangt für Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht. Diese muss unter anderem ermöglichen, die Fähigkeiten und Grenzen eines Systems zu verstehen, potenzielle Anomalien zu erkennen, Automatisierungsbias zu vermeiden, Systemausgaben zu übersteuern und den Betrieb eines Systems bei Bedarf sicher zu unterbrechen (). Diese Anforderungen sind auch dort ein sinnvolles Gestaltungsprinzip, wo der AI Act keine spezifische Aufsichtspflicht begründet.

Für einen systematischen Umgang mit Risiken bietet der AI Risk Management Framework des National Institute of Standards and Technology einen lebenszyklusorientierten Orientierungsrahmen. Das ergänzende Profil für generative KI adressiert spezifische Risiken generativer Systeme und unterstützt Organisationen dabei, Risiken bei Konzeption, Entwicklung, Einsatz und kontinuierlicher Überwachung zu berücksichtigen (). Bei agentischen Systemen müssen zusätzlich Risiken aus der Verknüpfung von Modellen, Datenquellen, Werkzeugen, Berechtigungen und Prozesslogik bewertet werden.

Aktuelle Forschungssignale aus dem AIS Senior Scholars’ Basket of Eight

Die jüngsten öffentlich sichtbaren Beiträge aus den Zeitschriften des AIS Senior Scholars’ Basket of Eight weisen auf eine deutliche Verschiebung hin: KI-gestützte Entscheidungsarbeit, verantwortungsvolle Plattform- und Daten-Governance sowie menschzentrierte Digitalisierung gewinnen an Bedeutung. Zugleich bleiben digitale Gesundheit, Cyber- und Informationssicherheit sowie die methodische Fundierung digitaler Innovation wichtige Forschungsschwerpunkte.

Diese Einordnung ist bewusst selektiv. Die Verlagsseiten der acht Zeitschriften unterscheiden sich hinsichtlich Aktualität, Vollständigkeit und Zugänglichkeit ihrer Heft-, Artikel- und Online-first-Verzeichnisse. Die nachfolgende Auswahl konzentriert sich daher auf jüngere Beiträge, deren Titel, Zeitschriftenzuordnung, Publikationsstatus und bibliografische Grunddaten eindeutig verifiziert werden konnten.

Mensch-KI-Kollaboration und verantwortliche Entscheidungsunterstützung

Mehrere aktuelle Forschungsbeiträge rücken von einer reinen Ersetzungslogik ab, nach der Algorithmen menschliche Entscheidungen ersetzen sollen. Stattdessen untersuchen sie, wie Informationen über Systemleistung, Entscheidungsprozesse und Grenzen einer algorithmischen Empfehlung die Zusammenarbeit von Menschen und KI verbessern können.

Eine aktuelle Studie in Information Systems Research untersucht, ob Informationen über die Leistungsfähigkeit eines algorithmischen Entscheidungssystems menschliche Entscheidungen bei der Bestandsdisposition verbessern können. Die Untersuchung basiert auf Feldexperimenten und zeigt, dass sowohl positive als auch negative Leistungsinformationen die Bestellentscheidungen menschlicher Führungskräfte verbessern können. Besonders deutlich fiel der Effekt bei negativen Leistungsinformationen aus ().

Für agentische KI und die Digitalisierung der öffentlichen Verwaltung ist dieses Ergebnis besonders relevant. Transparenz darf nicht auf die Offenlegung einer Empfehlung oder einer nachträglichen Erklärung reduziert werden. Beschäftigte benötigen vielmehr nachvollziehbare Informationen über empirisch beobachtete Systemleistung, Fehlergrenzen, Unsicherheiten und bekannte Einschränkungen. Solche Informationen können eine angemessene Reliance auf algorithmische Empfehlungen fördern und helfen, sowohl Automatisierungsbias als auch eine pauschale Ablehnung KI-gestützter Entscheidungen zu vermeiden.

Auch ein aktueller Beitrag in MIS Quarterly verdeutlicht die Bedeutung datengetriebener Systeme für organisationale Steuerung und Compliance. Der Artikel Can Business Intelligence Help Companies Avoid Compliance Troubles? untersucht, inwiefern Business-Intelligence-Fähigkeiten Organisationen dabei unterstützen können, Compliance-Herausforderungen besser zu bewältigen, Risikomanagementpraktiken zu stärken und regulatorische Anforderungen einzuhalten (). Für Verwaltung und regulierte Organisationen ist dies besonders anschlussfähig, da Business Intelligence mit Frühwarnung, Nachweisführung, Kontrolle und Rechenschaftslegung verbunden wird.

Digitale Plattformen, Ökosysteme und Machtstrukturen

Die aktuelle Forschung untersucht digitale Plattformen weiterhin sowohl als Innovationsinfrastrukturen als auch als Governance- und Machtstrukturen. Plattformen ermöglichen neue Nutzungsformen, ergänzende Dienstleistungen und Wertschöpfung durch modulare sowie vernetzte digitale Architekturen. Zugleich beeinflussen Plattformbetreiber den Zugang zu Daten, Interoperabilität, Regelsetzung und die Verteilung von Wertschöpfung innerhalb digitaler Ökosysteme.

Für öffentliche Organisationen sind diese Perspektiven besonders wichtig bei der Bewertung von Cloud-Plattformen, gemeinsamen Basisdiensten, modularen Fachverfahren und KI-Infrastrukturen. Plattformstrategien sollten daher nicht allein nach Funktionalität, Umsetzungsgeschwindigkeit oder Effizienz beurteilt werden. Ebenso erforderlich ist eine Bewertung von Interoperabilität, Datenportabilität, Abhängigkeitsrisiken, Governance-Rechten, Beschaffungsoptionen und langfristiger Steuerungsfähigkeit über kritische digitale Fähigkeiten.

Generative und agentische KI verschärfen diese Fragen. Der Zugang zu Basismodellen, Trainingsdaten, Cloud-Infrastruktur und Programmierschnittstellen konzentriert sich zunehmend bei einer begrenzten Zahl von Anbietern. Plattform-Governance muss deshalb über technische Architekturfragen hinausgehen und ökonomische Abhängigkeiten, Datensouveränität, Auditierbarkeit und die Verteilung von Entscheidungsrechten berücksichtigen.

Vertrauen, Akzeptanz und digitales Verhalten

Ein weiterer Forschungsstrang verdeutlicht, dass die Wirkung digitaler Systeme nicht allein von technischer Funktionalität abhängt. Vertrauen, wahrgenommene Fairness, Aufmerksamkeit, emotionale Verarbeitung und die Interpretation von Informationssignalen beeinflussen, ob digitale Angebote akzeptiert und sachgerecht genutzt werden. Diese Erkenntnis betrifft digitale Bezahlverfahren, Plattformen, Online-Kommunikation und KI-gestützte Verwaltungsleistungen gleichermaßen.

Für digitale Verwaltungsleistungen folgt daraus, dass Kommunikation, Erklärbarkeit und wahrgenommene Verfahrensgerechtigkeit keine nachgelagerten Usability-Themen sind. Sie bilden Voraussetzungen für Akzeptanz, sachgerechte Nutzung und institutionelle Legitimität. Eine technisch korrekte Empfehlung kann ihren Nutzen verfehlen, wenn betroffene Personen, Sachbearbeitende oder Entscheidungstragende nicht nachvollziehen können, wie sie entstanden ist, sie als unfair wahrnehmen oder keine sinnvolle Möglichkeit zur Rückfrage, Überprüfung oder Korrektur erhalten.

Agentische KI erhöht die Bedeutung dieser Anforderungen. Wenn Systeme nicht nur Empfehlungen erzeugen, sondern Prozessschritte planen, priorisieren oder technisch ausführen, müssen Menschen erkennen können, welche Ziele das System verfolgt, welche Informationsquellen es nutzt, welche Annahmen seiner Planung zugrunde liegen und an welcher Stelle eine menschliche Entscheidung erforderlich ist.

Resiliente Arbeits- und Sicherheitspraktiken

Die Forschung weist zugleich auf die Belastungsseite der Digitalisierung hin. Digitale Arbeitspraktiken, Sicherheitsanforderungen und Prozessstandards verbessern Leistung oder Wohlbefinden nicht automatisch. Ihre Wirkungen hängen davon ab, ob sie zum Arbeitskontext passen, tatsächliche Aufgaben unterstützen und vermeidbare kognitive sowie administrative Belastungen reduzieren.

Besonders relevant ist in diesem Zusammenhang die Forschung zu Sicherheitsmüdigkeit. Malik, Goel und Sinha konzeptualisieren Security Fatigue als Ausdruck emotionaler Erschöpfung und Zynismus, die aus einer erschöpften Selbstregulationskapazität entstehen (). Daraus folgt, dass zusätzliche Sicherheitsvorgaben, Warnmeldungen und Compliance-Anforderungen nicht automatisch zu besserer Sicherheit führen. Sicherheitsgestaltung sollte vielmehr arbeitsintegriert erfolgen, kontextbezogene Hilfen bieten, sinnvolle Standardeinstellungen nutzen, Routinekontrollen automatisieren und unnötige Unterbrechungen reduzieren.

Diese Überlegung ist für agentische KI unmittelbar relevant. Wenn KI-Agenten zusätzliche Prüfaufgaben, Freigabeanfragen, Ausnahmehinweise oder Überwachungspflichten erzeugen, muss die daraus entstehende Aufsichtsarbeit praktisch leistbar bleiben. Menschliche Aufsicht ist nur dann wirksam, wenn verantwortliche Personen über ausreichende Zeit, verständliche Informationen, passende Eingriffsrechte und tatsächlich nutzbare Interventionsmöglichkeiten verfügen.

Methodische Fundierung digitaler Innovation

Methodische Beiträge bleiben zentral, weil Organisationen von KI- und Digitalisierungsinitiativen zunehmend einen nachvollziehbaren Nutzen erwarten, der über technische Machbarkeit hinausgeht. Die Entwicklung von KI-Assistenten, Prozesswerkzeugen, digitalen Plattformen und agentischen Systemen erfordert deshalb Evaluationsdesigns, die wissenschaftlich belastbar und zugleich in anwendungsnahen Kontexten umsetzbar sind.

Baskerville, Pries-Heje und Venable stellen mit MEDS eine Methodik zur Evaluation in der Design-Science-Forschung vor. MEDS umfasst vier Schritte: die Festlegung von Evaluationszielen, die Auswahl einer Evaluationsstrategie, die Auswahl zu bewertender Eigenschaften sowie die Planung einzelner Evaluationsepisoden (). Die Methodik ist für KI-gestützte Artefakte besonders relevant, da sie dabei unterstützt, Evaluationskriterien zu priorisieren und den Evaluationsaufwand an Reifegrad, Risikoprofil und vorgesehenem Einsatzbereich eines Artefakts auszurichten.

Für agentische KI sollte Evaluation deshalb deutlich mehr als Output-Qualität oder technische Genauigkeit berücksichtigen. Relevante Evaluationsdimensionen umfassen die zuverlässige Aufgabenerledigung, Robustheit, Nachvollziehbarkeit, Qualität von Eskalationen, Wirksamkeit menschlicher Interventionen, Fairness, Informationssicherheit, Ressourcenverbrauch sowie Auswirkungen auf organisationale Routinen und menschliche Expertise.

Zentrale Forschungsfragen

Aus der Entwicklung und Einführung agentischer KI ergeben sich für Forschung und Praxis mehrere zentrale Fragen:

  • Delegation: Nach welchen Kriterien können Organisationen entscheiden, ob eine Aufgabe durch einen KI-Agenten vorbereitet, unter menschlicher Aufsicht ausgeführt oder nicht delegiert werden darf?
  • Transparenz: Welche Informationen über Ziele, Planungen, Datenzugriffe, Werkzeugaufrufe, Leistungsgrenzen und Unsicherheit benötigen Menschen, um Systemverhalten angemessen bewerten zu können?
  • Vertrauen: Wie lassen sich Interaktions- und Erklärungsformen gestalten, die weder unkritische Reliance noch eine pauschale Ablehnung KI-gestützter Prozessausführung fördern?
  • Kompetenz: Welche langfristigen Folgen hat die Delegation kognitiver Planungs- und Koordinationsaufgaben für fachliches Urteilsvermögen, Lernprozesse und Expertise von Wissensarbeitenden?
  • Accountability: Wie können Handlungen entlang einer Kette aus menschlichen Vorgaben, agentischer Planung, Datenzugriffen, Werkzeugnutzung und Freigaben nachvollziehbar dokumentiert und verantwortlichen Rollen zugerechnet werden?
  • Plattform-Governance: Wie können öffentliche Organisationen Interoperabilität, Datensouveränität, Portabilität und Steuerungsfähigkeit sichern, wenn zentrale KI-Funktionen über externe Plattformen und Infrastrukturen bezogen werden?
  • Resilienz: Wie müssen agentische Systeme gestaltet sein, damit sie bei fehlerhaften Daten, widersprüchlichen Anweisungen, unerwarteten Werkzeugantworten oder missbräuchlichen Eingaben kontrolliert reagieren?
  • Evaluation: Welche technischen, organisatorischen, ethischen und rechtlichen Kriterien sind erforderlich, um Nutzen und Risiken agentischer Systeme über Pilotierung und Produktivbetrieb hinweg nachvollziehbar zu bewerten?

Implikationen für die Verwaltungsdigitalisierung

Zusammengenommen ergeben die aktuellen Forschungssignale fünf praktische Implikationen für die Verwaltungsdigitalisierung und die Gestaltung agentischer Informationssysteme:

  • KI als nachvollziehbare Entscheidungsunterstützung gestalten: KI-gestützte Empfehlungen sollten transparent, überprüfbar und in klar definierte Entscheidungsrechte eingebettet sein. Informationen über Systemleistung, Unsicherheit und bekannte Grenzen fördern eine angemessene Nutzung.
  • Analytik mit Governance verbinden: Business Intelligence, Process Mining und KI-Analytik sollten Frühwarnung, Nachweisführung, Compliance-Monitoring und organisatorisches Lernen unterstützen, statt lediglich Dashboards oder isolierte Vorhersagen bereitzustellen.
  • Plattformen strategisch bewerten: Plattformentscheidungen erfordern eine Analyse von Interoperabilität, Datenportabilität, Datenzugang, vertraglicher Governance, Abhängigkeitsrisiken und langfristiger Steuerungsfähigkeit über kritische digitale Fähigkeiten.
  • Arbeitsbelastung reduzieren statt verlagern: Digitale Prozesse, Sicherheitskontrollen und KI-Aufsichtsmechanismen sollten unnötige Unterbrechungen und administrative Lasten senken, statt unsichtbare Koordinations- und Kontrollarbeit auf Beschäftigte zu verlagern.
  • Artefakte systematisch evaluieren: KI- und Digitalisierungsprojekte sollten frühzeitig messbare Evaluationskriterien definieren und technische, organisatorische, ethische sowie rechtliche Wirkungen während Entwicklung, Pilotierung und Betrieb prüfen.

Fazit

Agentische KI erweitert generative KI um die Fähigkeit zur begrenzten, technisch ermöglichten Prozessausführung. Dadurch entsteht kein autonom verantwortlicher Akteur, wohl aber ein Informationssystem mit erweiterten Planungs-, Koordinations- und Handlungsmöglichkeiten. Für die Wirtschaftsinformatik verlagert sich der Fokus damit von der isolierten Bewertung von KI-Ausgaben auf die Gestaltung hybrider Arbeitssysteme, in denen Menschen und KI unterschiedliche, klar abgegrenzte Aufgaben übernehmen.

Die jüngeren Forschungssignale aus den Zeitschriften des AIS Senior Scholars’ Basket of Eight stützen diese Einordnung. Sie verweisen auf die Bedeutung von menschzentrierter Entscheidungsunterstützung, verantwortungsvoller Daten- und Plattform-Governance, resilienten Arbeits- und Sicherheitspraktiken sowie methodisch belastbarer Evaluation. KI wird damit nicht als selbstgenügsame Automatisierungstechnologie betrachtet, sondern als Bestandteil sozio-technischer Systeme, deren Nutzen von Aufgabenpassung, Transparenz, Kontrolle, Kompetenz und institutioneller Einbettung abhängt.

Der Nutzen agentischer KI hängt daher nicht allein von Modellleistung oder Automatisierungsgrad ab. Entscheidend sind eine aufgabengerechte Delegation, transparente Systemgrenzen, wirksame menschliche Aufsicht, belastbare Governance-Strukturen und eine nachvollziehbare Zurechnung von Verantwortung. Gerade darin liegt ein zentrales Forschungs- und Gestaltungsfeld für die Wirtschaftsinformatik: Agentische Systeme so zu entwickeln und einzusetzen, dass sie menschliche Arbeit sinnvoll erweitern, ohne Kontrollfähigkeit, Expertise und Verantwortlichkeit zu untergraben.

Literatur

  • Baskerville, R., Pries-Heje, J., & Venable, J. R. (2026). MEDS: Methodology for evaluation in design science. European Journal of Information Systems. Advance online publication. https://doi.org/10.1080/0960085X.2026.2627280
  • Europäische Union. (2024). Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz). Amtsblatt der Europäischen Union, L 1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
  • Goodhue, D. L., & Thompson, R. L. (1995). Task-technology fit and individual performance. MIS Quarterly, 19(2), 213–236. https://doi.org/10.2307/249689
  • Grover, V., & Tarafdar, M. (2026). The changing landscape of behavioral IS research: Navigating agentic, epistemic, and cognitive shifts. Journal of the Association for Information Systems, 27(3), 568–580. https://doi.org/10.17705/1jais.00994
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105. https://doi.org/10.2307/25148625
  • Holldack, F., Banh, L., & Strobel, G. (2026). Agentic information systems. Electronic Markets, 36, Article 5. https://doi.org/10.1007/s12525-025-00861-0
  • Kumar, N., Wang, X., & Hanneke, R. (2026). Agentic artificial intelligence as a new frontier in information systems: Promise, peril, and research opportunities. Information & Management, 63, Article 104317. https://doi.org/10.1016/j.im.2026.104317
  • Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
  • Liu, Y., et al. (2025). Can providing algorithmic performance information facilitate humans’ inventory ordering behaviors? Information Systems Research 37 (1), 1-19, https://doi.org/10.1287/isre.2022.0621
  • Malik, A., Goel, S., & Sinha, S. (2026). Security fatigue: Manifestation of emotional exhaustion and cynicism by depletion of self-regulation capacity. European Journal of Information Systems. 35(5), 785-804, https://doi.org/10.1080/0960085X.2026.2621809
  • National Institute of Standards and Technology. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.600-1
  • Peffers, K., Tuunanen, T., Rothenberger, M. A., & Chatterjee, S. (2007). A design science research methodology for information systems research. Journal of Management Information Systems, 24(3), 45–77. https://doi.org/10.2753/MIS0742-1222240302
  • Trist, E. L., & Bamforth, K. W. (1951). Some social and psychological consequences of the longwall method of coal-getting: An examination of the psychological situation and defences of a work group in relation to the social structure and technological content of the work system. Human Relations, 4(1), 3–38. https://doi.org/10.1177/001872675100400101
  • Zhang, Y., et al. (2026). Can business intelligence help companies avoid compliance troubles? MIS Quarterly.  https://doi.org/10.25300/MISQ/2026/19073/3861
Algorithmische Führung bruach menschliche Verantwortung (KI-generiert)
Algorithmische Führung bruach menschliche Verantwortung (KI-generiert)

Einleitung: Algorithmische Steuerung von Arbeit und Führung

Algorithmic Management bezeichnet den Einsatz datenbasierter, regel- oder lernbasierter Systeme zur Unterstützung, Vorbereitung oder teilweisen Automatisierung von Managementaufgaben. Dazu zählen insbesondere die Zuweisung und Priorisierung von Aufgaben, Leistungsbewertung, Koordination, Überwachung sowie die Ausgestaltung von Anreiz- und Kontrollmechanismen. Algorithmisches Management ist damit nicht auf Plattformarbeit beschränkt, sondern gewinnt auch in wissensintensiven Organisationen, in der Personalsteuerung und in datengetriebenen Entscheidungsprozessen an Bedeutung. ()

Von generativer künstlicher Intelligenz ist Algorithmic Management analytisch abzugrenzen: Generative KI dient primär der Erzeugung oder Transformation von Inhalten, während algorithmische Managementsysteme Arbeitsprozesse strukturieren, Entscheidungen vorbereiten oder Verhalten beeinflussen können. In der Praxis können beide Systemtypen jedoch zusammenwirken, etwa wenn generative KI bei der Aufgabenformulierung eingesetzt wird und algorithmische Systeme zugleich Arbeitsaufträge priorisieren oder Leistungsmuster auswerten.

Für die Wirtschaftsinformatik ist das Themenfeld besonders relevant, weil es die Gestaltung von Organisation, Technologie und Arbeit miteinander verbindet. Im Mittelpunkt stehen Fragen nach der Verteilung von Entscheidungskompetenzen, nach der Erhaltung menschlicher Handlungsspielräume sowie nach der Rechenschaftspflicht für Entscheidungen, die durch algorithmische Systeme vorbereitet oder beeinflusst werden. Algorithmic Management sollte daher als soziotechnisches Phänomen verstanden werden, bei dem technische Funktionen, organisationale Regeln und menschliche Interpretationsleistungen wechselseitig aufeinander einwirken.

Theoretische Einbettung und Konzepte

Eine tragfähige theoretische Einbettung kann über die Soziomaterialität erfolgen. Dieser Ansatz betont, dass soziale Praktiken und technische Artefakte nicht unabhängig voneinander betrachtet werden sollten, sondern in der organisationalen Praxis miteinander verschränkt entstehen. Für Algorithmic Management bedeutet dies: Die Wirkungen eines Systems ergeben sich nicht allein aus seinem Modell, seinen Daten oder seinen Optimierungszielen. Sie entstehen ebenso durch Regeln der Nutzung, Deutungen von Führungskräften und Beschäftigten, Eskalationswege sowie die konkrete Möglichkeit, algorithmische Empfehlungen zu prüfen, zu korrigieren oder zurückzuweisen ().

Ergänzend eignet sich die Perspektive der Technology Affordances. Affordanzen beschreiben Handlungsmöglichkeiten, die aus dem Zusammenspiel technischer Eigenschaften und der Fähigkeiten, Ziele und Interpretationen von Akteur:innen hervorgehen. Algorithmische Systeme können beispielsweise Affordanzen zur Skalierung von Koordination, zur frühzeitigen Erkennung von Mustern oder zur konsistenten Dokumentation eröffnen. Gleichzeitig können sie Kontrollintensität erhöhen, einseitige Zieloptimierungen verstärken oder Beschäftigte zu strategischer Anpassung an messbare Kennzahlen veranlassen ().

Die Forschung zu hybrider Intelligenz richtet den Blick auf die komplementäre Zusammenarbeit von Menschen und KI-Systemen. Im Kontext algorithmischer Führung ist entscheidend, welche Aufgaben an das System delegiert werden, welche Entscheidungen bei Führungskräften oder Beschäftigten verbleiben und wie begründete Abweichungen von algorithmischen Empfehlungen möglich sind. Eine menschengerechte Gestaltung setzt daher nicht lediglich „Human-in-the-Loop“ voraus, sondern klare Zuständigkeiten, ausreichende Kompetenz, angemessene Entscheidungsrechte und wirksame Interventionsmöglichkeiten ().

Forschungsfragen und Methoden

Algorithmic Management eignet sich besonders für Mixed-Methods-Forschung, weil technische Eigenschaften, organisationale Gestaltungsentscheidungen und subjektive Erfahrungen gemeinsam untersucht werden müssen. Quantitative Erhebungen können beispielsweise Zusammenhänge zwischen wahrgenommener algorithmischer Kontrolle, Transparenz, Vertrauen, Leistung, Belastung oder organisationaler Gerechtigkeit analysieren. Qualitative Methoden wie Interviews, Fallstudien, digitale Ethnographien oder Grounded-Theory-Ansätze ermöglichen es hingegen, Aneignungspraktiken, Umgehungsstrategien, Aushandlungsprozesse und Deutungsmuster von Beschäftigten und Führungskräften zu rekonstruieren.

Ein sequenzielles exploratives Mixed-Methods-Design könnte zunächst anhand qualitativer Fallstudien relevante Wahrnehmungs- und Gestaltungskategorien identifizieren. Darauf aufbauend ließen sich diese Kategorien in einer quantitativen Befragung oder einem Feldexperiment prüfen. Ein konvergentes Design wäre sinnvoll, wenn Logdaten, Befragungsdaten und Interviewmaterial parallel erhoben und anschließend integriert werden sollen. Dabei sollte die Untersuchungseinheit klar bestimmt werden: Einzelne Beschäftigte, Teams, Führungskräfte, konkrete algorithmische Entscheidungen oder organisationale Governance-Arrangements.

Mögliche Fragestellungen für Promotionsvorhaben

  • Wie beeinflussen Transparenz, Erklärbarkeit und Übersteuerbarkeit algorithmischer Empfehlungen die intrinsische Motivation und das Vertrauen von Beschäftigten in wissensintensiven Organisationen?
  • Welche soziotechnischen Designprinzipien ermöglichen eine nachvollziehbare und als fair wahrgenommene automatisierte Zuweisung von Aufgaben?
  • Wie verändern algorithmisch vorbereitete Leistungsbewertungen die wahrgenommene organisationale Gerechtigkeit, insbesondere Verfahrens-, Interaktions- und Ergebnisgerechtigkeit?
  • Unter welchen Bedingungen erweitern algorithmische Systeme die Handlungsmöglichkeiten von Führungskräften und Beschäftigten, und unter welchen Bedingungen reduzieren sie deren Handlungsspielräume?
  • Wie können Auditierbarkeit, Dokumentation und Eskalationsmechanismen gestaltet werden, damit Verantwortlichkeit bei KI-gestützten Managemententscheidungen nicht diffuser wird?

Herausforderungen und Governance

Ein zentrales Spannungsfeld besteht zwischen Effizienzgewinnen durch Standardisierung und dem Erhalt professioneller Urteilskraft. Wenn Systeme Aufgaben zuteilen, Arbeitsleistung bewerten oder Prioritäten festlegen, besteht das Risiko, dass formalisierbare Kennzahlen gegenüber schwer messbaren, aber für die Organisationsleistung relevanten Tätigkeiten übergewichtet werden. Zugleich können Beschäftigte die algorithmische Bewertung als intransparent oder nicht anfechtbar erleben. Die Forschung zu Algorithmic Management verweist deshalb auf Konflikte zwischen Kontrolle und Autonomie, zwischen organisationaler Effizienz und individueller Würde sowie zwischen technischen Optimierungszielen und pluralen Wertvorstellungen ().

Besondere Bedeutung kommt der Accountability zu. Rechenschaftspflicht setzt voraus, dass Verantwortlichkeiten nicht hinter technischen Systemen verschwinden. Organisationen benötigen nachvollziehbare Entscheidungswege, dokumentierte Daten- und Modellannahmen, klar benannte Entscheidungsträger:innen sowie wirksame Verfahren zur Prüfung und Korrektur problematischer Ergebnisse. Für KI-gestützte Entscheidungen im Beschäftigungskontext gewinnen diese Anforderungen auch regulatorisch an Gewicht. Der europäische AI Act enthält für Hochrisiko-KI-Systeme unter anderem Vorgaben zu Transparenz, menschlicher Aufsicht, Monitoring und der Information betroffener Beschäftigter ().

Algorithmische Verzerrungen dürfen dabei nicht allein als technisches Datenqualitätsproblem verstanden werden. Verzerrungen können durch historische Daten, fehlerhafte oder unvollständige Zielgrößen, ungleiche Sichtbarkeit von Leistungen, organisatorische Routinen und diskriminierende Interpretationen entstehen. Eine verantwortungsvolle Gestaltung verlangt daher ein Zusammenspiel aus Daten-Governance, Fairness-Prüfungen, fortlaufendem Monitoring, fachlicher Prüfung und Beteiligung der von den Systemen betroffenen Akteuren ()

Implikationen für Forschung und Praxis

Algorithmic Management ist nicht bloß die Einführung einer weiteren Softwarekomponente, sondern ein soziotechnisches Gestaltungsfeld mit Auswirkungen auf Führung, Arbeitsorganisation, Machtverhältnisse und Verantwortungsstrukturen. Für die Wirtschaftsinformatik folgt daraus, dass Wirkungsanalysen durch gestaltungsorientierte Forschung ergänzt werden sollten. Ziel ist nicht nur zu erklären, welche Folgen algorithmische Steuerung hat, sondern auch Artefakte, Prinzipien und Governance-Mechanismen zu entwickeln und zu evaluieren, die Transparenz, Anfechtbarkeit, Fairness und menschliche Entscheidungshoheit sichern ().

Für Promovierende eröffnet das Feld vielfältige Forschungsperspektiven an der Schnittstelle von Responsible AI, digitaler Transformation und Arbeitsforschung. Besonders aussichtsreich sind Untersuchungen, die technische Systemgestaltung mit organisationalen Governance-Mechanismen verbinden und dabei sowohl die Perspektive der Systementwickler:innen als auch die Erfahrungen von Führungskräften, Beschäftigten und Interessenvertretungen berücksichtigen. So kann die Forschung zu Algorithmic Management einen Beitrag dazu leisten, KI-gestützte Arbeits- und Führungspraktiken nicht nur effizienter, sondern auch nachvollziehbarer, verantwortbarer und menschenzentriert zu gestalten.

Literaturverzeichnis

  • European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105.
  • Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410.
  • Leonardi, P. M. (2011). When flexible routines meet flexible technologies: Affordance, constraint, and the imbrication of human and material agencies. MIS Quarterly, 35(1), 147–167.
  • Orlikowski, W. J. (2007). Sociomaterial practices: Exploring technology at work. Organization Studies, 28(9), 1435–1448.
  • Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., Smith-Loud, J., & Theron, D. (2020). Closing the AI accountability gap: Defining an end-to-end framework for internal algorithmic auditing. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (pp. 33–44). Association for Computing Machinery.
  • Shrestha, Y. R., Ben-Menahem, S. M., & von Krogh, G. (2019). Organizational decision-making structures in the age of artificial intelligence. California Management Review, 61(4), 66–83.
Konzeptdarstellung eines autonomen KI-Agenten im Kontext organisationaler Entscheidungsdelegation (KI-generiert)
Konzeptdarstellung eines autonomen KI-Agenten im Kontext organisationaler Entscheidungsdelegation (KI-generiert)

Einleitung: Von der Assistenz zur Autonomie

Die Wirtschaftsinformatik befindet sich aktuell in einer Phase konzeptioneller Neuorientierung: Generative KI-Systeme werden nicht länger primär als reaktive Assistenzwerkzeuge verstanden, sondern zunehmend als agentische Informationssysteme (Agentic IS), die eigenständig Ziele verfolgen, Handlungen initiieren und Verantwortung für Aufgaben mit hoher Unsicherheit übernehmen (). Agentische Systeme sind demnach nicht länger passive Werkzeuge, sondern Artefakte, die eigenständig Rechte und Pflichten zur Zielerreichung übernehmen können (). Für die Wirtschaftsinformatik eröffnet sich damit ein Forschungsfeld an der Schnittstelle von Human-Computer Interaction (HCI), Organisationsgestaltung und intelligenten Informationssystemen.

Theoretische Einordnung und konzeptionelle Fundierung

Die zunehmende Verbreitung agentischer Systeme erfordert eine Weiterentwicklung etablierter Theorien des soziotechnischen Systemdesigns. Während klassische Ansätze der IS-Nutzungsforschung dem menschlichen Akteur analytische Primärstellung einräumen und Technologie als passives Werkzeug behandeln, argumentieren , dass diese Annahme für eine neue Generation „agentischer“ IS-Artefakte revidiert werden muss. Sie führen hierzu das Konzept der Delegation als theoretische Linse ein, um die Beziehung zwischen Mensch und agentischem IS-Artefakt entlang der Dimensionen Endowments, Preferences und Roles sowie der Mechanismen Appraisal, Distribution und Coordination zu erklären ().

Ergänzend liefert das Task-Technology Fit (TTF)-Modell einen etablierten Bezugsrahmen zur Passung zwischen Aufgabenanforderungen und technologischen Eigenschaften (). Für agentische Architekturen ist dieses Modell um folgende Dimensionen zu erweitern:

  • Autonomiegrad: Ausmaß eigenständiger Entscheidungsfindung und Handlungsinitiierung ().
  • Intentionalität: Fähigkeit zur zielgerichteten Planung über mehrere Handlungsschritte hinweg ().
  • Fehlertoleranz und Resilienz: Umgang mit Unsicherheit in dynamischen Umgebungen.
  • Transparenz: Nachvollziehbarkeit von Entscheidungslogiken und Handlungspfaden.

Methodische Zugänge und empirische Forschung

Die Untersuchung agentischer KI erfordert methodische Designs, die über reine Performance-Metriken hinausgehen und sozio-technische Effekte einbeziehen. Besonders geeignet sind mehrmethodische Forschungsansätze:

  • Design Science Research (DSR): Entwicklung und Evaluation von Artefakten in Form von KI-Agenten oder Multi-Agenten-Systemen, differenziert nach Instanziierungen, Modellen und Methoden, mit ex-ante und ex-post Evaluationsdesigns ().
  • Theoriegeleitete Delegationsforschung: Anwendung des Delegationsframeworks zur Modellierung testbarer Hypothesen über Appraisal-, Distributions- und Koordinationsmechanismen ().
  • Qualitative Fallstudien: Untersuchung organisationaler Transformationsprozesse und sozio-technischer Wechselwirkungen bei der Einführung agentischer Systeme ().

Herausforderungen und zentrale Forschungsfelder

Ein zentrales Spannungsfeld betrifft die Nachvollziehbarkeit autonomer Entscheidungs- und Handlungsketten. Autonome KI-Agenten verletzen zentrale Annahmen klassischer Verantwortungszuschreibung, da Handlungen nicht mehr eindeutig auf einzelne menschliche Entscheidungen zurückgeführt werden können (). Verantwortung muss daher zunehmend auf Ebene der organisationalen Governance-Architektur verortet werden, die festlegt, welche Ziele ein Agent verfolgt und in welchem Ausmaß Entscheidungsbefugnis delegiert wird ().

Daraus ergeben sich zentrale Forschungsfelder:

  • Agentische Governance: Entwicklung von Rahmenwerken zur Steuerung, Kontrolle und Auditierbarkeit autonomer Systeme.
  • Delegationstheorie: Empirische Prüfung der von Baird und Maruping (2021) vorgeschlagenen Delegationsmechanismen in realen Organisationskontexten.
  • Rollen- und Kompetenzwandel: Auswirkungen agentischer Delegation auf Entscheidungsstrukturen und Managerverantwortung.
  • Prozessintegration: Einbettung agentischer IS in bestehende Prozesslandschaften.

Implikationen für die Forschung

Agentische KI stellt keine inkrementelle Weiterentwicklung dar, sondern erfordert eine grundlegende Revision der IS-Nutzungstheorie, wie sie durch die MIS Quarterly Special Issue zu Agentic AI adressiert wird (). Für die Wirtschaftsinformatik ergibt sich die Notwendigkeit, Delegations-, Governance- und Vertrauensmodelle empirisch zu validieren. Insbesondere die Schnittstelle zwischen menschlicher Steuerung und maschineller Autonomie bleibt zentraler Gegenstand zukünftiger Forschung.

Literaturverzeichnis

  • Baird, A., & Maruping, L. M. (2021). The next generation of research on IS use: A theoretical framework of delegation to and from agentic IS artifacts. MIS Quarterly, 45(1), 315–341. https://doi.org/10.25300/MISQ/2021/15882
  • Holldack, F., et al. (2026). Agentic information systems. Electronic Markets 36, 5. https://doi.org/10.1007/s12525-025-00861-0.
  • Rahwan, I., et al. (2019). Machine behaviour. Nature, 568(7753), 477–486.
  • Goodhue, D. L., & Thompson, R. L. (1995). Task-technology fit and individual performance. MIS Quarterly, 19(2), 213–236. https://doi.org/10.2307/249689
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105. https://doi.org/10.2307/25148625
  • Yin, R. K. (2014). Case study research: Design and methods (5th ed.). Sage.
  • MIS Quarterly Executive. (2026). Special Issue Call for Paper: Are organizations ready for autonomous AI agents? https://lnkd.in/dx-wesDZ, zugegriffen am 01.08.2026
Algorithmische Verantwortung und Vertrauen (KI-generiert)
Algorithmische Verantwortung und Vertrauen (KI-generiert)

Problemstellung und wissenschaftliche Relevanz

Die zunehmende Integration von KI-Systemen in organisationale Entscheidungsprozesse markiert einen tiefgreifenden Wandel in der Gestaltung soziotechnischer Systeme. Während die technologische Leistungsfähigkeit kontinuierlich zunimmt, bleibt die wissenschaftliche Fundierung von Governance-Strukturen und algorithmischer Verantwortung (Accountability) vielfach unterentwickelt. Unter algorithmischer Verantwortung wird hierbei die Nachvollziehbarkeit, Zurechenbarkeit und Kontrollierbarkeit algorithmischer Entscheidungen verstanden.

Für die Wirtschaftsinformatik ergibt sich daraus eine zentrale Forschungsfrage: Wie können menschliche Aufsicht (Human Oversight) und algorithmische Autonomie in hybriden Entscheidungsarchitekturen so ausgestaltet werden, dass Effizienzgewinne realisiert werden, ohne regulatorische und ethische Anforderungen zu verletzen? Gerade aus Sicht der behavioral IS stellt sich die Frage, wie individuelle und organisationale Verhaltensmuster, Einstellungen und Vertrauen die Nutzung und Kontrolle KI-basierter Entscheidungssysteme prägen.

Die disziplinäre Relevanz ist hoch, da die Wirtschaftsinformatik traditionell die Schnittstelle zwischen technologischer Innovation und organisationaler Wertschöpfung adressiert. Während frühere Arbeiten primär auf Effizienzsteigerungen fokussierten, verschiebt sich der Diskurs zunehmend hin zu Transparenz, Erklärbarkeit (Explainable AI, XAI) und Risikokontrolle in sensiblen Anwendungskontexten wie Finanzdienstleistungen oder öffentlicher Verwaltung .

Theoretische Konzepte und aktuelle Diskurse

Im Zentrum der verhaltensorientierten IS-Forschung zu KI-Systemen steht das Spannungsfeld zwischen algorithmischer Effizienz und menschlicher Handlungsträgerschaft (Human Agency). Etablierte Adoptions- und Nutzungsmodelle wie das Technology Acceptance Model (TAM) sowie seine Weiterentwicklungen (z. B. UTAUT2) bieten einen strukturierten Rahmen, um wahrgenommene Nützlichkeit, Nutzungserwartung, Vertrauen und Gewohnheit als Treiber der Systemnutzung zu analysieren ; . Für KI-basierte Entscheidungssysteme reicht eine reine Akzeptanzperspektive jedoch nicht aus, da auch Kontrollwahrnehmung, Eingriffsmöglichkeiten und Verantwortlichkeitszuschreibungen modelliert werden müssen.

Ein theoretisch anschlussfähiges Leitkonzept ist in diesem Zusammenhang Meaningful Human Control, das beschreibt, unter welchen Bedingungen autonome Systeme weiterhin einer verantwortbaren menschlichen Kontrolle unterliegen . Die Konzeption von tracking- und tracing-Bedingungen ermöglicht es, normative Anforderungen an Kontrolle und Verantwortung mit verhaltensbezogenen Konstrukten wie wahrgenommener Kontrolle, Verantwortungsbereitschaft und Vertrauen zu integrieren.

Parallel dazu betont die XAI-Forschung, dass Interpretierbarkeit nicht nur eine technische Eigenschaft, sondern auch ein verhaltensrelevantes Merkmal ist, das Einstellungen und Nutzungsmuster beeinflusst ; . Für behavioral IS ergibt sich daraus die Herausforderung, Konzepte wie Vertrauen, Risiko- und Fairnesswahrnehmung sowie Verantwortungszuschreibung empirisch mit konkreten XAI-Features und Governance-Mechanismen zu verknüpfen.

Methodische Zugänge und empirische Forschung

Die Untersuchung algorithmischer Verantwortung aus behavioral-IS-Perspektive erfordert ein methodisches Spektrum, das sowohl individuelle und organisationale Verhaltensmuster als auch technische Artefakte abbildet:

  • Quantitative Surveys und Experimente: Kausale und korrelative Analysen zur Wirkung von XAI-Features und Governance-Mechanismen auf Vertrauen, Nutzungsintention, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung.
  • Qualitative Studien: Tiefgehende Analysen organisationaler Umgangsweisen mit KI-Systemen mittels Interviews und Beobachtungen, um informelle Praktiken der Aufsicht, Delegation und Verantwortungszuschreibung zu erfassen.
  • Design Science Research (DSR): Systematische Entwicklung und Evaluation von Artefakten (z. B. Governance-Dashboards, Entscheidungs-Logs, Audit-Mechanismen) zur Operationalisierung von „Accountability by Design“.

In der IS-Forschung wird DSR als Forschungsparadigma verstanden, das Wissen durch die Konstruktion und Evaluation innovativer Artefakte erzeugt; solche Artefakte können Konstrukte, Modelle, Methoden oder implementierte Instanziierungen umfassen . Für Promotionsvorhaben zur algorithmischen Verantwortung bedeutet dies, dass ein Governance-Dashboard, ein XAI-Erklärungsmodul oder ein Accountability-Framework als explizit theoriebasiertes Artefakt konzipiert werden sollte, dessen Designentscheidungen sich nachvollziehbar aus behavioral-IS-Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) und normativen Anforderungen (z. B. Meaningful Human Control, AI-Governance-Prinzipien) ableiten.

Die Design-Science-Research-Methodology von Peffers et al. bietet hierfür einen prozessualen Rahmen, der Problemidentifikation, Zieldefinition, Design und Entwicklung, Demonstration, Evaluation sowie Kommunikation systematisch miteinander verbindet . Eine methodisch belastbare DSR-Studie zur algorithmischen Verantwortung sollte offenlegen, welcher Artefakttyp entwickelt wird, welche Anforderungen aus behavioral-IS-Theorie und Praxis abgeleitet wurden und anhand welcher Evaluationsformen — etwa Experimente, Fallstudien, Simulationen oder analytische Prüfungen — die Güte des Artefakts beurteilt wird ; .

Besonderes Potenzial liegt in Mixed-Methods-Ansätzen, die Data-Science-Verfahren (z. B. Logfile-Analysen zu tatsächlichen Nutzungsmustern) mit sozialwissenschaftlichen Methoden (Surveys, Experimente, qualitative Analysen) kombinieren, um die Diskrepanz zwischen technischer Systemlogik und beobachtetem Verhalten in Organisationen empirisch zu erfassen .

Herausforderungen und Implikationen für die Forschung

Ein persistentes Kernproblem bleibt die „Black-Box“-Charakteristik vieler KI-Modelle. Trotz Fortschritten im Bereich XAI ist die Umsetzung rechtssicherer und zugleich praktikabler Transparenzanforderungen weiterhin begrenzt, was sich direkt auf Vertrauen, Verantwortlichkeitszuschreibung und Nutzungsmuster auswirkt ; . Gleichzeitig erhöhen regulatorische Entwicklungen, insbesondere durch den EU AI Act, den Druck auf Organisationen, robuste Governance- und Dokumentationsmechanismen zu implementieren .

Vor diesem Hintergrund ergeben sich zentrale Forschungsfragen mit klarem Bezug zu behavioral IS und DSR:

  • Wie beeinflussen Governance-Strukturen und XAI-Features Vertrauen, Kontrollwahrnehmung und Verantwortlichkeitszuschreibung bei unterschiedlichen Nutzergruppen?
  • Welche Artefakte (z. B. Dashboards, Erklärungsschnittstellen, Audit-Trails) eignen sich, um algorithmische Verantwortung in Organisationskontexten operationalisierbar zu machen, und wie lassen sie sich im Sinne von DSR entwickeln und evaluieren?
  • Wie können ethische Prinzipien und regulatorische Anforderungen in verhaltensbezogene Designanforderungen übersetzt und in technisch implementierbare Entscheidungslogiken überführt werden?

Implikationen für die Forschungspraxis

Algorithmische Verantwortung entwickelt sich zu einem zentralen Forschungsfeld der Wirtschaftsinformatik, in dem behavioral IS und DSR komplementäre Perspektiven bieten. Behavioral-IS-Ansätze ermöglichen es, Einstellungen, Wahrnehmungen und Nutzungsmuster im Umgang mit KI-Systemen theoriebasiert zu erfassen und zu erklären, während DSR die Gestaltung und Evaluation von Artefakten vorantreibt, die Accountability, Transparenz und Kontrolle in der Praxis operationalisieren ; .

Für Promovierende bedeutet dies, Forschungsvorhaben so aufzusetzen, dass verhaltensbezogene Theorien (z. B. TAM/UTAUT, Vertrauen, Risiko, Kontrolle) systematisch mit der Entwicklung von Governance- und XAI-Artefakten verknüpft werden. Entscheidend ist dabei, nicht nur algorithmische Modelle zu analysieren, sondern deren soziotechnische Einbettung und die damit verbundenen Verhaltens- und Governance-Prozesse kritisch zu untersuchen und über Artefakte aktiv mitzugestalten ; .

Literaturverzeichnis

  • Davis, F. D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly, 13(3), 319–340.
  • Venkatesh, V., Thong, J. Y. L., & Xu, X. (2012). Consumer acceptance and use of information technology: Extending the unified theory of acceptance and use of technology. MIS Quarterly, 36(1), 157–178.
  • Rai, A. (2020). Explainable AI: From black box to glass box. Journal of the Academy of Marketing Science, 48(1), 137–141.
  • Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
  • Santoni de Sio, F., & van den Hoven, J. (2018). Meaningful human control over autonomous systems: A philosophical account. Frontiers in Robotics and AI, 5, 15.
  • Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105.
  • Peffers, K., Tuunanen, T., Rothenberger, M. A., & Chatterjee, S. (2007). A design science research methodology for information systems research. Journal of Management Information Systems, 24(3), 45–77.
  • European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
Agentische KI: Neue Ära der KI (KI-generiert)
Agentische KI: Neue Ära der KI (KI-generiert)

Die Evolution autonomer Agenten

Die Wirtschaftsinformatik steht an der Schwelle zu einer grundlegenden Transformation: Während generative Sprachmodelle (LLMs) im letzten Jahr primär als dialogbasierte Assistenten wahrgenommen wurden, verschiebt sich der Diskurs im aktuellen Monat hin zu agentischen Systemen. Diese Systeme zeichnen sich dadurch aus, dass sie nicht nur Texte generieren, sondern mittels Werkzeugnutzung, Planung und autonomer Entscheidungsfindung komplexe Geschäftsprozesse eigenständig ausführen können. Für Promotionsstudierende eröffnet dieser Wandel ein hochrelevantes Forschungsfeld, das über die bloße Implementierung hinausgeht und grundlegende Fragen zur Struktur von Arbeit und Organisation aufwirft.

Theoretische Einordnung und Konzepte

Das Konzept der Agency, also die Fähigkeit eines Systems, Handlungsspielräume innerhalb definierter Ziele autonom auszufüllen, bildet das theoretische Herzstück dieses Wandels. Im Vergleich zum Vorjahr, in dem die Forschung stark auf die Nutzerakzeptanz von Chatbots (basierend auf dem TAM oder UTAUT) fokussiert war, rückt nun die soziotechnische Systemtheorie erneut in den Fokus. Es stellt sich die Frage, wie die Kopplung von menschlicher Expertise und algorithmischer Autonomie neu zu kalibrieren ist. Zentrale theoretische Bezugspunkte bilden dabei Konzepte der human-in-the-loop-Architekturen und die principals-agent theory in einer digitalisierten Umgebung, in der der Agent nicht mehr nur ein Mensch, sondern eine Softwareeinheit ist.

Methodische Zugänge und Forschungsdesigns

Die Untersuchung agentischer Systeme erfordert methodische Innovationen. Während quantitative Experimente helfen können, die Effizienzgewinne in standardisierten Prozessen zu quantifizieren, bedarf es für das Verständnis der kollaborativen Dynamik vermehrt qualitativer Längsschnittstudien oder designorientierter Ansätze (Design Science Research). Besonders vielversprechend für Promovierende sind:

  • Design Science Research: Entwicklung und Evaluierung von Artefakten, die als Vermittler zwischen KI-Agenten und menschlichen Entscheidungsträgern fungieren.
  • Ethnografische Studien: Untersuchung der schleichenden Veränderung von Arbeitsprozessen in Organisationen, die bereits erste agentische Workflows implementieren.
  • Vergleichende Fallstudien: Analyse unterschiedlicher Governance-Modelle bei der Einführung von autonom handelnden KI-Systemen in hochregulierten Branchen.

Herausforderungen und Spannungsfelder

Die aktuelle Forschung im Umfeld des AIS Senior Scholars' Basket of Eight verdeutlicht, dass die technologische Machbarkeit den theoretischen Diskurs derzeit überholt. Wesentliche Spannungsfelder, die Raum für Dissertationen bieten, könnten sein:

  • Verantwortlichkeit (Accountability): Wer trägt die Verantwortung bei Fehlentscheidungen eines autonomen Agenten, der in einer Kette von Teilentscheidungen agiert?
  • Transparenz und Erklärbarkeit: Wie lassen sich die Entscheidungspfade komplexer Agenten-Workflows für menschliche Akteure nachvollziehbar machen, ohne die Performance zu beeinträchtigen?
  • Skill-Erosion vs. Empowerment: Führt die Auslagerung komplexer kognitiver Tätigkeiten an Agenten zu einem Verlust menschlicher Kompetenzen oder zu einer Aufwertung der Arbeitsinhalte?

Implikationen für die Praxis und weiterführende Forschung

Für die Forschungspraxis bedeutet der Aufstieg agentischer Systeme eine Abkehr von der reinen Output-Orientierung (Textgenerierung) hin zur Prozess-Orientierung. Praktiker stehen vor der Herausforderung, nicht mehr nur einzelne Werkzeuge zu implementieren, sondern agentische Ökosysteme zu designen. Für Promotionsstudierende ergeben sich hieraus spannende Anknüpfungspunkte: Untersuchen Sie etwa die Governance von KI-Agenten in multinationalen Konzernen oder modellieren Sie die veränderten Arbeitsrollen in Abteilungen wie Controlling oder Beschaffung durch den Einsatz autonomer Systeme. Die aktuelle Debatte lädt dazu ein, die Grenzen des menschlichen Entscheidungshandelns im Kontext einer algorithmisch geprägten Arbeitswelt neu zu definieren.

Publikationen

Soziale Netzwerke

Newsletter - Anmeldung