Agentische KI im organisationalen Kontext: Die Transition von Assistenz zu Kooperation

Generative Künstliche Intelligenz (KI) hat sich innerhalb kurzer Zeit zu einer breit eingesetzten Unterstützungstechnologie entwickelt. Zunächst standen vor allem Anwendungen im Vordergrund, die Texte, Bilder, Softwarecode oder Zusammenfassungen erzeugen. Zunehmend rücken jedoch Systeme in den Fokus, die nicht nur einzelne Inhalte generieren, sondern mehrstufige Aufgaben bearbeiten können: Sie interpretieren Ziele, planen Arbeitsschritte, greifen auf Datenquellen und digitale Werkzeuge zu, bewerten Zwischenergebnisse und lösen innerhalb definierter Grenzen Aktionen aus. Diese Entwicklung wird häufig als agentische KI bezeichnet.

Für die Wirtschaftsinformatik ist damit eine Verschiebung des Erkenntnisinteresses verbunden. Nicht mehr allein die Qualität einzelner KI-Ausgaben steht im Mittelpunkt. Entscheidend wird vielmehr, wie Aufgaben zwischen Menschen und KI-Systemen verteilt werden, wie sich Handlungsspielräume technisch und organisatorisch begrenzen lassen und wie Transparenz, Kontrolle sowie Verantwortlichkeit in KI-gestützten Prozessen sichergestellt werden können. Agentische Informationssysteme werden deshalb zunehmend als eigenständiger Gegenstand der Forschung zu Delegation, Koordination, Governance und Mensch-KI-Zusammenarbeit betrachtet (Holldack et al., 2026; Kumar et al., 2026).

Was ist agentische KI?

Agentische KI ist keine einzelne Technologie und auch kein Synonym für ein großes Sprachmodell. Der Begriff bezeichnet vielmehr eine Klasse KI-basierter Systeme, die innerhalb vorgegebener Ziele, Regeln und Berechtigungen eigenständig Teilaufgaben planen und ausführen können. Typische Fähigkeiten umfassen die Zerlegung eines Ziels in Teilaufgaben, die Auswahl geeigneter Werkzeuge, den Zugriff auf zugelassene Informationsquellen, die Bewertung von Zwischenergebnissen sowie die Anpassung eines Vorgehens bei Abweichungen oder neuen Informationen.

Ein klassisches Assistenzsystem reagiert in der Regel auf einen einzelnen Prompt und liefert beispielsweise eine Zusammenfassung, einen Textentwurf oder eine Analyse. Ein agentisches System kann dagegen einen zusammenhängenden Prozess bearbeiten. Es könnte etwa einen Antrag auf Vollständigkeit prüfen, Informationen aus mehreren Fachverfahren zusammenführen, fehlende Unterlagen identifizieren, einen Entwurf für eine Rückfrage erstellen, einen Vorgang zur Freigabe vorlegen und nach menschlicher Bestätigung weitere zulässige Prozessschritte auslösen.

Der wesentliche Unterschied liegt damit in der delegierten Prozessausführung. Nutzende definieren nicht zwingend jede Einzelaktion, sondern legen Ziele, Regeln, Datenzugriffe, Werkzeugberechtigungen, Qualitätsanforderungen und Eskalationsmechanismen fest. Das System erhält dadurch begrenzte technische Handlungsspielräume. Diese technische Handlungsfähigkeit darf jedoch nicht mit menschlicher oder organisationaler Verantwortlichkeit verwechselt werden. Ein KI-System kann Handlungen vorbereiten oder ausführen, aber weder rechtliche noch moralische Verantwortung übernehmen.

Holldack, Banh und Strobel unterscheiden agentische Informationssysteme von traditionell reaktiven Informationssystemen dadurch, dass sie Entscheidungen treffen, in unstrukturierten Umgebungen handeln und neue Formen der Aufgabenübertragung zwischen Menschen und Systemen ermöglichen können (Holldack et al., 2026). Damit wird die bisher in der Wirtschaftsinformatik häufig vorausgesetzte Primärrolle des Menschen als alleiniger handelnder Akteur herausgefordert, ohne dass Verantwortung oder Legitimation auf technische Systeme übergehen.

Vom Werkzeug zum Prozessakteur

Die Einführung agentischer KI verändert die Gestaltung digitaler Arbeit. Während herkömmliche Informationssysteme Daten verarbeiten, Informationen bereitstellen oder klar definierte Transaktionen ausführen, können agentische Systeme Teile der Planungs- und Koordinationsarbeit übernehmen. Sie werden damit nicht zu gleichberechtigten menschlichen Akteuren, wohl aber zu technisch handlungsfähigen Bestandteilen eines sozio-technischen Arbeitssystems.

Diese Entwicklung lässt sich als Übergang von der punktuellen Assistenz zur strukturierten Delegation beschreiben. Die relevante Frage lautet nicht mehr nur: „Kann das System eine gute Antwort erzeugen?“ Ebenso wichtig sind die Fragen: „Welche Aufgabe darf delegiert werden?“, „Welche Handlungen muss ein Mensch vorab freigeben?“, „Wie werden Entscheidungen und Werkzeugaufrufe dokumentiert?“ und „Wer ist für Folgen verantwortlich, wenn ein System fehlerhaft oder unerwartet handelt?“

Die aktuelle Diskussion in der Behavioral-IS-Forschung verweist darauf, dass KI die Forschungslandschaft entlang mehrerer Dimensionen verändert. Neben einer agentischen Verschiebung, bei der Systeme Handlungen vorbereiten oder ausführen, treten eine epistemische Verschiebung durch probabilistische und teilweise intransparente Systemleistungen sowie eine kognitive Verschiebung durch die wiederholte Nutzung KI-gestützter Denk- und Entscheidungsunterstützung (Grover & Tarafdar, 2026). Für Organisationen bedeutet dies, dass die Einführung agentischer KI nicht als isoliertes IT-Projekt, sondern als Veränderung von Entscheidungsrechten, Kompetenzen, Routinen und Kontrollstrukturen behandelt werden sollte.

Theoretische Perspektiven

Die Wirtschaftsinformatik verfügt über mehrere theoretische Zugänge, um agentische KI zu untersuchen. Besonders relevant sind die sozio-technische Systemperspektive, der Task-Technology-Fit-Ansatz, die Forschung zu Vertrauen in Automation sowie IT-Governance- und Accountability-Perspektiven.

Die sozio-technische Systemperspektive betont, dass Arbeitsleistung nicht durch Technologie allein entsteht. Entscheidend ist das Zusammenspiel von Menschen, Aufgaben, Daten, Technologien, Regeln, Qualifikationen und organisationalen Routinen. Agentische KI verändert diese Konstellation, weil sie nicht nur Informationen bereitstellt, sondern innerhalb definierter Grenzen Aufgaben plant, priorisiert, vorbereitet oder ausführt. Die technische Leistungsfähigkeit eines Systems ist daher nur eine Bedingung seines Nutzens. Ebenso wichtig sind die organisatorische Einbettung, die Qualität der zugrunde liegenden Daten, geeignete Rollenmodelle und klar definierte Eskalationswege.

Der Task-Technology-Fit-Ansatz verdeutlicht, dass Informationstechnologie dann besonders wirksam ist, wenn ihre Funktionalitäten zu den Merkmalen einer Aufgabe und zu den Bedürfnissen der Nutzenden passen (Goodhue & Thompson, 1995). Bei agentischer KI umfasst diese Passung nicht nur die Fähigkeit eines Systems, eine Aufgabe technisch auszuführen. Sie betrifft auch den angemessenen Grad der Delegation. Routinisierte, reversible und gut prüfbare Tätigkeiten können gegebenenfalls weitgehend automatisiert werden. Folgenreiche, schwer reversible oder stark kontextabhängige Entscheidungen erfordern dagegen engere Kontroll- und Freigabemechanismen.

Die Forschung zu Vertrauen in Automation ergänzt diese Perspektive. Vertrauen ist nicht grundsätzlich positiv, sondern muss dem tatsächlichen Leistungsvermögen und den Grenzen eines Systems entsprechen. Zu starkes Vertrauen kann zu einer unkritischen Übernahme von Systemvorschlägen führen; zu geringes Vertrauen kann verhindern, dass sinnvolle Unterstützung tatsächlich genutzt wird. Lee und See bezeichnen dies als angemessenes Vertrauen beziehungsweise angemessene Reliance (Lee & See, 2004). Bei agentischer KI ist diese Herausforderung besonders ausgeprägt, da Fehler nicht nur in einem einzelnen Ergebnis auftreten, sondern sich über mehrstufige Planungen, Datenzugriffe und Werkzeugaufrufe fortsetzen können.

Forschung und Gestaltung agentischer Systeme

Agentische KI eröffnet ein breites Forschungsfeld für die Wirtschaftsinformatik. Besonders geeignet ist ein gestaltungsorientierter Forschungszugang. Design Science Research zielt darauf ab, relevante Probleme durch innovative Artefakte zu adressieren und deren Nutzen systematisch zu evaluieren (Hevner et al., 2004). Für agentische KI können solche Artefakte technische, organisatorische oder hybride Gestaltungsobjekte sein.

Denkbar sind beispielsweise Referenzarchitekturen für die sichere Nutzung von Werkzeugen, Rollen- und Berechtigungskonzepte für KI-Agenten, Audit-Trails zur Dokumentation von Planungsschritten, Muster für risikoadäquate Freigaben oder Verfahren zur Klassifikation von Aufgaben nach Delegierbarkeit. Ein DSR-Projekt könnte etwa untersuchen, wie ein KI-Agent in einem Verwaltungsprozess Anträge vorprüft, fehlende Informationen erkennt und standardisierte Rückfragen vorbereitet, ohne rechtsverbindliche Entscheidungen selbstständig zu treffen.

Neben Design Science Research sind experimentelle Designs und Fallstudien relevant. Experimente eignen sich, um beispielsweise die Wirkung verschiedener Transparenz- oder Freigabemechanismen auf Aufgabenqualität, Bearbeitungszeit, Fehlererkennung und Vertrauen zu untersuchen. Fallstudien ermöglichen es, die Einführung agentischer Systeme im realen organisatorischen Kontext nachzuvollziehen. Im Mittelpunkt stehen dann Veränderungen von Rollen, Routinen, Entscheidungsrechten, Kompetenzanforderungen und Koordinationsprozessen.

Eine belastbare Evaluation agentischer KI sollte nicht bei der Qualität eines finalen Outputs enden. Sie sollte auch untersuchen, ob das System seine Handlungsschritte nachvollziehbar dokumentiert, ob Eskalationen zur richtigen Zeit erfolgen, ob menschliche Eingriffe wirksam sind, wie robust das System bei unvollständigen oder widersprüchlichen Informationen reagiert und ob die technische Delegation zu einer tatsächlichen Verbesserung des Arbeitssystems führt.

Governance und menschliche Aufsicht

Je größer die technischen Handlungsspielräume eines KI-Systems sind, desto wichtiger werden Governance-Mechanismen. Governance umfasst hier nicht nur rechtliche Vorgaben. Sie umfasst auch organisatorische Regeln, technische Schutzvorkehrungen, Rollen- und Berechtigungskonzepte, Dokumentationspflichten, Freigabeprozesse, Eskalationswege und Kontrollmöglichkeiten.

Eine zentrale Gestaltungsaufgabe besteht darin, menschliche Aufsicht wirksam und nicht nur formal auszugestalten. Bei Human-in-the-loop prüft oder genehmigt ein Mensch eine Handlung vor ihrer Ausführung. Bei Human-on-the-loop überwacht eine zuständige Person den Betrieb und greift bei Ausnahmen, Warnungen oder Fehlverhalten ein. Bei Human-in-command verbleibt die übergeordnete Entscheidungs- und Verantwortungsbefugnis stets bei menschlichen Rollen und der verantwortlichen Organisation.

Der europäische AI Act verlangt für Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht. Diese muss unter anderem ermöglichen, die Fähigkeiten und Grenzen eines Systems zu verstehen, potenzielle Anomalien zu erkennen, Automatisierungsbias zu vermeiden, Systemausgaben zu übersteuern und den Betrieb eines Systems bei Bedarf sicher zu unterbrechen (Europäische Union, 2024). Diese Anforderungen sind auch dort ein sinnvolles Gestaltungsprinzip, wo der AI Act keine spezifische Aufsichtspflicht begründet.

Für einen systematischen Umgang mit Risiken bietet der AI Risk Management Framework des National Institute of Standards and Technology einen lebenszyklusorientierten Orientierungsrahmen. Das ergänzende Profil für generative KI adressiert spezifische Risiken generativer Systeme und unterstützt Organisationen dabei, Risiken bei Konzeption, Entwicklung, Einsatz und kontinuierlicher Überwachung zu berücksichtigen (National Institute of Standards and Technology, 2024). Bei agentischen Systemen müssen zusätzlich Risiken aus der Verknüpfung von Modellen, Datenquellen, Werkzeugen, Berechtigungen und Prozesslogik bewertet werden.

Aktuelle Forschungssignale aus dem AIS Senior Scholars’ Basket of Eight

Die jüngsten öffentlich sichtbaren Beiträge aus den Zeitschriften des AIS Senior Scholars’ Basket of Eight weisen auf eine deutliche Verschiebung hin: KI-gestützte Entscheidungsarbeit, verantwortungsvolle Plattform- und Daten-Governance sowie menschzentrierte Digitalisierung gewinnen an Bedeutung. Zugleich bleiben digitale Gesundheit, Cyber- und Informationssicherheit sowie die methodische Fundierung digitaler Innovation wichtige Forschungsschwerpunkte.

Diese Einordnung ist bewusst selektiv. Die Verlagsseiten der acht Zeitschriften unterscheiden sich hinsichtlich Aktualität, Vollständigkeit und Zugänglichkeit ihrer Heft-, Artikel- und Online-first-Verzeichnisse. Die nachfolgende Auswahl konzentriert sich daher auf jüngere Beiträge, deren Titel, Zeitschriftenzuordnung, Publikationsstatus und bibliografische Grunddaten eindeutig verifiziert werden konnten.

Mensch-KI-Kollaboration und verantwortliche Entscheidungsunterstützung

Mehrere aktuelle Forschungsbeiträge rücken von einer reinen Ersetzungslogik ab, nach der Algorithmen menschliche Entscheidungen ersetzen sollen. Stattdessen untersuchen sie, wie Informationen über Systemleistung, Entscheidungsprozesse und Grenzen einer algorithmischen Empfehlung die Zusammenarbeit von Menschen und KI verbessern können.

Eine aktuelle Studie in Information Systems Research untersucht, ob Informationen über die Leistungsfähigkeit eines algorithmischen Entscheidungssystems menschliche Entscheidungen bei der Bestandsdisposition verbessern können. Die Untersuchung basiert auf Feldexperimenten und zeigt, dass sowohl positive als auch negative Leistungsinformationen die Bestellentscheidungen menschlicher Führungskräfte verbessern können. Besonders deutlich fiel der Effekt bei negativen Leistungsinformationen aus (Liu et al., 2025).

Für agentische KI und die Digitalisierung der öffentlichen Verwaltung ist dieses Ergebnis besonders relevant. Transparenz darf nicht auf die Offenlegung einer Empfehlung oder einer nachträglichen Erklärung reduziert werden. Beschäftigte benötigen vielmehr nachvollziehbare Informationen über empirisch beobachtete Systemleistung, Fehlergrenzen, Unsicherheiten und bekannte Einschränkungen. Solche Informationen können eine angemessene Reliance auf algorithmische Empfehlungen fördern und helfen, sowohl Automatisierungsbias als auch eine pauschale Ablehnung KI-gestützter Entscheidungen zu vermeiden.

Auch ein aktueller Beitrag in MIS Quarterly verdeutlicht die Bedeutung datengetriebener Systeme für organisationale Steuerung und Compliance. Der Artikel Can Business Intelligence Help Companies Avoid Compliance Troubles? untersucht, inwiefern Business-Intelligence-Fähigkeiten Organisationen dabei unterstützen können, Compliance-Herausforderungen besser zu bewältigen, Risikomanagementpraktiken zu stärken und regulatorische Anforderungen einzuhalten (Zhang et al., 2026). Für Verwaltung und regulierte Organisationen ist dies besonders anschlussfähig, da Business Intelligence mit Frühwarnung, Nachweisführung, Kontrolle und Rechenschaftslegung verbunden wird.

Digitale Plattformen, Ökosysteme und Machtstrukturen

Die aktuelle Forschung untersucht digitale Plattformen weiterhin sowohl als Innovationsinfrastrukturen als auch als Governance- und Machtstrukturen. Plattformen ermöglichen neue Nutzungsformen, ergänzende Dienstleistungen und Wertschöpfung durch modulare sowie vernetzte digitale Architekturen. Zugleich beeinflussen Plattformbetreiber den Zugang zu Daten, Interoperabilität, Regelsetzung und die Verteilung von Wertschöpfung innerhalb digitaler Ökosysteme.

Für öffentliche Organisationen sind diese Perspektiven besonders wichtig bei der Bewertung von Cloud-Plattformen, gemeinsamen Basisdiensten, modularen Fachverfahren und KI-Infrastrukturen. Plattformstrategien sollten daher nicht allein nach Funktionalität, Umsetzungsgeschwindigkeit oder Effizienz beurteilt werden. Ebenso erforderlich ist eine Bewertung von Interoperabilität, Datenportabilität, Abhängigkeitsrisiken, Governance-Rechten, Beschaffungsoptionen und langfristiger Steuerungsfähigkeit über kritische digitale Fähigkeiten.

Generative und agentische KI verschärfen diese Fragen. Der Zugang zu Basismodellen, Trainingsdaten, Cloud-Infrastruktur und Programmierschnittstellen konzentriert sich zunehmend bei einer begrenzten Zahl von Anbietern. Plattform-Governance muss deshalb über technische Architekturfragen hinausgehen und ökonomische Abhängigkeiten, Datensouveränität, Auditierbarkeit und die Verteilung von Entscheidungsrechten berücksichtigen.

Vertrauen, Akzeptanz und digitales Verhalten

Ein weiterer Forschungsstrang verdeutlicht, dass die Wirkung digitaler Systeme nicht allein von technischer Funktionalität abhängt. Vertrauen, wahrgenommene Fairness, Aufmerksamkeit, emotionale Verarbeitung und die Interpretation von Informationssignalen beeinflussen, ob digitale Angebote akzeptiert und sachgerecht genutzt werden. Diese Erkenntnis betrifft digitale Bezahlverfahren, Plattformen, Online-Kommunikation und KI-gestützte Verwaltungsleistungen gleichermaßen.

Für digitale Verwaltungsleistungen folgt daraus, dass Kommunikation, Erklärbarkeit und wahrgenommene Verfahrensgerechtigkeit keine nachgelagerten Usability-Themen sind. Sie bilden Voraussetzungen für Akzeptanz, sachgerechte Nutzung und institutionelle Legitimität. Eine technisch korrekte Empfehlung kann ihren Nutzen verfehlen, wenn betroffene Personen, Sachbearbeitende oder Entscheidungstragende nicht nachvollziehen können, wie sie entstanden ist, sie als unfair wahrnehmen oder keine sinnvolle Möglichkeit zur Rückfrage, Überprüfung oder Korrektur erhalten.

Agentische KI erhöht die Bedeutung dieser Anforderungen. Wenn Systeme nicht nur Empfehlungen erzeugen, sondern Prozessschritte planen, priorisieren oder technisch ausführen, müssen Menschen erkennen können, welche Ziele das System verfolgt, welche Informationsquellen es nutzt, welche Annahmen seiner Planung zugrunde liegen und an welcher Stelle eine menschliche Entscheidung erforderlich ist.

Resiliente Arbeits- und Sicherheitspraktiken

Die Forschung weist zugleich auf die Belastungsseite der Digitalisierung hin. Digitale Arbeitspraktiken, Sicherheitsanforderungen und Prozessstandards verbessern Leistung oder Wohlbefinden nicht automatisch. Ihre Wirkungen hängen davon ab, ob sie zum Arbeitskontext passen, tatsächliche Aufgaben unterstützen und vermeidbare kognitive sowie administrative Belastungen reduzieren.

Besonders relevant ist in diesem Zusammenhang die Forschung zu Sicherheitsmüdigkeit. Malik, Goel und Sinha konzeptualisieren Security Fatigue als Ausdruck emotionaler Erschöpfung und Zynismus, die aus einer erschöpften Selbstregulationskapazität entstehen (Malik et al., 2026). Daraus folgt, dass zusätzliche Sicherheitsvorgaben, Warnmeldungen und Compliance-Anforderungen nicht automatisch zu besserer Sicherheit führen. Sicherheitsgestaltung sollte vielmehr arbeitsintegriert erfolgen, kontextbezogene Hilfen bieten, sinnvolle Standardeinstellungen nutzen, Routinekontrollen automatisieren und unnötige Unterbrechungen reduzieren.

Diese Überlegung ist für agentische KI unmittelbar relevant. Wenn KI-Agenten zusätzliche Prüfaufgaben, Freigabeanfragen, Ausnahmehinweise oder Überwachungspflichten erzeugen, muss die daraus entstehende Aufsichtsarbeit praktisch leistbar bleiben. Menschliche Aufsicht ist nur dann wirksam, wenn verantwortliche Personen über ausreichende Zeit, verständliche Informationen, passende Eingriffsrechte und tatsächlich nutzbare Interventionsmöglichkeiten verfügen.

Methodische Fundierung digitaler Innovation

Methodische Beiträge bleiben zentral, weil Organisationen von KI- und Digitalisierungsinitiativen zunehmend einen nachvollziehbaren Nutzen erwarten, der über technische Machbarkeit hinausgeht. Die Entwicklung von KI-Assistenten, Prozesswerkzeugen, digitalen Plattformen und agentischen Systemen erfordert deshalb Evaluationsdesigns, die wissenschaftlich belastbar und zugleich in anwendungsnahen Kontexten umsetzbar sind.

Baskerville, Pries-Heje und Venable stellen mit MEDS eine Methodik zur Evaluation in der Design-Science-Forschung vor. MEDS umfasst vier Schritte: die Festlegung von Evaluationszielen, die Auswahl einer Evaluationsstrategie, die Auswahl zu bewertender Eigenschaften sowie die Planung einzelner Evaluationsepisoden (Baskerville et al., 2026). Die Methodik ist für KI-gestützte Artefakte besonders relevant, da sie dabei unterstützt, Evaluationskriterien zu priorisieren und den Evaluationsaufwand an Reifegrad, Risikoprofil und vorgesehenem Einsatzbereich eines Artefakts auszurichten.

Für agentische KI sollte Evaluation deshalb deutlich mehr als Output-Qualität oder technische Genauigkeit berücksichtigen. Relevante Evaluationsdimensionen umfassen die zuverlässige Aufgabenerledigung, Robustheit, Nachvollziehbarkeit, Qualität von Eskalationen, Wirksamkeit menschlicher Interventionen, Fairness, Informationssicherheit, Ressourcenverbrauch sowie Auswirkungen auf organisationale Routinen und menschliche Expertise.

Zentrale Forschungsfragen

Aus der Entwicklung und Einführung agentischer KI ergeben sich für Forschung und Praxis mehrere zentrale Fragen:

• Delegation: Nach welchen Kriterien können Organisationen entscheiden, ob eine Aufgabe durch einen KI-Agenten vorbereitet, unter menschlicher Aufsicht ausgeführt oder nicht delegiert werden darf?
• Transparenz: Welche Informationen über Ziele, Planungen, Datenzugriffe, Werkzeugaufrufe, Leistungsgrenzen und Unsicherheit benötigen Menschen, um Systemverhalten angemessen bewerten zu können?
• Vertrauen: Wie lassen sich Interaktions- und Erklärungsformen gestalten, die weder unkritische Reliance noch eine pauschale Ablehnung KI-gestützter Prozessausführung fördern?
• Kompetenz: Welche langfristigen Folgen hat die Delegation kognitiver Planungs- und Koordinationsaufgaben für fachliches Urteilsvermögen, Lernprozesse und Expertise von Wissensarbeitenden?
• Accountability: Wie können Handlungen entlang einer Kette aus menschlichen Vorgaben, agentischer Planung, Datenzugriffen, Werkzeugnutzung und Freigaben nachvollziehbar dokumentiert und verantwortlichen Rollen zugerechnet werden?
• Plattform-Governance: Wie können öffentliche Organisationen Interoperabilität, Datensouveränität, Portabilität und Steuerungsfähigkeit sichern, wenn zentrale KI-Funktionen über externe Plattformen und Infrastrukturen bezogen werden?
• Resilienz: Wie müssen agentische Systeme gestaltet sein, damit sie bei fehlerhaften Daten, widersprüchlichen Anweisungen, unerwarteten Werkzeugantworten oder missbräuchlichen Eingaben kontrolliert reagieren?
• Evaluation: Welche technischen, organisatorischen, ethischen und rechtlichen Kriterien sind erforderlich, um Nutzen und Risiken agentischer Systeme über Pilotierung und Produktivbetrieb hinweg nachvollziehbar zu bewerten?

Implikationen für die Verwaltungsdigitalisierung

Zusammengenommen ergeben die aktuellen Forschungssignale fünf praktische Implikationen für die Verwaltungsdigitalisierung und die Gestaltung agentischer Informationssysteme:

• KI als nachvollziehbare Entscheidungsunterstützung gestalten: KI-gestützte Empfehlungen sollten transparent, überprüfbar und in klar definierte Entscheidungsrechte eingebettet sein. Informationen über Systemleistung, Unsicherheit und bekannte Grenzen fördern eine angemessene Nutzung.
• Analytik mit Governance verbinden: Business Intelligence, Process Mining und KI-Analytik sollten Frühwarnung, Nachweisführung, Compliance-Monitoring und organisatorisches Lernen unterstützen, statt lediglich Dashboards oder isolierte Vorhersagen bereitzustellen.
• Plattformen strategisch bewerten: Plattformentscheidungen erfordern eine Analyse von Interoperabilität, Datenportabilität, Datenzugang, vertraglicher Governance, Abhängigkeitsrisiken und langfristiger Steuerungsfähigkeit über kritische digitale Fähigkeiten.
• Arbeitsbelastung reduzieren statt verlagern: Digitale Prozesse, Sicherheitskontrollen und KI-Aufsichtsmechanismen sollten unnötige Unterbrechungen und administrative Lasten senken, statt unsichtbare Koordinations- und Kontrollarbeit auf Beschäftigte zu verlagern.
• Artefakte systematisch evaluieren: KI- und Digitalisierungsprojekte sollten frühzeitig messbare Evaluationskriterien definieren und technische, organisatorische, ethische sowie rechtliche Wirkungen während Entwicklung, Pilotierung und Betrieb prüfen.

Fazit

Agentische KI erweitert generative KI um die Fähigkeit zur begrenzten, technisch ermöglichten Prozessausführung. Dadurch entsteht kein autonom verantwortlicher Akteur, wohl aber ein Informationssystem mit erweiterten Planungs-, Koordinations- und Handlungsmöglichkeiten. Für die Wirtschaftsinformatik verlagert sich der Fokus damit von der isolierten Bewertung von KI-Ausgaben auf die Gestaltung hybrider Arbeitssysteme, in denen Menschen und KI unterschiedliche, klar abgegrenzte Aufgaben übernehmen.

Die jüngeren Forschungssignale aus den Zeitschriften des AIS Senior Scholars’ Basket of Eight stützen diese Einordnung. Sie verweisen auf die Bedeutung von menschzentrierter Entscheidungsunterstützung, verantwortungsvoller Daten- und Plattform-Governance, resilienten Arbeits- und Sicherheitspraktiken sowie methodisch belastbarer Evaluation. KI wird damit nicht als selbstgenügsame Automatisierungstechnologie betrachtet, sondern als Bestandteil sozio-technischer Systeme, deren Nutzen von Aufgabenpassung, Transparenz, Kontrolle, Kompetenz und institutioneller Einbettung abhängt.

Der Nutzen agentischer KI hängt daher nicht allein von Modellleistung oder Automatisierungsgrad ab. Entscheidend sind eine aufgabengerechte Delegation, transparente Systemgrenzen, wirksame menschliche Aufsicht, belastbare Governance-Strukturen und eine nachvollziehbare Zurechnung von Verantwortung. Gerade darin liegt ein zentrales Forschungs- und Gestaltungsfeld für die Wirtschaftsinformatik: Agentische Systeme so zu entwickeln und einzusetzen, dass sie menschliche Arbeit sinnvoll erweitern, ohne Kontrollfähigkeit, Expertise und Verantwortlichkeit zu untergraben.

Literatur

• Baskerville, R., Pries-Heje, J., & Venable, J. R. (2026). MEDS: Methodology for evaluation in design science. European Journal of Information Systems. Advance online publication. https://doi.org/10.1080/0960085X.2026.2627280
• Europäische Union. (2024). Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz). Amtsblatt der Europäischen Union, L 1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
• Goodhue, D. L., & Thompson, R. L. (1995). Task-technology fit and individual performance. MIS Quarterly, 19(2), 213–236. https://doi.org/10.2307/249689
• Grover, V., & Tarafdar, M. (2026). The changing landscape of behavioral IS research: Navigating agentic, epistemic, and cognitive shifts. Journal of the Association for Information Systems, 27(3), 568–580. https://doi.org/10.17705/1jais.00994
• Hevner, A. R., March, S. T., Park, J., & Ram, S. (2004). Design science in information systems research. MIS Quarterly, 28(1), 75–105. https://doi.org/10.2307/25148625
• Holldack, F., Banh, L., & Strobel, G. (2026). Agentic information systems. Electronic Markets, 36, Article 5. https://doi.org/10.1007/s12525-025-00861-0
• Kumar, N., Wang, X., & Hanneke, R. (2026). Agentic artificial intelligence as a new frontier in information systems: Promise, peril, and research opportunities. Information & Management, 63, Article 104317. https://doi.org/10.1016/j.im.2026.104317
• Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
• Liu, Y., et al. (2025). Can providing algorithmic performance information facilitate humans’ inventory ordering behaviors? Information Systems Research 37 (1), 1-19, https://doi.org/10.1287/isre.2022.0621
• Malik, A., Goel, S., & Sinha, S. (2026). Security fatigue: Manifestation of emotional exhaustion and cynicism by depletion of self-regulation capacity. European Journal of Information Systems. 35(5), 785-804, https://doi.org/10.1080/0960085X.2026.2621809
• National Institute of Standards and Technology. (2024). Artificial intelligence risk management framework: Generative artificial intelligence profile (NIST AI 600-1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.600-1
• Peffers, K., Tuunanen, T., Rothenberger, M. A., & Chatterjee, S. (2007). A design science research methodology for information systems research. Journal of Management Information Systems, 24(3), 45–77. https://doi.org/10.2753/MIS0742-1222240302
• Trist, E. L., & Bamforth, K. W. (1951). Some social and psychological consequences of the longwall method of coal-getting: An examination of the psychological situation and defences of a work group in relation to the social structure and technological content of the work system. Human Relations, 4(1), 3–38. https://doi.org/10.1177/001872675100400101
• Zhang, Y., et al. (2026). Can business intelligence help companies avoid compliance troubles? MIS Quarterly.  https://doi.org/10.25300/MISQ/2026/19073/3861