Künstliche Intelligenz funktioniert nicht so, wie wir es erwartet haben. Was ist passiert? Und wie können wir das ändern?

Künstliche Intelligenz funktioniert nicht so, wie wir es erwartet haben. Was ist passiert? Und wie können wir das ändern?
Schauen wir uns dafür zunächst die aktuelle Lage an. Überall wird mit KI experimentiert, Copiloten werden eingeführt, Dokumente vernetzt oder Workflows automatisiert. In sorgfältig kuratierten Demos wirkt das meist äußerst überzeugend. Es scheint tatsächlich so, als würden die Tools den Kontext verstehen und sinnvolle Unterstützung leisten.
Doch sobald die Systeme ihre Demo-Umgebung verlassen, zeigt sich ein anderes Bild. Die Ergebnisse bleiben hinter den Erwartungen zurück, und im größeren Einsatzkontext nimmt der Nutzen spürbar ab. Und am Ende stellt sich der erhoffte geschäftliche Mehrwert meistens nicht ein.
Um dieses scheinbar technologische Versagen zu erklären, greifen wir meist zur naheliegendsten Antwort: Die Modelle sind einfach noch nicht gut genug. Also beginnt die Suche nach einem besseren Modell, einer neueren Version oder wir warten auf den nächsten technologischen Durchbruch. Doch wir enden immer wieder in demselben Kreislauf aus enttäuschten Erwartungen und Frustration.
Das Problem liegt nicht in der Technologie. Large Language Models (LLMs) sind schon sehr leistungsfähig und erfüllen ihre Aufgabe erstaunlich gut. Oft liefern sie sogar mehr, als uns eigentlich lieb ist.
Das eigentliche Problem sind unsere Erwartungen. Wir behandeln KI oft wie ein herkömmliches Tool, das sich problemlos in eine bestehende Umgebung integrieren und sofort nutzen lässt. Wir gehen davon aus, dass man sie einfach installiert, anschließt und direkt loslegt.
Doch genauso wie ein neuer Mitarbeiter ein Onboarding braucht, um seine Rolle und seinen Platz innerhalb von Abläufen, Netzwerken und der Organisation insgesamt zu verstehen, braucht auch eine KI genau das. Unternehmen sind ein eng verflochtenes Gefüge mit komplexen Prozessen, oft unausgesprochenen Regeln und gewachsenen Hierarchien. KI muss darin eingebettet und sorgfältig strukturiert werden. Systeme funktionieren nur dann zuverlässig, wenn ihre Rahmenbedingungen klar definiert sind. Das setzt allerdings voraus, dass auch die zugrunde liegende Umgebung sorgfältig strukturiert und konsistent ist. In der Praxis ist das selten der Fall. Während menschliche Mitarbeiter unausgesprochene Regeln und Zusammenhänge intuitiv erfassen, durch Gespräche mit Kollegen und durch Erfahrung im Unternehmen lernen, braucht KI ein Regelwerk, das all das möglichst vollständig abbildet.
Doch das Wissen eines Unternehmens verteilt sich auf viele Orte und Daten, auf Dokumente mit unstrukturierten Inhalten und auf Menschen. Begriffe werden je nach Kontext unterschiedlich verwendet, und wichtige Informationen liegen oft nur implizit vor, versteckt in Texten oder im Kopf erfahrener Mitarbeiter. Prozesse sind also selten vollständig dokumentiert, und Entscheidungen innerhalb von Abläufen hängen stark von Erfahrung und situativem Kontext ab.
Ein erfahrener Mitarbeiter kann sich in dieser Komplexität intuitiv bewegen. Ein KI-System kann das nicht. Ohne ein klares Verständnis davon, wie Dinge zusammenhängen, stoßen KI-Systeme schnell an ihre Grenzen und die anfängliche Illusion zerfällt. Ohne Struktur kann ein System Informationen nicht zuverlässig verknüpfen, es versteht keine durchgängigen Prozesse und kennt keine klaren Handlungsgrenzen.
Die Folgen sind vorhersehbar: uneinheitliche Ergebnisse, fragile Abläufe und isolierte Einzellösungen. Mit jedem neuen Anwendungsfall entsteht eine weitere Insellösung, ohne dass sich ein stimmiges Gesamtbild ergibt. Die technische Intelligenz wächst, der tatsächliche geschäftliche Nutzen jedoch nicht. Und es gibt noch ein weiteres Problem.
Viele gehen davon aus, dass die passende Plattform für den Einsatz neuer Modelle längst existiert. Sie greifen zu Microsoft Teams, M365 Copilot, Salesforce Agentforce oder ChatGPT. Obwohl all diese Lösungen Zugang zu Modellen bieten, Teilintegrationen ermöglichen und mit benutzerfreundlichen Oberflächen kommen, bieten sie keine verlässliche Umgebung, in der unabhängige Fähigkeiten zuverlässig zusammenarbeiten und über Systemgrenzen hinweg interagieren können. Es gibt keinen standardisierten Laufzeitkontext, keine konsistente Schnittstellenbasis und kein geeignetes Ökosystem, das kooperierende Komponenten tragen kann.
Genau diese Art der Zusammenarbeit wird für Unternehmen immer attraktiver und häufig unter dem Begriff KI Agenten diskutiert. Doch der erfolgreiche Einsatz kooperierender und autonomer KI-Agenten erfordert ein noch robusteres und stärker standardisiertes Fundament, das, wie oben beschrieben, in den meisten Unternehmen schlicht nicht vorhanden ist. Um zu verstehen, warum Agenten ausgerechnet mehr von dem benötigen, was den meisten Unternehmen noch fehlt, müssen wir zunächst verstehen, was KI-Agenten sind und wie sie funktionieren.
Es gibt inzwischen viele unterschiedliche Definitionsansätze. In manchen ist ein KI-Agent ein Prompt, der Verhalten festlegt, oder ein Workflow, der einzelne Schritte orchestriert. Andere beschreiben ihn als Service, der Handlungen ausführt. In der Realität ist ein KI-Agent meist eine Kombination aus all dem.
Unsere Experten bei [at] haben eine Begriffsbestimmung für Agentic AI entwickelt, über die Sie in diesem Artikel mehr erfahren können. Doch selbst eine konzeptionelle Definition eines Agenten beantwortet noch nicht die Frage, wo ein solcher Agent in einer technischen und strukturellen Umgebung eigentlich operiert. Manche verorten ihn im Backend oder setzen ihn mit dem Workflow System gleich. Andere sagen, sie gehören in die Benutzeroberfläche eingebettet. Derzeit gibt es darauf keine einheitliche Antwort, nicht einmal von Lösungsanbietern.
Gleichzeitig erhält [at] immer mehr Anfragen von Kunden, die agentische Systeme in ihre Workflows integrieren möchten. Ein verbreitetes Missverständnis besteht darin, KI Agenten ließen sich einfach als Erweiterung bestehender Systeme hinzufügen. Wie wir im Folgenden zeigen, stimmt diese Annahme nicht ganz.
Die Antwort auf diese Frage hängt immer davon ab, was genau integriert werden soll. Eine Chatoberfläche oder ein einfaches Frontend lässt sich vergleichsweise unkompliziert anbinden. Ein System hingegen, das tatsächlich in Geschäftsprozesse eingreift, ist eine ganz andere Herausforderung und verschiebt den Fokus von reiner Integration hin zum Zusammenspiel vieler Komponenten. Plötzlich braucht es strukturierte Daten, klar definierte Prozesse und vernetzte Werkzeuge, sowohl für Agenten als auch für Nutzer. Zudem verändert sich die Ausgangslage, wenn nicht nur ein, sondern mehrere Agenten in bestehende Unternehmensprozesse eingeführt werden sollen.
Unsere Experten bei [at] bezeichnen dieses Szenario als Agentic Mesh. Es geht weit über Integration hinaus und beschreibt im Grunde ein völlig neues Betriebssystem für KI in Unternehmen. Was das konkret bedeutet und wie ein Agentic Mesh in der Praxis aussieht, zeigen wir in unserem gleichnamigen Whitepaper.
Ein wesentlicher Baustein ist Retrieval Augmented Generation (RAG). RAG Systeme verbessern den Zugriff auf unternehmensinterne Informationen. Sie helfen dabei, relevante Inhalte zu identifizieren und fundiertere Antworten zu ermöglichen. Doch selbst fortgeschrittene, vektorbasierte RAG Systeme lösen nur einen Teil des Problems. Sie definieren nicht, wie Informationen strukturiert werden, wie Beziehungen modelliert sind oder wie Entscheidungen und Handlungen operationalisiert werden. RAG führt zu besseren Antworten, aber nicht zu einem funktionierenden Wissens- oder Prozesssystem. Deshalb braucht es einen Perspektivwechsel.
KI lässt sich nicht einfach auf bestehende Strukturen aufsetzen. Was es braucht, ist ein grundlegender Wandel im Denken:
Nur unter diesen Bedingungen kann KI mehr leisten als isolierte Unterstützung bei einzelnen Fragen und zu einem aktiven, verlässlichen Teil echter Arbeit werden.
Obwohl KI oft komplexer wirkt als erwartet, bedeutet das nicht, dass wir gescheitert sind. Es bedeutet lediglich, dass die tiefliegenden Herausforderungen nun sichtbar werden.
Viele Organisationen stehen genau an diesem Punkt. Sie erkennen das Potenzial von KI, stoßen nun aber auf strukturelle Grenzen. Und wenn das Problem struktureller Natur ist, muss auch die Lösung strukturell sein.
Das bedeutet: KI muss in reale Prozesse eingebettet werden, ihre Interaktionen mit Daten und Systemen müssen klar definiert sein, und für ihren Einsatz braucht es verbindliche Leitplanken.
Genau hier setzt unser neues Whitepaper zum Agentic Mesh an. Es zeigt, warum Enterprise KI mehr braucht als leistungsfähige Modelle oder einzelne Agenten – nämlich ein strukturelles Fundament, das Wissen, Prozesse, Governance und Ausführung skalierbar und kontrollierbar miteinander verbindet.
Diesen Beitrag teilen: