Brauchen KI-Agenten einen Warnhinweis?​

srcset="https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?quality=50&strip=all 6472w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=300%2C153&quality=50&strip=all 300w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=768%2C390&quality=50&strip=all 768w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=1024%2C521&quality=50&strip=all 1024w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=1536%2C781&quality=50&strip=all 1536w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=2048%2C1041&quality=50&strip=all 2048w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=1240%2C630&quality=50&strip=all 1240w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=150%2C76&quality=50&strip=all 150w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=854%2C434&quality=50&strip=all 854w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=640%2C325&quality=50&strip=all 640w, https://b2b-contenthub.com/wp-content/uploads/2025/01/shutterstock_2268900565.jpg?resize=444%2C226&quality=50&strip=all 444w" width="1024" height="521" sizes="(max-width: 1024px) 100vw, 1024px">Einige KI-Agenten können bereits mehr als man ihnen zutraut – und ihnen zulassen sollte.shutterstock/CHIEW Die nächste Welle der Einführung künstlicher Intelligenz (KI) ist bereits im Gange: KI-Agenten – KI-Anwendungen, die autonom arbeiten und komplexe Prozesse mit minimaler oder begrenzter direkter menschlicher Aufsicht ausführen können.   KI-Agenten bringt Paradigmenwechsel  Im Gegensatz zu Large Language Models (LLMs) oder generativen KI-Tools (GenAI), die sich in der Regel auf die Erstellung von Inhalten wie Text, Bilder und Musik konzentrieren, ist Agentic AI darauf ausgelegt, proaktiv Probleme zu lösen und komplexe Aufgaben auszuführen – ähnlich wie es ein Mensch tun würde.   KI-Agenten können dabei mehrere Fähigkeiten, etwa (wie Sprachverständnis, logisches Denken, Entscheidungsfindung und Planung, kombinieren und Aktionen in einem breiteren Kontext ausführen. Sie sind beispielsweise in der Lage,   Roboter zu steuern,   Arbeitsabläufe zu verwalten oder   mit APIs zu interagieren.   Agenten können sogar zu Gruppen zusammengefasst werden, um als Multi-KI-Agentensystem Aufgaben verteilt und kollaborativ zu lösen.   Dabei können sie auch LLMs als Teil ihrer Entscheidungs- oder Interaktionsstrategie verwenden. Während beispielsweise das LLM-basierte ChatGPT von OpenAI ein Gedicht generieren oder Googles BERT die Stimmung in einem Satz klassifizieren kann, kann ein KI-Agent wie Siri oder Alexa dazu verwendet werden, smarte Devices zu steuern und Reminder zu setzen.  Laut Benjamin Lee, Professor für Ingenieurwesen und Informatik an der University of Pennsylvania, steht die agentenbasierte KI damit kurz vor einem „Paradigmenwechsel“. Der Grund dafür sei, dass die Agenten es Menschen ermöglichten, große Aufgaben an sie zu delegieren, statt sie nur einzelne Tätigkeiten ausführen zu lassen.  Spezialisierte Modelle könnten Antworten mit weniger Computing- und Energieaufwand berechnen, so Lee. Dabei wählten Agenten effizient das richtige Modell für jede Aufgabe aus – für den Menschen von heute sei das eine Herausforderung, so der Professor.   „Die Forschung im Bereich der künstlichen Intelligenz hat sich bis vor kurzem auf Trainingsmodelle konzentriert, die für eine einzige Aufgabe gut funktionieren“, erklärt Lee. “Eine Aufgabe besteht aber oft aus vielen voneinander abhängigen Aufgaben. Bei der agentenbasierten KI gibt der Mensch der KI nicht mehr einen einzelnen Task, sondern vielmehr einen Job. Eine intelligente KI entwickelt dann eine Strategie und legt die Aufgaben fest, die zur Erledigung dieses Jobs erforderlich sind.“  Laut Capgemini planen 82 Prozent der Unternehmen, in den nächsten drei Jahren KI-Agenten einzusetzen, hauptsächlich für Aufgaben wie E-Mail-Erstellung, Codierung und Datenanalyse. Deloitte prognostiziert indessen, dass Unternehmen, die in diesem Jahr KI-Agenten einsetzen, die Nutzung dieser Technologie in den nächsten zwei Jahren um 50 Prozent steigern werden.   Laut China Widener, stellvertretende Vorsitzende von Deloitte, kann die KI von GenAI-Agenten die Kundeninteraktion verbessern, indem sie Dienstleistungen personalisiert und Support-Aufgaben automatisiert. Die Technologie könne Empfehlungen anpassen, bei Setups helfen und die Übergabe an Mitarbeiter mit zusammengefassten Details optimieren.  Die Tools könnten auch die Überprüfung von Regulierungs- und Unternehmensrichtlinien automatisieren, um Lücken zu identifizieren und Aktualisierungen vorzuschlagen, oder relevante Regeln aufzeigen, um den Aufwand für die Einhaltung von Vorschriften zu reduzieren, so Widener. Dies sei insbesondere in stark regulierten Branchen wie dem Finanz- und Gesundheitssektor nützlich.  „Unternehmen verfügen heute über Tools, um maßgeschneiderte KI-Agenten zu erstellen, die auf bestimmte Arbeitsabläufe zugeschnitten sind“, so die Deloitte-Managerin. “Diese Agenten organisieren selbstständig unstrukturierte Daten, erstellen Berichte und arbeiten bei komplexen Aufgaben zusammen. Startups nutzen beispielsweise Multi-Agenten-Systeme, um Tools wie intelligente Tabellenkalkulationen zu erstellen, die verschiedene Datenquellen integrieren und Aufgaben selbstständig ausführen.“  Warnung vor unbeaufsichtigter KI  Doch es gibt auch Schattenseiten. So warnt Capgemini davor, dass Organisationen, die die Implementierung von KI-Agenten planen, Sicherheitsmaßnahmen ergreifen sollten, um Transparenz und Rechenschaftspflicht für alle KI-gesteuerten Entscheidungen zu gewährleisten. Der Grund dafür sei, dass KI-Agenten, die unsaubere Daten verwendeten, Fehler, Inkonsistenzen oder fehlende Werte einführen können, die es dem Modell erschwerten, genaue Vorhersagen oder Entscheidungen zu treffen. Weise der Datensatz beispielsweise fehlende Werte für bestimmte Merkmale auf, könnte das Modell Beziehungen falsch ableiten oder nicht gut auf neue Daten übertragen, so Capgemini.  Ein Agent könnte auch Daten von Einzelpersonen ohne deren Zustimmung abfragen oder nicht ordnungsgemäß anonymisierte Daten verwenden, warnen die Berater. Zudem sei es möglich, dass große Datensätze mit fehlenden oder falsch formatierten Daten das Modelltraining verlangsamten und mehr Ressourcen verbrauchten, was es erschwere, das System zu skalieren.  Hinzu komme, dass KI-Agenten zwar auch den AI Act und ähnliche Vorschriften einhalten müssten, aber technisch bereits weit fortgeschritten seien. Unternehmen müssten daher nicht nur die Einhaltung der Vorschriften sicherstellen, sondern auch verschiedene Risiken managen, wie etwa Falschdarstellungen, Umgehung von Richtlinien, Fehlinterpretationen und unerwartetes Verhalten.  „Diese Risiken werden die Einführung von KI beeinflussen, da Unternehmen ihre Risikotoleranz bewerten und in eine angemessene Überwachung und Kontrolle investieren müssen“, heißt es in einem im Oktober 2024 veröffentlichten Bericht von Forrester Research mit dem Titel ‚The State Of AI Agents‘.  Laut Matt Coatney, CIO der Wirtschaftskanzlei Thompson Hine, experimentiert seine Organisation bereits aktiv mit dem Einsatz von Agenten und Agentensystemen für rechtliche und administrative Aufgaben. „ Um sie für reale Arbeitsabläufe in Betracht zu ziehen, reicht ihre Leistung und Genauigkeit noch nicht aus“, erklärt er. Die Kanzlei konzentriere sich daher auf den Einsatz von Agenten bei der Vertragsprüfung, Rechnungsstellung, Budgetierung und Geschäftsentwicklung, fügt er hinzu.  Coatney betont, dass die Forschung und Entwicklung im Bereich KI-Agenten noch in den Kinderschuhen stecke. Die meisten kommerziell verfügbaren Tools seien entweder von jungen Startups oder Open-Source-Projekte wie Autogen (Microsoft). Etablierte Akteure wie Salesforce und ServiceNow würden zwar KI-Agenten als Schlüsselfunktion hervorheben, aber der Begriff „Agent“ sei dabei nur vage definiert und werde Marketing-technisch oft überstrapaziert, so der CIO.  Salesforce Einstein sei beispielsweise darauf ausgelegt, das Kundenbeziehungsmanagement durch vorausschauende Analysen und Automatisierung zu verbessern, betont der CIO. Und mit Auto-GPT könnten Anwender einen autonomen Assistenten zu erstellen, der komplexe Aufgaben erledigt, indem er eine Textaufforderung mit GPT-4 und GPT-4o analysiert und das Ziel dann in überschaubare Teilaufgaben aufteilt.  „KI-Agenten befinden sich noch weitgehend in der Experimentierphase, aber es ist aufschlussreich zu sehen, wo Unternehmen in der Vergangenheit in Automatisierung investiert haben“, so Coatney. “Zeitaufwändige, häufig wiederkehrende Aufgaben sind reif für diese Art von Lösung: Finanzen, Betrieb, Verwaltungsprozesse und so weiter. Darüber hinaus werden KI-Agenten für Aufgaben erforscht, bei denen GenAI besonders stark ist, etwa beim Schreiben.“  „Man könnte sich beispielsweise ein Multi-Agenten-System vorstellen, in dem ein KI-Projektmanager, ein KI-Blog-Autor, ein KI-Markenmanager, ein KI-Redakteur und ein KI-SEO-Spezialist zusammenarbeiten, um automatisch markenkonformes Marketingmaterial zu erstellen“, erklärt er.  Heute noch begrenzte Fähigkeiten  Aus Sicht von Tom Coshow, Senior Director Analyst bei Gartner, verfügen viele Agenten heute nur über eine begrenzte Autonomie, treffen nur wenig eigene Entscheidungen und benötigen häufig eine menschliche Überprüfung ihrer Handlungen. Darüber hinaus sei es eine der größten Herausforderungen bei der Bereitstellung von Agenten sicherzustellen, dass sie mit qualitativ hochwertigen Daten arbeiten, die konsistente Ergebnisse lieferten, erklärt er.  „KI-Agenten sind schwierig zu implementieren und erfordern umfangreiche Tests und Überwachung“, so Coshow. “Der Markt für KI-Agenten ist voll von Startups, Hyperscalern, ehemaligen RPA-Unternehmen (Robotic Process Automation), früheren Anbietern von dialogorientierter KI sowie Daten- und Analysefirmen.“  Dennoch sind Unternehmen im Allgemeinen optimistisch, was KI angeht, und erhoffen sich von der Automatisierung Effizienzsteigerungen und besseren Geschäftsergebnisse. Laut Forrester Research erwarten 70 Prozent der Unternehmen aus dem Dienstleistungssektor, dass ihre Organisation in den nächsten zwölf Monaten die Ausgaben für RPA- und Automatisierungsdienste von Drittanbietern erhöhen wird.  Von den Entscheidern für digitale Geschäftsstrategien gaben 92 Prozent an, dass ihr Unternehmen in Chatbots investiert oder dies in den nächsten zwei Jahren plant; 89 Prozent sagten dasselbe über Technologie für mehr Autonomie, Entscheidungs- und Handlungsfähigkeit – drei Hauptaspekte, die es KI-Agenten ermöglichen, mit unterschiedlichem Grad an Unabhängigkeit und Intentionalität zu handeln.  „Unternehmen müssen sich in einer verworrenen Landschaft aus autonomen Lösungen mit fragmentierten Anwendungen zurechtfinden, denen ein übergeordneter Rahmen für eine effektive Koordination oder Orchestrierung fehlt“, erklärte Forrester in einem Bericht vom September mit dem Titel „AI Agents: The Good, The Bad, And The Ugly“.  Die Herausforderung bestehe darin, dass KI-Agenten sowohl Entscheidungen treffen als auch Prozesse ausführen müssten, was die Integration von Automatisierungs-Tools wie iPaaS und RPA mit der flexiblen Entscheidungsfindung der KI erforderet, so Forrester.  Im vergangenen Jahr haben Unternehmen wie Salesforce, ServiceNow, Microsoft und Workday KI-Agenten eingeführt, um Aufgaben wie die Personalbeschaffung, die Kontaktaufnahme mit potenziellen Kunden, die Erstellung von Marketing-Inhalten und die Verwaltung der IT zu optimieren.  Allerdings sollten sich Unternehmen von der Einführung nicht zu viel versprechen. „Wie bei anderen innovativen KI-Lösungen erfordert der effektive Einsatz von KI-Agenten ein hohes Maß an technischem und Prozesswissen“, warnt Coatney von Thompson Hine. “Da sie so neu und experimentell sind, ist noch nicht klar, ob der Mehrwert die Komplexität ihrer Einrichtung und gründlichen Prüfung aufwiegt. Die Rendite ist, wie immer, stark projektabhängig.“