Stefan: 0:09

Hallo und herzlich willkommen zu Coffee, Code & Consult. Sie verbreiten sich in den letzten Jahren immer mehr, helfen vielen bei der täglichen Arbeit oder auch bei der perfekten Urlaubsplanung. Manche von euch haben es damit vielleicht schon erraten. Unser heutiges Thema in einer weiteren Folge zu KI sind Agenten. Mein Name ist Stefan Groß, angehender Architekt bei Kofenpro und ich sitze hier heute gleich mit zwei Kollegen von mir. Als erstes möchte ich euch den lieben Patrick von Berg vorstellen. Hallo Patrick.

Patrick: 0:38

Hallo Stefan.

Stefan: 0:39

Er war schon ein paar Mal bei uns zu Gast zu verschiedenen Themen und wird aber heute in der Moderation unterstützen. Das freut mich auf jeden Fall sehr, dass du dabei bist, Patrick.

Patrick: 0:47

Mich freut es auch riesig, heute die andere Seite des Podcasts mal mehr erleben zu dürfen. Danke für die Einladung.

Stefan: 0:54

Sehr, sehr gerne. Und als Gast heute bei uns und damit auch unser KI-Experte für diese Folge, Fabian Roth, der vor allem mir hoffentlich ein bisschen Klarheit in die Begrifflichkeit des Agenten bringen wird.

Fabian: 1:06

Hallo Fabian. Ja, hallo Stefan. Hallo Patrick. Ich freue mich riesig, hier heute dabei zu sein, euch ein bisschen was über Agenten zu erzählen.

Stefan: 1:15

Dann fangen wir doch mal genau damit an. Agent, ist jetzt kein Nicht-Werksgrund? Was ist denn kein Agent?

Fabian: 1:21

Genau, einen Agent im Bereich KI kennt man eigentlich historisch, sage ich mal, so ein bisschen aus dem Reinforcement Learning, wo man das Setting hat, dass man einen Agent hat und eine Umgebung, Environment nennt man das auch. Und der Agent agiert in dieser Umgebung, also der liefert Aktionen und bekommt zurück Observations und Feedback. Und jetzt haben wir uns ja in letzter Zeit, haben wir in der Öffentlichkeit viel gesehen im Bereich KI, was generative KI ist, also Chat, GPT, Large Language Models. Und die Agenten, die man jetzt heutzutage kennt, sind eigentlich in gewisser Weise eine Kombination davon. Also das sind im Wesentlichen Large Language Models, aber man benutzt Technologie, um die dazu zu bringen, Aktionen auszuführen, was natürlich ganz neue Vorteile bringt gegenüber einem reinen Chat-Interface zum Beispiel, wenn der Agent auch eigene Aktionen durchführen kann. Und ein wesentlicher Aspekt meiner Meinung nach ist, dass der Agent sich quasi Informationen beschaffen kann, um eine bestimmte Aufgabe zu erledigen. Das ist extrem nützlich. Das kennt man auch schon, wenn man Tetschipet hier heutzutage benutzt und stellt da eine Anforderung. Dann kriegt man manchmal gesagt, er macht jetzt eine Websuche und das sind eigentlich schon auch agentische Aspekte, die da drin vorkommen. Nämlich der Agent geht quasi ins Internet und sucht Informationen, nach denen man gefragt hat und überwindet so diese Limitierung, dass er nur aus den Trainingsdaten, also aus seinem Vorwissen die Frage beantwortet.

Stefan: 2:47

Fangen wir vielleicht an der Stelle nochmal kurz einen Schritt zurück an. Ich höre jetzt darüber raus, Chattipity, mit dem wahrscheinlich sehr viele vertraut sind, ist kein Agent, hat agentische Aspekte, aber ist im Endeffekt einfach mein Large-Language-Model, dem ich eine Frage stellen kann und aus den Trainingsdaten kommt was zurück. Genau. Und der Agent, der baut da drauf auf. Das heißt, der ist ein Konstruktor außenrum oder wie darf ich das verstehen?

Fabian: 3:09

Ja, das hat sich so ein bisschen über die Zeit entwickelt. Also das Chat-GPT ist ja erstmal das Model, was dann nochmal nachtrainiert wurde, um dieses Chat-Interface zu bedienen. Ursprünglich waren es eigentlich so Complete-Modelle, die im Prinzip einfach immer nur den nächsten Token generieren, um Texte zu vervollständigen. Man hat es dann so gebaut, dass man mit dem gut chatten kann, also dass er das versteht, dass es ein Chat ist und auch auf Eingaben so antwortet, wie man es in dem Chat tun würde. Und wenn man jetzt einen Agenten betreiben will, dann hat man da den Begriff des Harnesses und das kann man sich so vorstellen, dass eben das Large Language Model quasi in der Mitte sitzt und außenrum hat man dieses Harness gespannt und es fängt in gewisser Weise so ein bisschen ab, was aus dem Language Model rauskommt. Und wenn dann das Language Model bestimmte Wörter ausspuckt, die von dem Harness als Instruktionen aufgefasst werden, dann werden darüber eben Aktionen durchgeführt. Man kennt das heutzutage auch als Skills. Also die modernen Agenten, denen kann man Skills bereitstellen. Da kann man quasi in den Pfeil reinschreiben, was kann die KI machen und wie funktioniert das, welche Ausgaben muss sie dafür liefern, um das durchzuführen und welche Rückgabe kann sie davon ungefähr erwarten.

Patrick: 4:23

Kannst du uns da vielleicht mal so Beispiele aus deinem Alltag geben, wo du genau das schon mal erlebt hast, wo du es anwendest, um mal den Zuhörern und uns einen kleinen Eindruck zu geben?

Fabian: 4:35

Ja, also beim Coding benutzt man natürlich ganz viel Agenten, auch generell KI, aber auch Agenten sind da auf jeden Fall ein ganz großer Mehrwert. Da merkt man immer den direkten Vergleich. Wenn man jetzt in einem Umfeld ist, wo eben agentische KI noch nicht zur Verfügung steht oder man kennt es auch von früher, Dann hat man immer ganz viel gekopy-pasted. Also man hat dann ein Chatfenster offen und hat eben seine Entwicklungsumgebung offen und kopiert dann den Code in das Chatfenster und schreibt seine Anforderungen dazu, was man gerne hätte, wie soll der Code angepasst werden oder vielleicht Vorschläge, wie man eine Implementierung machen könnte. Und dann wird das in diesem Chat beantwortet und man kopiert das wieder raus und in seine Entwicklungsumgebung zurück. Und wenn ich jetzt eben einen KI-Agenten habe, der direkt auf meinem Filesystem läuft, wo ich entwickle, wo die Dateien liegen, die ich entwickle, dann kann ich dem eben sagen, ja, schau dir mal bitte mein gesamtes Repository an, schau dir mal die Dateien an, verschaff dir mal einen Überblick, guck mal, welche Pakete verwende ich hier, was ist eigentlich das Ziel von dem Projekt. Und dann navigiert er selbstständig dadurch und kann eben über eigentlich relativ gewöhnliche Befehle, mit denen man Dateien ausliest, die kann er dann ausführen und kriegt so den Inhalt dieser Dateien in sein Kontextfenster. Genau, da ist ja zum Beispiel jetzt Cloud Code in aller Munde, das ist total verbreitet, aber der Ansatz ist eigentlich immer der gleiche, dass man der KI Zugang gewährt zu Möglichkeiten, Dinge auszuführen und selbstständig einzulesen und man eben nicht mehr limitiert ist auf dieses Chatfenster.

Patrick: 6:05

Also auch für mich auf der Entwicklerseite ein echter Effizienzgewinn. Ich muss jetzt nicht mehr den Stack Overflow suchen. Ich muss jetzt nicht mehr das kundeninterne GPT befragen und den Fehlermeldung rüberkopieren. Der hat direkt Zugriff auf meine IDE, auf meinen lokalen Code, auf all die Dinge.

Fabian: 6:23

Ja, genau. Und hier kann man auch nochmal unterscheiden, weil man hört ja auch manchmal, Agenten seien gefährlich. Da ist natürlich ein bisschen was dran. Also man hört ja schon, die sind sehr mächtig, die können sehr viel machen. Gerade dieses Aktionen ausführen, da muss man natürlich vorsichtig sein, welche Berechtigungen räume ich dem Agenten ein, also welche Aktionen kann er denn ausführen. Und wenn ich ihm jetzt natürlich die Berechtigung einräume, meine Dateien zu lesen und mir dazu Fragen zu beantworten, dann ist das erstmal nicht gefährlich. Wenn ich ihm aber natürlich Admin-Zugang zu meiner Datenbank gebe, das sollte ich mir nochmal zweimal überlegen. Also das ist wahrscheinlich nicht der richtige Ansatz.

Patrick: 6:56

Und ist es denn dann ein Agent, der alles macht? Ich höre immer viel zu, der Kontext wird irgendwann zu groß, es vergisst Dinge. Wie ist es denn da?

Fabian: 7:08

Ja, sehr gute Frage. Da hat man auch viel ausprobiert. Das ist ja auch viel Trial and Error. Und es gibt auch Ansätze, wo man versucht, dann einen Agenten zu betreiben, der ganz viele Aufgaben übernimmt. Aber die Tendenz ist heutzutage eher dazu, dass man spezialisierte Subagenten hat, eben um auch diese Problematik mit dem Kontext besser adressieren zu können. Da würde ich jetzt ein bisschen ausholen. Bei KI ist es im Allgemeinen so, also bei diesen Large Language Models, die haben ja ein sogenanntes Kontextfenster. Das kann man sich vorstellen wie das Kurzzeitgedächtnis der KI. Das heißt, alles, was in diesem Kontextfenster ist, das hat die unmittelbar präsent, quasi im Bewusstsein, ist jetzt mit Vorsicht zu genießen in dem Kontext natürlich der Begriff. Aber das ist die Information, auf die die KI unmittelbar zugreifen kann, die sie quasi vor Augen hat. Und wenn dieses Kontextfenster eben voll läuft, also das hat auch eine beschränkte Kapazität. Und wenn es voll ist, dann kann die KI erstmal nicht weiterarbeiten. Aber auch wenn das noch nicht ganz voll ist und es wird so ein bisschen überhäuft, dann hat man den Effekt, dass die KI durcheinander kommt. Also es hat sich auch einfach empirisch gezeigt, dass die Performance dann abnimmt. Gerade wenn die Inhalte von dem Kontextfenster eigentlich dann mit der aktuellen Aufgabe nicht mehr so viel zu tun haben. Deswegen hier auch als Tipp an unsere Zuhörer, es ist eigentlich immer ganz gut, wenn man merkt, man kommt mit der KI gerade nicht mehr so gut voran und man hat vielleicht schon ein bisschen hin und her gechattet und nochmal seine Anforderungen präzisiert, aber irgendwie geht es nicht mehr so wirklich in die Richtung, wie man sich das vorgestellt hat. Manchmal hilft es auch einfach, da einen neuen Chat aufzumachen, ein neues Kontextfenster anzufangen. Und genauso ist es auch mit den Agenten. Da hat man dann heutzutage ganz viele Subagenten, die sich zum Teil auch gegenseitig aufrufen und die haben dann ganz spezialisierte Anforderungen, vielleicht auch spezialisierte Skills. Das heißt, die haben unterschiedliche Befähigungen und Berechtigungen, was sie machen können und werden dann ganz präzise eingesetzt, um einzelne Aufgaben zu übernehmen, auf die sie sich dann auch voll konzentrieren können. Und ja, diese Idee, dass man so einen Agenten hat und der weiß alles und kann alles, was vielleicht auch in diesem Kontext AGI, also, allgemeine künstliche Intelligenz, was man schon oft gehört hat, das ist ein bisschen am Zurückgehen heutzutage, weil es ist einfach schwer zu erreichen, schwer zu machen und man merkt auch, die Kosten gehen dann hoch und die Ergebnisse sind nicht unbedingt besser, als wenn man sich spezialisiert.

Stefan: 9:27

Für alle, die sich mehr zum Thema Kontext informieren wollen, wir haben auch eine Folge zum Thema Kontext Engineering in den letzten Monaten herausgebracht. Dort gehen wir nochmal ein bisschen im Detail dazu ein. Jetzt aber für mich die Frage, das bedeutet, wenn ich mehrere Agenten habe, dann haben die auch verschiedene Kontexte.

Fabian: 9:45

Jeder Agent hat eigentlich immer sein eigenes Kontextfenster, seinen eigenen Kontext. Das ist eigentlich auch der Sinn davon, nämlich dann können die sich wie gesagt auch voll konzentrieren auf ihre jeweilige Aufgabe, können auch genau die Informationen dann dazu ziehen, die sie dafür brauchen. Also kann zum Beispiel eine Websuche machen oder eine Datenbankabfrage, die genau für diese Aufgabe gerade wichtig ist oder beim Programmieren genau ein bestimmtes Pfeil durchlesen, was jetzt, für die Beantwortung von einer bestimmten Frage wichtig ist oder für das Ausführen von der Implementierung. Und verwirren sich dann nicht selbst, indem sie Informationen einlesen, die damit erstmal nichts zu tun haben. Und zum anderen kommt ja auch immer der Kostenaspekt. Man sagt ja Tokens are cheap, aber natürlich auch nicht umsonst, sondern es kommt auch immer ein bisschen auf den Scale an, in welchem Umfang man es einsetzt. Und wenn man natürlich den Agenten, sage ich mal, ungeschickt konfiguriert und der 90% der Zeit irgendwas macht, was man eigentlich nicht braucht oder was einen nicht weiterbringt, dann hat man halt auch enorme Kosten ohne den entsprechenden Mehrwert. Also da ist die Präzision auf jeden Fall das erfolgsversprechendere Konzept.

Patrick: 10:51

Du hast jetzt von Agenten und Subagenten gesprochen. Vielleicht da nochmal zwei Sätze zu verlieren und uns zwei Punkte mitgeben, was das denn sind und wie koordinieren sich diese Agenten denn auch untereinander? Das stelle ich mir jetzt wahnsinnig schwierig vor. Jeder arbeitet da in seinem kleinen Kontext, in seinem kleinen Raum, aber letztendlich arbeiten sie ja doch auf ein gemeinsames, großes Ziel hin und irgendwie muss das ja auch gesteuert werden.

Fabian: 11:21

Ja, sehr gute Frage. Das ist die Fragestellung der Orchestration, nennt man das. Und da gibt es einen populären Ansatz heutzutage, wie man es machen kann. Also theoretisch kann ich das natürlich auf viele Arten machen und kann mir Systeme überlegen, in welcher Situation ich wie viele Agenten auf welche Aufgabe loslasse. Es hat sich ja aber auch herausgestellt, dass eben diese Interaktion mit einem, Chat-KI-Bot, wie man es auch von Chat-GPT kennt, eben sehr angenehm ist für den User, dass man eine Anlaufstelle hat und nicht unbedingt ganz viele verschiedene Agenten dann für dieselbe Aufgabe die ganze Zeit befragen muss. Und deswegen hat man da dieses Konzept der Subagenten. Das heißt erstmal andersrum, ich habe eigentlich in der Regel dann eine KI, mit der ich primär rede, die ist sozusagen mein Ansprechpartner und die übernimmt dann für mich auch die Orchestrierung. Das heißt, ich kann dir dann sagen, ich würde gerne nochmal über dieses Paket, diese Library irgendwie was erfahren. Kannst du da mal eine Websuche machen? Und dann entscheidet eigentlich diese KI, die hier mein Ansprechpartner erstmal ist, Clued Code zum Beispiel, dafür einen Subagenten loszuschicken und diese Information zu beschaffen. Das heißt, die spawnt den sozusagen. Und ja, arbeitet dann auf dem, was sie von diesem Subagenten zurückbekommt, weiter und gibt mir das dann zurück für meine Verwendung oder schickt neue Agenten los, die damit irgendeinen Task erfüllen, irgendeine Aufgabe erfüllen sollen.

Patrick: 12:46

Also kann ich mir das so ein bisschen wie einen Projektmanager vorstellen, der das ganze Projekt im Blick hat und die Ressourcen darunter steuert und weitergibt? Welche Aufgabe muss denn jetzt eigentlich an welchen Subagenten gehen?

Fabian: 13:00

Ja, genau so ist das eigentlich gemeint. Also das ist, wie gesagt, einer der Ansätze, wie man es betreiben kann, aber es ist ein sehr beliebter, weil man hat natürlich dann auch die Vorteile, wie wenn man eben einen Projektmanager hat. Man hat einen Ansprechpartner, da hat jemand den Überblick und man kann dann die allgemeinen Fragen darauf stellen und hat aber zusätzlich natürlich noch die spezialisierten Ressourcen, die in ihrem Gebiet sich sehr gut auskennen sozusagen.

Patrick: 13:23

Und was sind denn dann so verstanden? Projektmanager-Rolle, Subagenten, die denen zuarbeiten? Aber das klingt jetzt erstmal sehr aufwendig, sehr ein großes Thema, das aufzubauen. Was sind denn dann so die typischen Bereiche, wo ich sage, da lohnt sich das jetzt einzusetzen?

Fabian: 13:46

Ja, ich würde sogar sagen, im Zweifel ist es eigentlich was, was man erstmal hinten anstellt, also für die Leute, die noch nicht so viel KI verwenden oder auch noch nicht so viel agentische KI verwenden, würde ich mir darüber erstmal nicht so viele Gedanken machen, sondern ich würde erstmal gucken, dass man Übungen bekommt und gut reinkommt in das Habit, mit einem KI-Agenten überhaupt zu arbeiten und zu schauen, wie verlässlich sind denn die Dinge, die der ausführt, Wie, welche Fragen stellt er mir oder muss ich die ganzen Fragen mir am Anfang selber stellen und ihm die wichtigen Informationen mitgeben? Versteht er selbst, wo er welche Informationen findet, die er braucht, um die Aufgaben auszuführen? Das sind, denke ich, so entscheidendere Fragen im ersten Schritt. Und wenn man dann diesen Kontext-Overload, den wir vorhin auch schon erwähnt haben, oft beobachtet, dass dieser, KI-Agent eben, dass sein Kontextfenster vollläuft und er dann einfach viele verschiedene Themen quasi gleichzeitig im Kontext hat, dann macht es eigentlich Sinn, den Schritt zu gehen auf Subagenten oder den KI-Agenten mal darauf hinzuweisen. Oder man kann es auch oft einfach fragen, ob diese Möglichkeit besteht in dem Tool, was man benutzt, dass er dafür Subagenten einsetzt, um dann zum Beispiel eine Webrecherche einfach nochmal durchzuführen. Also gerade bei so Recherchetasks ist es sehr üblich, dass man Subagenten einsetzt, weil man da ja auch die Situation hat, dass man erstmal viel Information durchliest und einliest, die dann aber im Nachgang nicht mehr unbedingt alles, dass nicht alles davon irgendwie nützlich oder erforderlich ist, sondern man sortiert dann auch viel aus. Und da macht es dann Sinn, einen Subagenten das konsolidieren zu lassen, vielleicht die Findings zusammenfassen zu lassen. Und dann kann man diesen Kontext von dem Subagenten auch, sage ich mal, vergessen und braucht diese ganzen Zwischeninformationen eigentlich nicht mehr jetzt auf dem Schreibtisch behalten, sozusagen. Die sind dann eher schädlich.

Stefan: 15:37

Jetzt haben wir viel darüber geredet, was die Agenten eigentlich so alles können. Du hattest da den Begriff Skills mal in den Raum geworfen. Ich habe da im Hinterkopf so ein bisschen das MCP, das Model Context Protokoll. Dazu haben wir auch in einer anderen Folge ein bisschen tiefer eingestiegen, was das genau ist. Daraus hatte ich mitgenommen, okay, MCP ist so ein bisschen ein Interface, in dem ich meinen Agenten definieren kann, hey, wenn du jetzt mit diesem System sprechen willst, dann tust du das auf die Art und Weise. Das heißt dabei, das gebe ich meinen Agenten mit und dann kann er das automatisch oder funktioniert es irgendwie im Zusammenhang mit den Skills? Muss ich da Berechtigungen freischalten? Also wie funktioniert dieses ganze Konstrukt überhaupt, dass mein Agent plötzlich eine Websuche machen kann, dass mein Agent plötzlich einen Subagenten spawnen kann, dass mein Agent plötzlich mit meiner internen API reden kann? Wie spielt das alles zusammen?

Fabian: 16:30

Ja, man nennt das ja im Allgemeinen Tool Use. Also das ist ja wie gesagt einer der großen Vorteile der Agenten, dass sie eben fremde Systeme auch nutzen können und einem nicht einfach nur eine Antwort nach ihrem eigenen Ermessen geben, sondern sie nutzen Werkzeuge, und können damit Informationen schaffen und Tätigkeiten durchführen. Und das funktioniert in der Regel so, dass man eben ein Tool ihnen bereitstellt. Zum Beispiel kann es auch eine Command-Line sein. Also man hat ja gerade, wenn man jetzt programmiert, viel diese Terminals. Das kennen jetzt vielleicht die Nicht-Programmierer, wenn dann die Programmierer am Rechner sitzen und da ist, ja, der Bildschirm ist schwarz und da sind viele Zeichen und unten blinkt so ein bisschen der Cursor und man kann da so Befehle eintippen und dann passiert da was. Das sieht dann so ein bisschen aus wie bei Matrix. Das ist oft das Terminal, was die Leute benutzen, wo man eben ja auch als Programmierertools benutzen kann. Das heißt, man tippt Befehle in den Computer ein und dann macht er was und gibt einem eine Rückgabe. Und so ähnlich kann das natürlich der KI-Agent auch. Das heißt, ich kann diesen Harness so einstellen, dass ich sage, wenn der KI-Agent bestimmte Befehle jetzt in Textform mir zurückgibt, dann fängt dieser Harness das ab und leitet das weiter zum Beispiel an so ein Terminal oder an CLI, also so ein Command Line Interface. Im Wesentlichen läuft das heutzutage, ich sage mal, noch über Text. Das heißt, am besten funktionieren Werkzeuge, Tools, die man dem KI-Agenten. Zur Verfügung stellt, die über Text funktionieren. Und die Schnittstelle ist in der Regel, dass man bestimmte Befehle dem KI-Agenten anbietet und eben dazu auch eine Beschreibung mitliefert, denn der KI-Agent kann das natürlich nicht erraten, was dieses Tool macht und was dabei rauskommt und ob das jetzt auch nützlich ist für die Aufgaben, die er erfüllen soll. Deswegen hat man eigentlich dann so Skills, Files, ist eigentlich der Standard heutzutage, wo man die auflistet, die ganzen Tools, die der KI-Agent benutzen kann und darf. Und da schreibt man dann rein, was das alles ist und was das jeweils macht. Und der KI-Agent liest es ein, wie er auch sonst einfach Text einliest und trifft dann sozusagen die Entscheidung selbst, welches Tool jetzt in welcher Situation ihm weiterhelfen könnte. Also da ist in dem Kontext ist auch wichtig, dieses Konzept des Reasoning, das haben wir jetzt heute noch nicht erwähnt. Ich glaube, in einer anderen Folge kam das schon mal dran. Reasoning bedeutet im Wesentlichen, dass die KI so ein bisschen Selbstgespräche führt, so kann man sich das vorstellen. Das kennt man auch von TED-GPT, dass er dann sagt, er überlegt oder er guckt jetzt irgendwie nochmal was nach und muss sich das quasi nochmal durch den Kopf gehen lassen. Und was da im Hintergrund passiert ist, die KI redet quasi mit sich selbst, also führt so ein Selbstgespräch und fühlt sich das alles nochmal vor Augen, was sie denn jetzt schon weiß und was sie vom User bekommen hat und überlegt dann quasi so ein bisschen, was jetzt der sinnvolle nächste Schritt ist. Und dieses Reasoning ist dann gerade, wenn man Tools hat, extrem wichtig. Deswegen gibt es auch dieses React-Framework, also Reasoning and Acting. Denn dann kann ich meinem KI-Agenten eben diese ganzen Tools anbieten und er kann dann selbst darüber sinnieren, welches Tool jetzt Sinn macht einzusetzen und kann es dann auch ausprobieren und kann dann nochmal evaluieren, ob das jetzt was gebracht hat oder nicht, ob er nochmal ein anderes Tool benutzen möchte oder ob er das Ergebnis schon an den User zurückgibt. Ja, und MCP ist eine Art, dem Agenten die Möglichkeit zu geben, zu agieren, aber das geht eigentlich auf viele Arten. Das läuft eigentlich immer über den Harness und dass man ihm eben anbietet, welche Aktionen er durchführen kann und er dann selber diese Entscheidung trifft. Und hier würde ich gerne nochmal hinzufügen, was da wichtig ist, dass man den KI-Agenten wirklich, wie man es auch sonst von Berechtigungssystemen kennt, nur Aktionen anbietet und zur Verfügung stellt, die auch für die jeweilige Aufgabe wichtig und relevant sind. Also relevant zum einen, weil er sonst auch einfach durcheinander kommt. Wenn er viel zu viele Möglichkeiten hat, was er alles machen kann, dann sinkt ganz stark die Wahrscheinlichkeit, dass er dann auch das richtige Tool auswählt für den Task. Das hat sich auch in der Empirie gezeigt. Und die Berechtigungen sind ja auch ganz wichtig, denn das macht natürlich keinen Sinn, wie gesagt, zum Beispiel meinem Programmieragenten Zugang zur Produktionsdatenbank zu geben, da irgendwelche Tabellen zu löschen. Und wenn er das dann tut, dass ich mich dann wundere, ja, ich habe ihm gesagt, er soll es nicht machen. Also da verlässt man sich nicht auf die Zuverlässigkeit der KI und dass sie immer das macht, was man von ihr fordert und was man zu ihr sagt. Sondern da ist es ganz wichtig, dass man dann ein umfassendes Berechtigungskonzept hat und sich dazu im Vorfeld Gedanken gemacht hat, was darf die KI machen. Und das dann auch entsprechend abbildet und sich da nicht einfach auf das Urteilsvermögen der KI verlässt, wenn es denn drauf ankommt sozusagen. Das ist immer ganz wichtig, hier im Kopf zu behalten, gerade auch bei der Bewertung dieser Headlines, die man in den Medien sieht, dass Openclaw-Agenten irgendwelche Datenbanken gelöscht haben und irgendwelches Geld ging verloren und solche Sachen. Das sind in der Regel eigentlich immer Problematiken, dass der Agent einfach Berechtigungen hat, die er nicht haben darf.

Stefan: 21:29

Ja.

Patrick: 21:30

Ich hätte mal nochmal so eine Frage, auch ein Stückchen nochmal zurück Richtung Agentensysteme. Jetzt sind wir ja in einem Bankenumfeld, wo sehr regulatorisch getrieben ist und wo dann ist es immer noch KI, sie arbeitet immer noch statistisch mit Wahrscheinlichkeiten, wo dann auch mal eine Genauigkeit von 95 Prozent nicht ausreicht. Was ist denn da so der Zielzustand, auf den man da hinarbeitet? Sollte so ein KI-System irgendwann alles machen? Weil die Bank hat ja auch funktionierende Prozesse, die ich ja eigentlich nicht ersetzen möchte, die deterministisch sind, die gut sind. Wie bekomme ich das zusammen?

Fabian: 22:08

Ja, ich glaube, das ist eine Frage, die tatsächlich gerade viele Leute umtreibt. Also wo ist KI einzuordnen und für was sollte man es einsetzen und für was nicht? Für was kann man es auch einsetzen überhaupt? Und es ist auch schwierig zu beurteilen für die meisten Leute, weil es dazu einfach auch ganz wenig Erfahrungswerte und Erfahrungsdaten gibt, weil die Technologie auch so neu ist. Und ja, wie so oft muss man dann so ein bisschen zeigen, wie sich die Sache entwickelt. Im Wesentlichen kann man aber schon sagen, dass wenn man funktionierende Prozesse und funktionierende Systeme hat, die vollautomatisch arbeiten, dann ist das eigentlich immer noch der Goldstandard. Also wenn ich jetzt, sage ich mal, was einprogrammiert habe, ein System, was genau meine Anforderungen erfüllt, dann gibt es eigentlich gar keinen Grund, dass man jetzt sagt, KI soll das ersetzen. Weil wie du schon gesagt hast, wenn ich da eine Zuverlässigkeit von 95 Prozent habe, gibt es eigentlich keinen Grund, das vorzuziehen gegenüber einem System, was eine Zuverlässigkeit von 100 Prozent hat. Zumal auch der Einsatz von KI eher teurer ist über diese Token-Abrechnungen, als wenn ich jetzt einfach ganz normale Server betreibe, wo Standardberechnungen und Standardprozesse durchgeführt werden.

Patrick: 23:19

Wenn ich jetzt nochmal so in Richtung komplexe Prozesse, viele weichen, Agentsysteme, ich stelle mir das jetzt vor, dass ich dann auch über so einen Agents- und deterministischen Prozess starten kann, dass der denn einfach Triggert und der deterministisch weiterläuft, ohne dass an dieser Stelle der Agence zu tragen kommt und dann Ergebnis zurückliefert.

Fabian: 23:40

Genau, das wäre dann eigentlich genau der Anknüpfungspunkt zu dem Tool-Use, zu den Skills, die wir vorhin auch schon besprochen haben. Das ist eigentlich nach aktuellem Standard der optimale Case, dass die KI, Daten, sage ich mal, einordnet und verarbeitet und bewertet, die man mit klassischer Programmierung nur schwer zu greifen kriegt, also zum Beispiel jetzt Fließtext oder Usereingaben, Useranforderungen, wo es vielleicht auch ein bisschen auf die Subtinitäten ankommt oder dass man irgendwie Kontext zusammensucht, aus einer Websuche, wo man einfach extrem viel Text hat, den man auch inhaltlich bewerten muss, also wo ich nicht einfach ein Programm drüber laufen lassen kann, was jetzt irgendwie. Bestimmte Keywords zählt, sondern man möchte gerne, dass auch der Inhalt verstanden wird und anhand dessen dann deterministische Systeme ausgelöst werden, die könnte man zum Beispiel dann den KI-Agenten über Skills zur Verfügung stellen und die kann er dann ausführen. Und was dann in diesem Skill passiert, ist eigentlich eine deterministische Abfolge, also ein deterministischer Ablauf. Und das ist eigentlich die optimale Kombination, denn so habe ich die Stärke von KI, nämlich dieses semantische Verständnis und dieses, dass er auch auf Inhalt eingehen kann und auf Reasoning betreiben kann und so ein bisschen reflektieren, Was wird dann passieren und wie komme ich meinem Ziel näher, dass ich das kombiniere mit der Zuverlässigkeit von klassischer Programmierung und klassischen Computersystemen und auch der Ausführungsgeschwindigkeit. Denn man kennt das auch, dass KI auch manchmal ein bisschen, dass es ein bisschen dauert, gerade dieses Reasoning. Und wenn da noch Tool-Use involviert ist, dann muss man da ein bisschen länger warten. Und in der Regel sind ja, sage ich mal, klassische Computersysteme schon sehr schnell. Also wenn ein Computer was macht, dann ist es ja immer im Bereich von Millisekunden pro Iteration. Vielen Dank.

Patrick: 25:27

Cool, wenn das der Optimalfall ist, auf den man hinarbeiten soll, dann muss ich wahrscheinlich ja auch meine IT-Systeme, meine Organisation da irgendwie drauf vorbereiten. Und ich glaube, Stefan, damit haben wir schon das Thema für den nächsten Podcast, KI-Readiness. Wie bereite ich meine Organisation auf Agentensysteme vor?

Stefan: 25:43

Aber das wäre auf jeden Fall ein zu großes Thema für diese Folge. Klingt nach einem spannenden, zusätzlichen Thema. Wir haben jetzt viel auch in die Richtung von Programmierung geredet. Dein Beispiel war bis jetzt immer Cloud Code. Gibt es andere Agenten, andere agentische Systeme, die man vielleicht auch nutzt, wenn man gerade vielleicht nicht selber in irgendeiner Form Software entwickelt oder die dann entwickelte Software nutzen kann, um die sehr feministische Aufrufe und so weiter zu machen. Also das hilft mir gerade noch so ein bisschen der Anknüpfungskunde. Okay, klar, Code kenne ich, habe ich vielleicht sogar schon mal benutzt oder Codex oder was auch immer nur an der Stelle nutzt. Aber was ist außerhalb der Entwicklung?

Fabian: 26:25

Ja, ich glaube, also wenn man jetzt sagt, ich möchte auch gerne mal einen KI-Agenten benutzen und mal wissen, wie das ist oder was mir das bringen kann, wie gesagt, diese Leistungsfähigkeit, also überhaupt, dass man nicht mehr limitiert ist auf so ein Chatfenster und die KI, so aus Intuition mir direkt eine Antwort liefert, sondern auch so nachdenken kann und Aktionen durchführen, eine Websuche durchführen, Informationen selbst beschaffen, das ist so nützlich und so hilfreich, dass das eigentlich in die ganzen Standard-Tools nach und nach integriert wird. Also bei ChatGPT sieht man das wie gesagt auch schon, dass er dann auch sagt, er überlegt oder er macht jetzt eine Websuche und er vergleicht vielleicht mit Quellen und die anderen Anbieter bringen das auch immer mehr in ihre Standard-Tools rein. Also das sind auch schon agentische Aspekte, wo man von diesen Vorteilen auch schon profitiert auf jeden Fall. Das ist nicht so, dass es an einem völlig vorbei geht, wenn man, sage ich mal, die Standard-Tools nutzt. Das andere, was auf jeden Fall ganz große Wellen geschlagen hat, ist Open Claw. Das hat man super viel in den Medien gesehen. Das funktioniert im Prinzip so, da habe ich einen dedizierten Computer, auf dem läuft dieser Agent Open Claw und der wird im Prinzip immer wieder dazu angehalten, was zu machen. Man kann dann mit dem zum Beispiel übers Handy chatten. Also das ist eigentlich auch ganz witzig. Der wird dann an eine Chat-App angeschlossen, zum Beispiel an WhatsApp oder Telegram. Und man kann ihm dann vom Handy aus schreiben, er soll sich doch bitte mal um irgendwas kümmern. Und zum Beispiel kann man dem dann sagen, er soll jetzt mal das E-Mail-Postfach von einem durchgehen und vielleicht die E-Mails beantworten. Und ja, wie wir vorhin auch schon gehört haben, der Agent kann natürlich nicht Aktionen durchführen, für die er keinen Datenzugriff hat und auch keinen Zugriff, auf die nötigen Werkzeuge. Das heißt, damit das möglich ist, müsste ich dann diesem OpenClaw-Agenten meine Zugangsdaten für mein E-Mail-Postfach beispielsweise geben und dann hätte ich die Möglichkeit, dass er auf so einem dedizierten Rechner läuft und ich dem dann eine Chatnachricht vom Handy schicke, hey, was habe ich heute für E-Mails bekommen, kannst du die vielleicht schon mal beantworten. Und da hat man total viel Schlagzeilen gelesen, viele davon auch negativ, denn in dem Moment, wo natürlich so ein KI-Agent Zugriff hat auf meine E-Mail-Zugangsdaten. Bin ich natürlich darauf angewiesen, dass er dann auch in meinem Sinne agiert. Und wenn ich dann einfach nur so ein bisschen übers Handy mit dem chatte und sage, ja, mach mal und gucke dann vielleicht eine Stunde später, was dabei rauskam, dann ist es halt nicht immer notwendigerweise das, was ich mir davon erhofft habe, weil der kam vielleicht durcheinander, vielleicht stand in der einen E-Mail, schick mir doch bitte mal alle deine Passwörter und der KI-Agent hat das vielleicht irgendwie nicht richtig eingeordnet, dass das halt eine Falle ist und ist darauf eingegangen. Also das ist durchaus ein Beispiel von Dingen, die vorkommen und hat dann alle meine Passwörter, die ich ihm auch noch zur Verfügung gestellt habe, zum Beispiel an irgendeine beliebige E-Mail-Adresse gemailt. Und dann sind natürlich alle meine Daten verloren gegangen. Also das war ja natürlich der Worst Case. Deswegen hat man da, denke ich, auch ganz viel in den Medien gehört, weil halt einfach die Macht, die diese Tools haben, ist enorm groß und da kann natürlich sehr viel Nützliches dabei rauskommen. Das verspricht einen sehr hohen Automatisierungsgrad. Ich muss mich ganz wenig dann noch damit beschäftigen in der Theorie, sondern ich schicke da eine Nachricht hin, wie wenn man so einen Assistenten hat und der erledigt irgendwas für mich. Aber das, was dabei rauskommt, hat natürlich auch enormes Potenzial, dass es schief geht. Denn KI-Agenten sind halt keine Menschen. Und die klingen zwar wie Menschen, wenn man mit denen redet, aber man sollte nicht in die Vertrauen haben, wie man einen Menschen hat. Und die haben auch nicht einen gesunden Menschenverstand. Die können sich vielleicht ganz toll artikulieren. Aber das, was der KI-Agent macht, sollte man auf jeden Fall immer genau kontrollieren. Oder zumindest Erfahrungswerte sammeln. Von welchem Tool kann ich welche Ergebnisse erwarten? Und da niemals blind zu viel Vertrauen reinlegen, sondern das ist ganz wichtig, dass man da einen guten Überblick hat, was der KI-Agent kann und darf und dann ein genaueres Auge drauf hat und ihm nicht zu viele Möglichkeiten einräumt. Wie gesagt, gerade das mit den Passwörtern, dass er Einblick hat auf die Passwörter, ist natürlich auch verlockend, dem KI-Agenten viele Möglichkeiten zu geben, zu agieren und mit meinen Daten irgendwas zu machen. Ja, für mich, wie gesagt, E-Mails zu beantworten oder irgendwelche anderen Aktionen für mich zu erledigen, wo er dann meine Autorisierung braucht, meine Passwörter braucht und sich als mich ausgibt vielleicht. Aber das, wie gesagt, das Risiko ist natürlich offensichtlich eigentlich, wenn man mal genau drüber nachdenkt.

Stefan: 30:45

Ja.

Fabian: 30:47

Also OpenClaw ist da ein prominentes Beispiel und die anderen Anbieter bringen jetzt auch nach und nach Konkurrenzprodukte raus. Es gibt jetzt auch Cloud Desktop und ich glaube, von Microsoft gibt es auch irgendwas. OpenAI bringt auch Codex, glaube ich, auf den Desktop jetzt als App. Das heißt, die laufen dann auch auf dem Rechner und können da Aktionen durchführen. Was sich da so ein bisschen jetzt auch rauskristallisiert, man kann natürlich diesem Agenten eine sogenannte Sandbox zur Verfügung stellen, was ein sehr sinnvoller Ansatz ist. Das heißt, ich gebe dem einen abgesteckten Bereich auf meinem Computer, auf dem er überhaupt agieren kann und da kann er gar nicht raus. Und ja, muss ich natürlich damit kombinieren mit den Berechtigungen, die der Agent sonst noch hat und den Tools, die ich ihm zur Verfügung stelle. Denn wenn er auf meinem Computer nicht viel machen kann, aber im Internet schon, ist natürlich das Risiko nicht wesentlich reduziert. Für mich wäre vielleicht noch die Frage, benutzt ihr dann auch Agenten bei eurer Arbeit oder im Alltag? Vielleicht du, Patrick?

Patrick: 31:47

Agenten leider noch gar nicht, nicht über die Chat-GPT und Co-Pilot-Funktion hinaus. Da würde ich mir wünschen, dass da auch unsere Kunden jetzt stärker die Möglichkeiten nutzen, das in den Projektalltag zu integrieren. Und da haben wir auch ein passendes Angebot dazu, wo wir genau das mit unseren Kunden zusammen aufbauen wollen. Wie können wir denn mit Agenten unser Projektgeschäft erleichtern? Wie können wir es in der Entwicklung einsetzen? Wie können wir es in der Business-Analyse einsetzen, in dem Design einsetzen? Also wenn da Fragen aufkommen, Austauschbedarf da ist, liebe Zuhörer kommt gerne jederzeit auf uns zu.

Stefan: 32:24

Genau. Und bei mir, ich bin zurzeit leider nicht als Entwickler unterwegs. Ich darf im Projekt ChatGPT nutzen und unsere Entwickler dürfen Codex nutzen. Aber darüber hinaus für die Nicht-Entwicklungsrollen gibt es zurzeit eben im Projekt noch keinen guten Ansatz. Aber wie Pratay schon so schön erwähnt hat, wir sind da gerade dran, Möglichkeiten mit unseren Kunden zu evaluieren, wie wir das sinnvoll auch über die Softwareentwicklung hinaus gut einbringen können.

Fabian: 32:51

Ich glaube, bei Agenten eine Thematik, die haben wir jetzt nicht so besprochen. Viele fragen sich, welche Aufgaben werden denn von Agenten an übernommen und kann mich das vielleicht auch als Mitarbeiter ersetzen, kann mich das als Mensch ersetzen, als Fachkraft? Ist es vielleicht besser in dem, was ich mache? Oder ja, welche Rolle wird es spielen im Arbeitsalltag? Und da gibt es einfach auch noch nicht viel Erfahrungswerte und da gibt es ganz viel Unsicherheit und da gibt es auch ganz viele verschiedene Perspektiven und Wünsche. Viele wollen natürlich viel Automatisierung, man will viel Effizienz gewinnen, man will Kosten sparen. Andere wollen vielleicht die Qualität steigern und wollen ihren Umsatz steigern, ihr Betriebsergebnis. Und ich glaube, die Perspektive, die hier wichtig ist, ein Agent ist Stand jetzt ein Tool und aktuell sieht es auch nicht so aus, dass sich das ändert, also dass Agenten wirklich Menschen ersetzen, denn Agenten fehlen grundlegende Fähigkeiten, die Menschen mitbringen, nämlich Empathie, Einfühlungsvermögen, gesunder Menschenverstand, diese ganzen zwischenmenschlichen Aspekte, persönliche Erfahrungen, auch über ein Kontextfenster hinaus Dinge nochmal zu beurteilen und sich vielleicht auch an was zu erinnern, was man vielleicht vergangene Woche mal besprochen hat. Zu einem Thema, was aber vielleicht nicht verschriftlicht wurde, aber dennoch wichtig ist. Und das sind alles Dinge, die die Agenten nicht mitbringen. Und ich glaube, der gewinnbringendste Einsatz von Agenten ist eben, wie so oft in der Automatisierung, dass man schaut, welche Aufgaben sind repetitiv, wo hat man schon so ein bisschen das Gefühl, es könnte vielleicht ein Roboter oder eine Maschine gut übernehmen, weil es einfach viel auch um Wiederholungen geht, um viel das Gleiche zu machen. Und die Anforderungen sind klar, das Ergebnis lässt sich gut überprüfen. Also man kann den Output gut abschätzen, ob das jetzt in die richtige Richtung geht oder nicht. Und die Menschen, die Mitarbeiter setzen das quasi dafür ein, diese repetitiven Aufgaben sich zu sparen, Zeit zu sparen und sich umso mehr zu konzentrieren auf das, was zählt, nämlich wirklich ihre persönlichen Fähigkeiten einzubringen auf das Zwischenmenschliche und auf ihre persönliche Erfahrung, die in den Kontext einzubringen, wo sie arbeiten und wo sie tätig sind. Also das ist auf jeden Fall meine Perspektive. Dafür bin ich fest überzeugt, dass das der beste Einsatz ist von KI im Allgemeinen, von Agenten umso mehr, dass man nicht versucht, den Menschen zu ersetzen, sondern dass man versucht, Mensch und Agent quasi gemeinsam möglichst produktiv zu machen. Und das ist das Gesamtkonzept, das ein Schuh draus wird, sage ich immer gerne.

Stefan: 35:11

Das waren die perfekten abschließenden Worte, würde ich sagen. Vielen lieben Dank, Fabian, dass du da warst.

Patrick: 35:16

Vielen lieben Dank auch von mir an dich, Fabian. Einst du davon, dass ich hier heute mein Debüt geben durfte. Mir hat es wahnsinnig viel Spaß gemacht.

Stefan: 35:23

Mir hat es auch Spaß mit euch. Und damit bis zum nächsten Mal.

Fabian: 35:27

Ja, danke auch von mir. Ich fand es super. Danke euch.