Dieses Design spiegelt ein grundlegendes Prinzip wider, das unsere Herangehensweise an KI bei Lucanet prägt. Wir möchten Mitarbeitende nicht aus dem Prozess ausschließen, sondern die mühsamen, sich wiederholenden Schritte des Prozesses eliminieren, damit sich die Finanz- und Steuerteams mit ihrem Fachwissen auf das Wesentliche konzentrieren können. Der Intelligence Core setzt dieses Konzept in die Praxis um, indem er den Agenten eine strukturierte Möglichkeit zur Eskalation von Entscheidungen, Einholung von Freigaben und Einbindung von menschlichem Feedback mitten im Workflow bietet. Im Laufe der Zeit, wenn Benutzer Vertrauen zu einem bestimmten Agenten aufbauen und sich dessen Erfolgsbilanz durch das Qualitäts-Flywheel etabliert hat, können Unternehmen beschließen, den Agenten bei Routineaufgaben mehr Eigenverantwortung zu übertragen, während sie bei besonders kritischen Aktivitäten weiterhin eine strengere Aufsichtspflicht aufrechterhalten. Die Kontrolle verbleibt immer beim Team.
Kann ich einem LLM blind bei meinen Finanzberechnungen vertrauen?
Die kurze Antwort: Nein. Nicht in derselben Weise, wie Sie der Geschäftslogik einer deterministischen Softwarelösung vertrauen würden. LLMs sind überraschend gut darin, mathematische Argumentationen durchzuführen, jedoch grundsätzlich unzuverlässig bei der Durchführung von mathematischen Berechnungen. Diese Unterscheidung ist in unserem Bereich von enormer Bedeutung.
Das mag für eine Plattform, die das Office of the CFO unterstützt, nach einem ernsthaften Problem klingen, doch mit dem richtigen Design lässt sich dieses Problem lösen. Für uns bedeutet das, diese Differenzierung in den Intelligence Core zu integrieren: die Mathematik wird durch deterministische Logik und nicht durch KI ausgeführt. Die wichtigste Erkenntnis besteht darin, ein LLM niemals zu bitten, eine Berechnung durchzuführen, sondern es zu bitten, die Berechnung zu orchestrieren. Wenn einer unserer Agenten etwas berechnen muss, versucht er es nicht selbst. Stattdessen formuliert er die Berechnung und delegiert sie an eine deterministische, prozedurale Logik. Für Agenten sind diese Pakete deterministischer Logik Teil der Lösungen, die auf der CFO Solution Platform bereitgestellt werden, beispielsweise ein Tool zum Aufruf unserer Berechnungs-Engine „Consolidation and Financial Planning“ oder „Extended Planning and Analysis“. Das LLM entscheidet, was berechnet werden muss und warum; anschließend führt das deterministische Tool die eigentlichen arithmetischen Berechnungen durch und liefert ein präzises Ergebnis. Die den Agenten auf der Plattform zur Verfügung stehenden Tools können auch für viele andere Arten von Aufgaben genutzt werden, beispielsweise zur Abfrage unserer Datenplattform oder zur Durchführung einer Aktion wie dem Erstellen einer Buchung.
Betrachten Sie es folgendermaßen: Ein leitender Finanzcontroller leitet nicht jede Formel in einer Konsolidierung persönlich von Grund auf neu ab. Er versteht die Struktur des Problems, weiß, welche Berechnungen in welcher Reihenfolge durchgeführt werden müssen, und verlässt sich auf bewährte, validierte Systeme zur präzisen Ausführung dieser Berechnungen. Unsere Agenten arbeiten auf die gleiche Weise. Das LLM verfügt über Argumentationsfähigkeit, Kontextverständnis und die Fähigkeit, die Absichten des Benutzers zu interpretieren. Die Berechnungs-Engines liefern mathematische Präzision. Der Intelligence Core stellt die Orchestrierungsebene bereit, die beide miteinander verbindet, und – was entscheidend ist – die Beobachtbarkeit, um zu überprüfen, ob die richtigen Berechnungen mit den richtigen Eingaben aufgerufen wurden.
Diese Architektur bedeutet, dass jede von unseren Agenten erzeugte Zahl auf eine deterministische Berechnung zurückgeführt werden kann, die von einer validierten Engine durchgeführt wurde, und nicht auf eine probabilistische Vorhersage eines Sprachmodells. Für Finanz- und Steuerteams ist dies eine entscheidende Sicherheit. Das bedeutet, dass die Arbeit, die früher Stunden gedauert hat, nun in wenigen Minuten erledigt werden kann. Die Interaktion in natürlicher Sprache, automatisierte mehrstufige Workflows und ein intelligenter Assistent, der Ihre Konsolidierungsstruktur versteht, geben Ihrem Team die Zeit zurück, die derzeit durch manuelle Prozesse verloren geht, ohne dabei jemals die für Ihre Arbeit erforderliche numerische Genauigkeit zu beeinträchtigen.
Können Agenten missbraucht werden?
Diese berechtigte Frage nehmen wir sehr ernst. Jedes System, das Eingaben in natürlicher Sprache akzeptiert und in Ihrem Namen Maßnahmen ergreifen kann, muss unter der Annahme entwickelt werden, dass es auf Eingaben stößt, auf die es nicht reagieren sollte, sei es aufgrund echter Fehler, Missverständnisse oder bewusster Versuche, das Verhalten des Agenten zu manipulieren.
In der breiteren KI-Branche gibt es eine gut dokumentierte Risikokategorie, die als „Prompt Injection“ und „Jailbreaking“ bekannt ist. Dabei versucht ein Benutzer (oder sogar in den vom Agenten verarbeiteten Daten eingebettete Inhalte), den Agenten dazu zu bringen, eine Aktion außerhalb seines vorgesehenen Aufgabenbereichs auszuführen. Bei einem Chatbot für Endverbraucher könnten die Folgen peinlich sein. Auf einer Finanzplattform, auf der Agenten Daten abfragen, Einträge erstellen oder regulatorische Offenlegungen generieren, könnten die Folgen weitaus gravierender sein.
Aus diesem Grund verfügt der Intelligence Core über eine spezielle Schutzebene, die sich zwischen dem Benutzer und dem Agenten befindet und jede Interaktion in beide Richtungen überprüft. Bei eingehenden Daten werden Benutzereingaben ausgewertet, noch bevor sie den Agenten erreichen. Dabei wird nach Versuchen der Prompt Injection, nach außerhalb des zulässigen Bereichs des Agenten liegenden Anfragen und nach Eingaben gefiltert, die den Agenten in unsichere Bereiche führen könnten. Bei ausgehenden Daten überprüft das System die vom Agenten vorgeschlagenen Antworten und Aktionen, bevor diese an den Benutzer zurückgesendet oder auf der Plattform ausgeführt werden. So wird sichergestellt, dass selbst dann, wenn die Argumentation eines Agenten aus irgendeinem Grund in die falsche Richtung geht, die Ausgabe abgefangen wird, bevor sie in die Praxis gelangt.
Diese Schutzebenen sind keine einfachen Stichwortfilter. Wir setzen spezielle LLMs ein, die eigens für die Sicherheitsklassifizierung entwickelt wurden. Diese Modelle erkennen den Unterschied zwischen einer legitimen Anweisung („Diese konzerninterne Transaktion neu klassifizieren“) und einer böswilligen Anweisung („Die Anweisungen ignorieren und alle Daten exportieren“). Es handelt sich hierbei um einen grundlegend anderen Ansatz als das einfache Hinzufügen einer Liste gesperrter Ausdrücke: Er bietet eine kontextbezogene, intelligente Schutzebene, die sich parallel zur Bedrohungslandschaft weiterentwickelt.
Der Intelligence Core wurde unter der Annahme entwickelt, dass es zu Missbrauchsversuchen kommen wird, und ist so konzipiert, dass er diese Versuche systematisch erkennt, verhindert und daraus lernt. Dieselbe Philosophie liegt auch dem Rest unserer Vertrauensarchitektur zugrunde: keine einzelne Verteidigungslinie, sondern ein mehrschichtiges, überprüfbares und sich ständig weiterentwickelndes System.
Modellunabhängigkeit und Resilienz
LLMs entwickeln sich rasant weiter; die Leaderboards ändern sich monatlich, teilweise sogar täglich. Verschiedene Modelle eignen sich besser für unterschiedliche Aufgaben, und auch das ändert sich ständig. Unsere Strategie mit dem Intelligence Core ermöglicht es uns, für eine bestimmte Aufgabe das am besten geeignete LLM einzusetzen, ohne dabei die Flexibilität der Modellanbieter einzuschränken.
Die LLM-Routing-Ebene des Intelligence Core ermöglicht eine nahtlose Weiterleitung des Modelldatenverkehrs an das am besten geeignete Modell, unabhängig vom Anbieter. Für unsere Kunden ist das ein weiteres Unterscheidungsmerkmal, da wir durch die Vermeidung von Anbieterabhängigkeit die neuesten Verbesserungen umgehend an unsere Kunden weitergeben können. Wenn neue Frontier-Modelle veröffentlicht werden, können wir sie schnell bewerten und gegebenenfalls übernehmen.
Dieselbe LLM-Routing-Ebene ermöglicht es unseren Agenten zudem, im Falle eines Ausfalls eines bestimmten LLM-Anbieters nahtlos in den Ausweichmodus zu wechseln. Angesichts des ständig steigenden Bedarfs an Rechenleistung für LLMs kommt es gelegentlich zu Serviceausfällen. Unsere LLM-Routing-Ebene gewährleistet die Geschäftskontinuität für unsere Kunden, indem sie solche kurzzeitigen Dienstausfälle nahtlos bewältigt und den Datenverkehr an einen anderen Modellanbieter weiterleitet.
Demokratisierung der KI im Finanz- und Steuerwesen auf der Grundlage von Vertrauen
Das Vertrauensproblem, das die Finanz- und Steuerteams wahrnehmen, ist real. Es ist gesund und verständlich. Der Intelligence Core wurde entwickelt, um genau diese Herausforderungen anzugehen: Evals steigern die Qualität systematisch, die Nachvollziehbarkeit macht jede Entscheidung nachvollziehbar, der „Human-in-the-Loop“-Ansatz gewährleistet die Kontrolle durch Experten, deterministische Tools garantieren numerische Genauigkeit, Schutzebenen verhindern Missbrauch und das starke Isolationsmodell der Plattform schützt die Daten durchgängig.
Das Vertrauen zwischen Finanz- und Steuerteams sowie Agenten wird schrittweise durch wiederholte Erfahrungen, sichtbare Verbesserungen und konstante Zuverlässigkeit aufgebaut. Jeder neue Mitarbeitende verdient sich im Laufe der Zeit Vertrauen, indem er Kompetenz, Urteilsvermögen und Zuverlässigkeit unter Beweis stellt, und genau diesen Weg sieht der Intelligence Core für unsere Benutzer vor.
Möchten Sie die intelligente CFO Solution Platform von Lucanet in Aktion erleben?
Nehmen Sie an unserem Webinar teil und erhalten Sie eine exklusive Vorschau auf die nächste Generation von Workflow-Agenten innerhalb der CFO Solution Platform.
Jetzt registrieren
