Quelloffene KI-Agenten: warum ein Governance-Werkzeug prüfbar sein muss.

Bei den meisten Programmen ist Open Source eine Vorliebe. Bei einer Art ist es Pflicht: beim Werkzeug, dessen ganze Aufgabe Vertrauen ist. Eine Plattform, die Ihre Agenten kontrolliert, gibt Zusagen zur Protokollierung, zu den Berechtigungen und zum Verbleib Ihrer Daten. Können Sie ihren Code nicht lesen, sind diese Versprechen nur so viel wert wie das Wort des Anbieters. Dieser Leitfaden zeigt, warum das hier mehr zählt als fast überall sonst.

Quelloffene KI-Agenten laufen auf einer Plattform, deren Code offen liegt: Sie können ihn lesen, prüfen, anpassen und selbst betreiben. Bei den meisten Programmen ist das ein nettes Extra. Beim Werkzeug, das Ihre Agenten kontrolliert, kommt es einer Grundvoraussetzung gleich. Warum das so ist, erklärt dieser Leitfaden. Und er zeigt, welche Unterschiede darüber entscheiden, ob die Offenheit echt oder nur Fassade ist: Open Source gegen Open Core, und was eine Lizenz wie die AGPL wirklich verlangt.

Wir entwickeln Pinchy, eine quelloffene Agenten-Plattform unter AGPL-3.0. Wir sind hier also nicht neutral. Wir versuchen, das einzulösen, indem wir genauso klar sagen, wann Open Source die falsche Wahl ist.

Das Problem, den Prüfer zu prüfen

Hier liegt das Argument, das dieses Thema von der üblichen Open-Source-Debatte abhebt. Eine Governance-Plattform existiert, um Ihre Agenten vertrauenswürdig zu machen. Sie verspricht dreierlei: jede Aktion in einem Audit-Trail festzuhalten, jeden Agenten auf die freigegebenen Werkzeuge zu beschränken und Ihre Daten dort zu lassen, wo Sie sie abgelegt haben. Das ist das Produkt. Nun die naheliegende Frage: Wenn der Code geschlossen ist, woher wissen Sie, dass er das alles auch tut?

Sie wissen es nicht. Sie glauben es. Ein proprietärer Audit-Trail ist eine Blackbox, die behauptet, alles protokolliert zu haben. Ob er nicht doch die unbequemen Einträge weglässt, können Sie nicht nachprüfen. Eine proprietäre Berechtigungslogik behauptet, das Richtige geblockt zu haben. Nach der Ausnahme, die etwas durchlässt, dürfen Sie nicht suchen. Für ein Werkzeug, dessen ganzer Wert im Vertrauen liegt, ist Unprüfbarkeit ein stiller Widerspruch. Open Source löst ihn auf: Aus Behauptungen werden überprüfbare Tatsachen. Sie lesen genau nach, wie die Audit-Signatur berechnet und wie eine Berechtigung durchgesetzt wird. So bestätigen Sie, dass die Instanz über Ihrem Agenten genau das tut, was sie sagt.

Open Source oder Open Core

Nicht alles, was sich Open Source nennt, ist dasselbe, und der Unterschied ist gerade bei Governance-Werkzeugen am schärfsten. Open Source heißt, der Code ist offen. Open Core heißt, eine Basisversion ist offen, während die wichtigen Funktionen proprietär und kostenpflichtig sind. Und das sind sehr oft die Sicherheits- und Governance-Funktionen: Single Sign-on, das Audit-Log, die rollenbasierte Zugriffskontrolle. Bei einem Open-Core-Governance-Werkzeug stecken also genau die Teile, die Sie am dringendsten prüfen wollen, hinter der Bezahlschranke. Immer noch eine Blackbox, nur eine kleinere.

Der Test ist nicht, ob ein Projekt sich Open Source nennt. Es zählt, wo die Governance liegt. Stehen Audit-Trail und Berechtigungsmodell im offenen Code, können Sie sie prüfen. Stecken sie in einer geschlossenen Enterprise-Stufe, reicht die Offenheit nicht bis zu dem Teil, auf den es ankommt. Zwei Minuten Prüfung lohnen sich, bevor Sie sich auf das Wort verlassen.

Lock-in: wer Ihre Agenten in der Hand hat

Der zweite Grund ist Portabilität. Ihre Agenten-Plattform sammelt Dinge an, deren Verlust wehtut: Ihre Governance-Regeln, Ihre Audit-Historie, Ihre Integrationen, die Konfiguration jedes Agenten. Bei proprietärer Software liegt all das zu den Bedingungen des Anbieters. Bei einem Wechsel verlieren Sie den Zugang, und der Anbieter bestimmt, wie. Die aktuelle Enterprise-Diskussion beschreibt das als Entscheidung in zwei Dimensionen: wie sehr Sie der KI des Anbieters vertrauen und wie viel Lock-in Sie dafür hinnehmen (Kai Waehner). Mit Open Source landen Sie bei geringem Lock-in: Sie lesen die Datenformate, betreiben die Software ohne den Anbieter und forken sie notfalls. Ihr Ausstieg wird zu einer Entscheidung, die Sie treffen, statt zu einer Lage, aus der Sie verhandeln müssen.

Was, wenn der Anbieter verschwindet?

Es gibt eine schärfere Form der Lock-in-Sorge, die man bei jedem kleinen oder neuen Projekt hört: Was wird aus Ihnen, wenn die Firma dahinter verschwindet? Eine berechtigte Frage, und genau hier ist Open Source am stärksten. Verschwindet ein gehosteter proprietärer Anbieter, fällt das System aus, und Sie hetzen durch einen Datenexport. Ihre Agenten stehen still. Ihre Audit-Historie und Konfiguration liegen auf einer Infrastruktur, die Sie nicht kontrollieren. Bei einer quelloffenen, selbst betriebenen Plattform entscheidet das Verschwinden des Anbieters dagegen nicht darüber, ob Ihr System läuft. Die Software ist schon auf Ihren Maschinen. Ihre Daten, Ihre Governance-Regeln und Ihr Audit-Trail liegen schon in Ihrer eigenen Datenbank. Der Quellcode ist unter seiner Lizenz öffentlich, also können Sie ihn pflegen, selbst oder durch eine beauftragte Person. Sie verlieren offizielle Updates und Support, das ist ein echter Preis, aber das System läuft weiter. Dass ein kleiner Anbieter verschwindet, ist bei jedem kleinen Anbieter ein reales Risiko. Open Source ändert die Folge: Aus einem System, das mit dem Anbieter stirbt, wird eines, das Sie weiter betreiben und kontrollieren.

Was die AGPL wirklich bedeutet

Copyleft schreckt mehr ab, als es sollte, daher die ehrliche Fassung: Die AGPL-3.0 erlaubt Ihnen, die Software frei zu nutzen, selbst zu betreiben und zu verändern. Sie hat eine einzige Besonderheit: die Netzwerk-Klausel. Wenn Sie die Software verändern und diese veränderte Version anderen als Netzwerkdienst anbieten, müssen Sie Ihren veränderten Quellcode diesen Nutzern zugänglich machen. Das ist alles. Betreiben Sie die Plattform nur für den eigenen internen Gebrauch, lösen Sie die Pflicht nie aus, auch bei starken Anpassungen. Denn Sie bieten keinen Dienst für außenstehende Nutzer an. Die AGPL verhindert, dass die Software still in eine geschlossene Quelle überführt wird. Die normale, selbst betriebene Nutzung schränkt sie nicht ein, und genau diese Nutzung haben fast alle.

Wann proprietär die richtige Wahl ist

Damit wir ehrlich bleiben: Open Source ist nicht kostenlos, es tauscht Betriebsaufwand gegen Kontrolle. Eine verwaltete proprietäre Plattform ist schneller ausgerollt, und jemand anderes hält den Betrieb am Laufen. Müssen Sie die Interna nicht prüfen, leben mit dem Lock-in und optimieren auf Tempo, dann ist ein proprietäres Werkzeug eine vernünftige Wahl. Das verschweigen wir nicht. Die Faustregel, die trägt: Je mehr eine Fehlhandlung des Agenten Geld, Kunden, Haftung oder regulierte Daten berührt, desto schwerer wiegen Prüfbarkeit und ein offener Ausstieg. Sie rechtfertigen dann den Betriebsaufwand. Automatisierung mit geringem Einsatz darf zum Komfort neigen. Governance über folgenreiche Aktionen neigt zur offenen, prüfbaren Variante.

Wie Pinchy es angeht

Dieser Teil betrifft unser eigenes Produkt. Pinchy steht unter AGPL-3.0, und die Offenheit reicht bis zu dem Teil, auf den es ankommt: Der Audit-Trail und das Berechtigungsmodell stehen im offenen Code. Sie können also prüfen, dass sie tun, was wir sagen, statt uns zu glauben. Eine ehrliche Feinheit, klar gesagt: Pinchy nutzt einen Lizenzschlüssel, um einige Team- und Enterprise-Funktionen freizuschalten. Doch der Code hinter diesen Funktionen ist ebenfalls offen. Der Schlüssel schaltet die Funktion frei, er verbirgt nicht den Quellcode. Das ist eine bewusste Entscheidung gegen die Open-Core-Falle, in der die Governance der geschlossene Teil ist. Die Plattform ist selbst-gehostet, ohne Lock-in, der Ausstieg liegt also bei Ihnen. Wir haben sie offen gemacht, weil ein Werkzeug, das Sie um Vertrauen für Ihre Agenten bittet, seine Arbeit zeigen können sollte. Dazu gehört, uns zu überdauern: Pinchy läuft vollständig in Ihrer eigenen Infrastruktur, prüft seine Lizenz offline ohne Server, der nach Hause telefoniert, und sammelt keine Telemetrie. So läuft ein System weiter, ob es uns noch gibt oder nicht.

Frequently asked questions.

Warum ist Open Source bei einer KI-Agenten-Plattform wichtig?

Open Source lässt Sie den Code lesen, prüfen, eigene Updates steuern und einen Lock-in vermeiden. Am wichtigsten ist es für den Teil, dessen ganze Aufgabe Vertrauen ist. Eine Plattform, die Ihre Agenten kontrolliert, sagt zu, jede Aktion zu protokollieren, jede Berechtigung durchzusetzen und Ihre Daten dort zu lassen, wo sie liegen. Ist der Code geschlossen, müssen Sie das glauben. Ist er offen, können Sie es prüfen.

Was ist der Unterschied zwischen Open Source und Open Core?

Open Source heißt, der Code ist offen. Open Core heißt, eine Basisversion ist offen, während die wichtigen Funktionen proprietär und kostenpflichtig sind, oft genau die Sicherheits- und Governance-Funktionen wie SSO, Audit und Zugriffskontrolle. Der Haken bei Open Core für ein Governance-Werkzeug: Die Funktionen, die Sie am dringendsten prüfen wollen, sind die geschlossenen. Prüfen Sie, ob die Governance im offenen Teil liegt oder hinter der Bezahlschranke.

Verhindert Open Source einen Lock-in beim Anbieter?

Weitgehend ja. Ihre Agenten-Plattform hält Ihre Governance-Regeln, Ihre Audit-Historie und Ihre Integrationen. Bei proprietärer Software verlieren Sie beim Wechsel den Zugang zu all dem, und zwar zu den Bedingungen des Anbieters. Mit Open Source lesen Sie die Datenformate, betreiben die Software selbst und forken sie notfalls. Ihr Ausstieg wird zu einer Entscheidung statt zu einer Zwangslage. Der Preis: Sie übernehmen mehr Verantwortung für den Betrieb.

Was verlangt die AGPL-Lizenz tatsächlich?

Die AGPL-3.0 erlaubt Ihnen, die Software frei zu nutzen, selbst zu betreiben und zu verändern. Sie hat eine einzige Besonderheit, die Netzwerk-Klausel: Wenn Sie die Software verändern und anderen als Netzwerkdienst anbieten, müssen Sie Ihren veränderten Quellcode diesen Nutzern zugänglich machen. Für eine Firma, die sie für den eigenen internen Gebrauch betreibt, auch stark verändert, greift die Pflicht nicht. Die Lizenz schützt die Software davor, in eine geschlossene Quelle überführt zu werden. Sie schränkt die normale, selbst betriebene Nutzung nicht ein.

Wann ist eine proprietäre KI-Agenten-Plattform die bessere Wahl?

Wenn Tempo und geringer Betriebsaufwand mehr wiegen als Prüfbarkeit und Kontrolle. Eine verwaltete proprietäre Plattform ist schneller ausgerollt, und jemand anderes betreibt die Infrastruktur. Der Tausch sind Vertrauen und Lock-in: Sie können nicht prüfen, was sie tut, und der Wechsel fällt schwerer. Die ehrliche Faustregel: Je mehr eine Fehlhandlung des Agenten Geld, Kunden, Haftung oder regulierte Daten berührt, desto eher lohnt die Prüfbarkeit von Open Source ihren Mehraufwand.

Ist ein kleiner oder neuer quelloffener Anbieter ein Risiko?

Weniger als ein kleiner proprietärer. Bei einem gehosteten proprietären Werkzeug ist das Verschwinden des Anbieters ein Ausfall mit anschließendem hektischem Datenexport, weil Software und Daten auf seiner Infrastruktur liegen. Bei einer quelloffenen, selbst betriebenen Plattform läuft die Software schon auf Ihren Maschinen, und Ihre Daten und Ihr Audit-Trail liegen schon in Ihrer Datenbank, das System läuft also weiter. Der Quellcode ist unter seiner Lizenz öffentlich, Sie oder eine beauftragte Person können ihn weiter pflegen. Sie verlieren offizielle Updates und Support, aber nicht das laufende System.

Vertrauen Sie dem Werkzeug, das Sie lesen können.

Pinchy steht unter AGPL-3.0, mit Audit-Trail und Berechtigungsmodell im offenen Code, selbst-gehostet und ohne Lock-in. Prüfen Sie, was es tut, statt uns zu glauben. Kostenlos zu betreiben.

Oder schreiben Sie uns: info@heypinchy.com