Leitfaden
Der EU AI Act hat kein eigenes Kapitel für Agenten. Er reguliert KI nach Risiko. Ein Agent fällt also genauso darunter wie jedes andere KI-System, und Ihre Pflichten hängen vom Einsatzzweck ab. Dieser Leitfaden bringt die Praxis auf den Punkt. Er klärt, ob der Act für Sie gilt und was die Hochrisiko-Pflichten konkret bedeuten. Er zeigt, wo der Zeitplan nach der Verschiebung steht und was sich jetzt schon lohnt, ganz gleich, welches Datum am Ende zählt.
Der EU AI Act ist die risikobasierte KI-Regulierung der Europäischen Union. Agenten greift er nicht gesondert heraus. Er sortiert KI-Systeme danach, wie riskant ihr Einsatz ist, und knüpft an jede Klasse eigene Pflichten. Die erste Frage lautet also nie, ob etwas ein Agent ist. Sie lautet, wofür der Agent eingesetzt wird. Dieser Leitfaden zeigt, wie Sie das beantworten und welche Pflichten gelten. Und er zeigt, wie der Zeitplan wirklich aussieht, der sich bereits einmal verschoben hat.
Wir entwickeln Pinchy, eine selbst-gehostete Plattform für KI-Agenten. Mehrere technische Erwartungen des Acts decken sich mit dem, was wir bauen. Wir sind hier also nicht neutral. Dieser Text ist eine praktische Orientierung, keine Rechtsberatung. Für einen konkreten Einsatz holen Sie sich Rat, der Ihre Lage kennt.
Zwei Dinge entscheiden das. Erstens die Reichweite: Der Act gilt auch außerhalb der EU. Bieten Sie ein KI-System an oder betreiben es, dessen Ergebnis in der EU genutzt wird, fallen Sie darunter. Egal, wo Ihr Unternehmen sitzt. Ein selbst betriebener Agent eines EU-Unternehmens zählt dazu, ebenso einer, der EU-Nutzer bedient.
Zweitens die Risikoklasse. Der Act ordnet KI-Systeme in vier Stufen ein, und die Stufe bestimmt die Pflichten:
| Stufe | Beispiele | Was das bedeutet |
|---|---|---|
| Verboten | Social Scoring, bestimmte Manipulation | Gar nicht erlaubt |
| Hochrisiko | Einstellung, Kredit, kritische Infrastruktur, Sicherheitsbauteile | Der volle Pflichtenkatalog |
| Begrenztes Risiko | Chatbots, die meisten Geschäftsassistenten | Transparenz (sagen, dass es KI ist) |
| Minimales Risiko | Die meisten internen Werkzeuge | Keine besonderen Pflichten |
Das praktische Fazit: Die meisten internen Agenten landen bei begrenztem oder minimalem Risiko. Sie fassen Support-Tickets zusammen, entwerfen Texte oder fragen die eigenen Daten ab. Dort geht es vor allem darum, Nutzern offenzulegen, dass sie es mit KI zu tun haben. Hochrisiko wird ein Agent durch seinen Einsatzzweck. Etwa wenn er Entscheidungen über Beschäftigung, Kreditwürdigkeit oder ein reguliertes Produkt trifft oder wesentlich vorbereitet. Nicht, weil er technisch ausgefeilt ist. Klassifizieren Sie den Einsatz, nicht das Modell.
Der Act trat 2024 in Kraft und gilt in Phasen. Die Phase, die für die meisten Hochrisiko-Pflichten zählt, war ursprünglich der 2. August 2026. Genau hier kommt die jüngste Nachricht ins Spiel: Im Omnibus-Paket 2026 wurden die Pflichten für einsatzbasierte Hochrisiko-Systeme (Anhang III) vom 2. August 2026 auf den 2. Dezember 2027 verschoben. Die produktbezogenen Hochrisiko-Pflichten (Anhang I) rücken vom 2. August 2027 auf den 2. August 2028 (Gibson Dunn). Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck haben einen eigenen Zeitplan.
Die nützliche Lehre ist nicht das neue Datum. Sie ist, dass sich das Datum überhaupt bewegt hat. Eine Regulierung dieser Größe stützt sich auf Normen, die erst entstehen, und sie wird sich weiter ändern. Richten Sie Ihr Agenten-Programm auf eine einzige Frist aus, wird es brüchig. Richten Sie es dagegen auf die zugrunde liegenden Anforderungen aus, denn die ändern sich nicht.
Ist ein Agent Hochrisiko, ist der Pflichtenkatalog umfangreich. Das meiste davon erkennen Sie als solide Technik und Governance wieder:
Lesen Sie diese Liste als Agenten-Betreiber. Dann deckt sie sich genau mit den vier Schichten der Agenten-Governance: ein Nachweis, den Sie führen können, ein Zugriff, den Sie begrenzen, ein Mensch, der eingreifen kann, und eine Dokumentation von Zweck und Verantwortung. Der Act ist für Agenten weitgehend die rechtliche Fassung der Kontrollen, die ein sorgfältiges Team ohnehin will.
Die Beträge sind so bemessen, dass man sie ernst nimmt, und sie steigen mit dem Verstoß. Eine verbotene Praxis kann bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes kosten, je nachdem, was höher ist. Ein Verstoß gegen Hochrisiko- oder andere Pflichten reicht bis zu 15 Millionen Euro oder 3 Prozent. Falsche oder irreführende Angaben gegenüber Behörden reichen bis zu 7,5 Millionen Euro oder 1 Prozent. Die Beträge sind hoch genug, dass schon das Aufschieben eine bewusste Risikoentscheidung ist.
Auch mit Hochrisiko-Fristen Ende 2027 lohnt sich ein Schritt langfristig: die Kontrollen jetzt bauen. Denn es sind dieselben Kontrollen, die einen Agenten vertrauenswürdig machen, unabhängig vom Gesetz:
Zu unserem eigenen Produkt, ehrlich eingeordnet: Keine Plattform macht Sie konform. Konformität ist ein Programm aus Klassifizierung, Risikomanagement, Dokumentation und menschlichem Prozess, das Sie selbst führen. Eine Plattform kann nur die technischen Bausteine liefern, damit die Technik nicht der schwere Teil ist. Pinchy gibt Ihnen vier davon. Einen manipulationssichtbaren Audit-Trail, der zur geforderten Protokollierung passt. Ein Berechtigungsmodell nach dem Standard-Verbot, das den Zugriff begrenzt. Rollen und Verantwortung für die Nachvollziehbarkeit. Und einen selbst-gehosteten Betrieb, der Ihre Daten unter Ihrer Kontrolle hält. Pinchy klassifiziert Ihre Einsatzzwecke nicht, schreibt Ihre Dokumentation nicht und ist keine Zertifizierung. Pinchy macht die technischen Teile technisch und lässt die Teile, die Urteilsvermögen brauchen, bei Ihnen.
FAQ
Ja, sofern ein Agent in eine der Risikoklassen des Acts fällt. Der EU AI Act reguliert KI-Systeme nach Risiko, nicht danach, ob sie agentisch arbeiten. Ein Agent fällt also genauso darunter wie jedes andere KI-System. Was er erfüllen muss, hängt davon ab, ob sein Einsatzzweck verboten, hochriskant, begrenzt riskant oder minimal riskant ist. Der Act gilt zudem außerhalb der EU. Anbieter und Betreiber, die Nutzer in der EU bedienen, fallen darunter, egal wo sie ansässig sind.
Nur wenn sein Einsatzzweck auf den Hochrisiko-Listen des Acts steht. Das gilt etwa für Agenten in Einstellungsentscheidungen, Kreditbewertung, kritischer Infrastruktur oder als Sicherheitsbauteil eines regulierten Produkts. Die meisten internen Agenten fassen Tickets zusammen, entwerfen Texte oder fragen die eigenen Systeme ab. Sie sind begrenzt oder minimal riskant und unterliegen vor allem Transparenzpflichten. Der ehrliche erste Schritt ist, den Einsatzzweck zu klassifizieren, nicht die Technik.
Der Zeitplan läuft in Phasen und wurde kürzlich angepasst. Mit den Omnibus-Änderungen 2026 rückten die Pflichten für einsatzbasierte Hochrisiko-Systeme (Anhang III) vom 2. August 2026 auf den 2. Dezember 2027. Die produktbezogenen Hochrisiko-Pflichten (Anhang I) rückten vom 2. August 2027 auf den 2. August 2028. KI-Modelle mit allgemeinem Verwendungszweck haben eigene Termine. Weil sich die Termine schon einmal verschoben haben, behandeln Sie jedes einzelne Datum als änderbar. Bauen Sie auf die Anforderungen hin, nicht auf eine Frist.
Zu den Hochrisiko-Pflichten zählen ein Risikomanagement-System, menschliche Aufsicht, technische Dokumentation, Transparenz gegenüber Betreibern sowie angemessene Genauigkeit und Robustheit. Dazu kommt die automatische Protokollierung nach Artikel 12. Sie zeichnet Ereignisse über die Lebensdauer des Systems auf und bewahrt sie mindestens sechs Monate auf. Bei einem Agenten deckt sich das meiste mit Governance, die Sie ohnehin wollen. Das heißt ein manipulationssichtbarer Audit-Trail, ein begrenzter Zugriff, ein Mensch, der eingreifen kann, und eine Dokumentation, was der Agent ist und tut.
Die Bußgelder steigen mit dem Verstoß. Eine verbotene Praxis kann bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes erreichen, je nachdem, was höher ist. Ein Verstoß gegen Hochrisiko- oder andere Pflichten reicht bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes. Falsche oder irreführende Angaben gegenüber Behörden reichen bis zu 7,5 Millionen Euro oder 1 Prozent des Umsatzes.
Pinchy gibt Ihnen Audit-Trail, begrenzten Zugriff und Self-Hosting. Genau das braucht die technische Seite der Konformität für KI-Agenten. Open Source, selbst-gehostet, kostenlos im Betrieb.
Oder schreiben Sie uns: info@heypinchy.com