This post is informational only and does not constitute legal advice. Requirements vary by jurisdiction and organizational context. Consult qualified legal counsel for your specific situation.
If your team runs AI agents — anything that autonomously sends emails, updates records, screens applicants, or triggers approvals — the EU AI Act is already law and parts of it are already in force today.
This is not a single-deadline story. Transparency obligations for systems such as chatbots apply now, while the main high-risk rules have later application dates. The first task is to classify the use case correctly — then build proportionate oversight and records.
Here's what you actually need to know.
What the EU AI Act Is (and Why It Reaches You)
The EU AI Act (Regulation (EU) 2024/1689) entered into force on August 1, 2024. It's a risk-based framework: the heavier the consequences of an AI system's decisions, the more it has to demonstrate about oversight, documentation, and accountability.
The Act has explicit extraterritorial reach. Article 2 applies it to any company whose AI system's output affects people in the EU — regardless of where the company is headquartered, where its servers are, or whether it has a European entity. A US company with EU customers: in scope. A startup in any country running AI-driven hiring processes for EU-based employees: almost certainly in scope.
The Timeline: What's in Force, What's Coming
Here's where things stand right now:
- August 1, 2024 — Act entered into force.
- February 2, 2025 — Prohibited practices (Art. 5) and the AI literacy obligation (Art. 4): enforceable now.
- August 2, 2025 — GPAI obligations (Art. 51–56) in force. Foundation model providers must document, publish training-data summaries, and respect copyright.
- August 2, 2026 — Transparency requirements (Art. 50) became applicable. Systems such as chatbots must inform people that they are interacting with AI; additional labelling rules apply to certain synthetic content.
- December 2, 2027 — Annex III high-risk AI obligations (see the note below).
- August 2, 2028 — Annex I high-risk AI embedded in regulated products.
The Current High-Risk Timeline
The AI Omnibus entered into force on July 27, 2026. The rules for high-risk systems in Annex III apply from December 2, 2027; rules for high-risk AI embedded in regulated products under Annex I apply from August 2, 2028.
The August 2026 transparency obligations remain applicable. A later high-risk deadline is not a reason to delay basic inventory, ownership and oversight work — but it is important not to present every agent as a high-risk system.
The Penalties: Bigger Than GDPR
Article 99 sets a three-tier fine structure:
- Tier 1 — Prohibited AI practices (manipulative systems, real-time biometrics in public): up to €35M or 7% of global annual turnover, whichever is higher.
- Tier 2 — High-risk non-compliance (oversight, logging, documentation): up to €15M or 3% of global turnover.
- Tier 3 — Incorrect information to authorities: up to €7.5M or 1.5% of turnover.
For context, GDPR's ceiling is 4% of global turnover. The AI Act's Tier 1 is 7% — calculated on worldwide revenue across the entire corporate group, not just the EU subsidiary.
There is an SME carve-out: Article 99(6) specifies that for small and medium enterprises, the lower of the two amounts applies rather than the higher. A startup with €2M in revenue faces a maximum Tier 1 fine of around €140,000, not €35M. It still hurts — but it doesn't end the company.
What It Requires from Teams Running AI Agents
Risk classification matters here. AI used in hiring, credit scoring, access to essential services, education and critical infrastructure can fall within Annex III, depending on the specific use and exclusions. General-purpose agents doing email drafting or data summarization are typically lower-risk — until the use case changes the legal classification.
What follows separates deployer duties for high-risk systems from operational practices that help an organisation demonstrate control.
1. An AI Inventory — An Operational Foundation, Not a Standalone Art. 26 Duty
Article 9 places the risk-management-system requirement on providers of high-risk AI systems. Deployers still need to understand what they operate in order to classify systems, assign oversight and follow Article 26 duties. A practical register records each agent, its purpose, owner, data, integrations and material failure modes.
The most consistent gap in practice: teams can't enumerate their own agents. They know roughly what tools are running, but not which agents touch which data, which have access to which external systems, or who is accountable for each one.
2. Automatically Generated Logs Kept for at Least Six Months (Art. 26(6))
For high-risk AI systems, Article 26(6) requires deployers to keep logs automatically generated by the system, to the extent those logs are under their control, for an appropriate period of at least six months unless other applicable law provides otherwise.
The Act does not state that deployer logs must be "tamper-proof" or hash-chained. Tamper-evident storage can strengthen the credibility and integrity of records, but it should be presented as an evidentiary control — not as the literal wording of Article 26.
Useful operational records should capture the action, relevant context, system result and human intervention or approval where applicable. The exact record depends on the system and legal context.
3. Human Oversight Assigned to Competent Natural Persons (Art. 14, Art. 26(2))
Article 26(2) requires deployers of high-risk AI systems to assign human oversight to natural persons with the necessary competence, training, authority and support. The Regulation does not require that this always be one single named person.
Article 14 describes capabilities that oversight measures should enable, as appropriate and proportionate:
- Understand the agent's capabilities and limitations.
- Recognize and resist automation bias — the tendency to trust AI outputs uncritically.
- Override or ignore the agent's output when warranted.
- Stop the system entirely, without involving IT or filing a support ticket.
The ability to interrupt or stop a system is a technical design consideration for high-risk systems. How it is implemented must be proportionate to the risks, autonomy and context of use.
4. Your Vendor's Compliance Isn't Yours (Art. 26)
This is the most common misreading of the Act.
When you use Zapier Agents, n8n, Lindy, CrewAI, or any other tool to run workflows, those platforms carry their own provider-level obligations. But you are the deployer, and Article 26 creates a distinct, independent set of obligations for you.
OpenAI's GPAI compliance doesn't satisfy your logging requirements. Your agent platform's data handling doesn't substitute for your oversight documentation. If a regulator comes asking about your AI agents, Article 26 puts the burden on your organization to demonstrate what you've done — regardless of what your vendors have done.
5. Monitoring and Escalation (Art. 26(5))
Deployers of high-risk AI systems must monitor operation on the basis of the instructions for use and take the notification or suspension steps described in Article 26(5) where relevant risks or serious incidents arise. Operationally, teams should define who is notified, who can suspend use and how the event is documented before an incident occurs.
The Governance Gap in Practice
The practical gap is usually less dramatic than a headline and more operational: teams cannot list every active agent, show which actions are material, identify who can approve or stop them, or reconstruct what happened after an incident.
Those gaps are expensive to resolve under pressure. Building ownership, approval and evidence into deployment is generally easier than reconstructing them after a customer, auditor or authority asks for proof.
How a Control Layer Over Your Agents Addresses the Requirements
A governance layer — software that sits above your existing agents, across platforms, without requiring you to switch builders — maps directly to the requirements above:
- To support Art. 14 and Art. 26(2): Assign competent human overseers and configure proportionate approval or stop controls for material actions.
- To support Art. 26(6): Retain the automatically generated logs under the deployer's control for the applicable period. A tamper-evident layer can add integrity evidence beyond the minimum wording of the Article.
- For operational visibility: Maintain a central agent registry showing what is running, who owns it and which integrations it can use.
- For cross-platform operations: Route selected high-impact actions from Zapier, n8n and custom agents through a consistent policy, approval and evidence layer.
This isn't a shortcut around legal counsel. It's the operational foundation that makes compliance something you can demonstrate.
VINCHY is a governance and human-approval layer that sits above your existing agents — without requiring you to change your agent builder. Named ownership, approval gates, tamper-evident audit trails, anomaly alerts.
This post is informational only. It does not constitute legal advice and should not be relied on as such. The EU AI Act is a complex regulation with jurisdiction-specific nuances. Consult a qualified legal professional for guidance applicable to your organization.
Dieser Beitrag dient ausschließlich der Information und stellt keine Rechtsberatung dar. Die Anforderungen variieren je nach Rechtsraum und organisatorischem Kontext. Konsultieren Sie für Ihre konkrete Situation qualifizierten Rechtsrat.
Wenn Ihr Team KI-Agenten betreibt — alles, was autonom E-Mails versendet, Datensätze aktualisiert, Bewerber vorselektiert oder Freigaben auslöst — ist der EU AI Act bereits geltendes Recht, und Teile davon sind heute schon in Kraft.
Es geht nicht um eine einzige Frist. Transparenzpflichten für Systeme wie Chatbots gelten jetzt, während die wichtigsten Hochrisiko-Regeln spätere Anwendungsdaten haben. Der erste Schritt ist die korrekte Klassifizierung des Einsatzfalls — danach folgen verhältnismäßige Aufsicht und Aufzeichnungen.
Hier ist, was Sie wirklich wissen müssen.
Was der EU AI Act ist (und warum er Sie betrifft)
Der EU AI Act (Verordnung (EU) 2024/1689) ist am 1. August 2024 in Kraft getreten. Es handelt sich um einen risikobasierten Rahmen: Je schwerwiegender die Folgen der Entscheidungen eines KI-Systems, desto mehr muss es zu Aufsicht, Dokumentation und Verantwortlichkeit nachweisen.
Der Rechtsakt hat eine ausdrückliche extraterritoriale Reichweite. Artikel 2 wendet ihn auf jedes Unternehmen an, dessen KI-Ausgabe Menschen in der EU betrifft — unabhängig davon, wo das Unternehmen seinen Sitz hat, wo seine Server stehen oder ob es eine europäische Niederlassung besitzt. Ein US-Unternehmen mit EU-Kunden: erfasst. Ein Start-up in einem beliebigen Land, das KI-gestützte Einstellungsverfahren für in der EU beschäftigte Mitarbeiter betreibt: mit hoher Wahrscheinlichkeit erfasst.
Der Zeitplan: Was gilt, was kommt
So ist der Stand aktuell:
- 1. August 2024 — Rechtsakt in Kraft getreten.
- 2. Februar 2025 — Verbotene Praktiken (Art. 5) und die Pflicht zur KI-Kompetenz (Art. 4): jetzt durchsetzbar.
- 2. August 2025 — GPAI-Pflichten (Art. 51–56) in Kraft. Anbieter von Basismodellen müssen dokumentieren, Zusammenfassungen der Trainingsdaten veröffentlichen und das Urheberrecht wahren.
- 2. August 2026 — Transparenzpflichten (Art. 50) sind anwendbar geworden. Systeme wie Chatbots müssen Menschen darüber informieren, dass sie mit KI interagieren; für bestimmte synthetische Inhalte gelten zusätzliche Kennzeichnungspflichten.
- 2. Dezember 2027 — Pflichten für Hochrisiko-KI nach Anhang III (siehe Hinweis unten).
- 2. August 2028 — Hochrisiko-KI nach Anhang I, eingebettet in regulierte Produkte.
Der aktuelle Zeitplan für Hochrisiko-KI
Der AI Omnibus ist am 27. Juli 2026 in Kraft getreten. Die Regeln für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027; für Hochrisiko-KI in regulierten Produkten nach Anhang I gelten sie ab dem 2. August 2028.
Die Transparenzpflichten vom August 2026 bleiben anwendbar. Eine spätere Hochrisiko-Frist ist kein Grund, Inventar, Verantwortlichkeit und Aufsicht aufzuschieben — aber nicht jeder Agent darf pauschal als Hochrisiko-System dargestellt werden.
Die Bußgelder: Größer als bei der DSGVO
Artikel 99 legt eine dreistufige Bußgeldstruktur fest:
- Stufe 1 — Verbotene KI-Praktiken (manipulative Systeme, biometrische Echtzeit-Identifizierung im öffentlichen Raum): bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
- Stufe 2 — Hochrisiko-Verstöße (Aufsicht, Protokollierung, Dokumentation): bis zu 15 Mio. € oder 3 % des weltweiten Umsatzes.
- Stufe 3 — Falsche Angaben gegenüber Behörden: bis zu 7,5 Mio. € oder 1,5 % des Umsatzes.
Zum Vergleich: Die Obergrenze der DSGVO liegt bei 4 % des weltweiten Umsatzes. Stufe 1 des AI Act liegt bei 7 % — berechnet auf den weltweiten Umsatz des gesamten Konzerns, nicht nur der EU-Tochtergesellschaft.
Es gibt eine KMU-Ausnahme: Artikel 99(6) legt fest, dass für kleine und mittlere Unternehmen jeweils der niedrigere der beiden Beträge gilt und nicht der höhere. Ein Start-up mit 2 Mio. € Umsatz sieht sich einem maximalen Bußgeld der Stufe 1 von rund 140.000 € gegenüber, nicht 35 Mio. €. Es tut immer noch weh — aber es beendet das Unternehmen nicht.
Was er von Teams verlangt, die KI-Agenten betreiben
Die Risikoklassifizierung ist hier entscheidend. KI in Einstellung, Kreditwürdigkeitsprüfung, Zugang zu wesentlichen Diensten, Bildung und kritischer Infrastruktur kann je nach konkretem Einsatz und Ausnahmen unter Anhang III fallen. Universelle Agenten für E-Mail-Entwürfe oder Zusammenfassungen sind typischerweise geringer riskant — bis der Einsatzfall die rechtliche Einstufung verändert.
Im Folgenden werden Betreiberpflichten für Hochrisiko-Systeme von operativen Praktiken getrennt, die Kontrolle nachweisbar machen.
1. Ein KI-Inventar — operative Grundlage, keine eigenständige Art.-26-Pflicht
Artikel 9 legt die Pflicht zum Risikomanagementsystem den Anbietern von Hochrisiko-KI auf. Betreiber müssen dennoch verstehen, was sie einsetzen, um Systeme zu klassifizieren, Aufsicht zuzuweisen und Artikel 26 zu erfüllen. Ein praktisches Register erfasst Zweck, Owner, Daten, Integrationen und wesentliche Fehlerbilder.
Die häufigste Lücke in der Praxis: Teams können ihre eigenen Agenten nicht aufzählen. Sie wissen ungefähr, welche Tools laufen, aber nicht, welche Agenten welche Daten berühren, welche Zugriff auf welche externen Systeme haben oder wer für jeden einzelnen verantwortlich ist.
2. Automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren (Art. 26(6))
Artikel 26(6) verlangt von Betreibern von Hochrisiko-KI, automatisch erzeugte Protokolle, soweit sie ihrer Kontrolle unterliegen, für einen angemessenen Zeitraum von mindestens sechs Monaten aufzubewahren, sofern anderes anwendbares Recht nichts anderes bestimmt.
Der Rechtsakt sagt nicht, dass Betreiberprotokolle „manipulationssicher“ oder hash-verkettet sein müssen. Manipulationsevidente Speicherung kann Glaubwürdigkeit und Integrität stärken, ist aber als zusätzlicher Nachweiskontrollmechanismus darzustellen — nicht als Wortlaut von Artikel 26.
Nützliche betriebliche Aufzeichnungen erfassen Aktion, relevanten Kontext, Systemergebnis und menschliche Intervention oder Freigabe, soweit anwendbar. Der genaue Umfang hängt vom System und Rechtskontext ab.
3. Menschliche Aufsicht durch kompetente natürliche Personen (Art. 14, Art. 26(2))
Artikel 26(2) verlangt, die menschliche Aufsicht über Hochrisiko-KI natürlichen Personen mit notwendiger Kompetenz, Schulung, Befugnis und Unterstützung zuzuweisen. Die Verordnung verlangt nicht, dass dies immer genau eine einzelne benannte Person sein muss.
Artikel 14 beschreibt Fähigkeiten, die Aufsichtsmaßnahmen angemessen und verhältnismäßig ermöglichen sollen:
- Die Fähigkeiten und Grenzen des Agenten verstehen.
- Automation Bias erkennen und ihm widerstehen — der Neigung, KI-Ausgaben unkritisch zu vertrauen.
- Die Ausgabe des Agenten übersteuern oder ignorieren, wenn geboten.
- Das System vollständig stoppen, ohne die IT einzuschalten oder ein Support-Ticket zu erstellen.
Die Möglichkeit, ein System zu unterbrechen oder zu stoppen, ist bei Hochrisiko-Systemen eine technische Designfrage. Die Umsetzung muss zu Risiken, Autonomiegrad und Einsatzkontext passen.
4. Die Compliance Ihres Anbieters ist nicht Ihre (Art. 26)
Dies ist das häufigste Missverständnis des Rechtsakts.
Wenn Sie Zapier Agents, n8n, Lindy, CrewAI oder ein anderes Tool zum Betrieb von Workflows nutzen, tragen diese Plattformen ihre eigenen Pflichten auf Anbieterebene. Aber Sie sind der Betreiber, und Artikel 26 schafft eigenständige, unabhängige Pflichten für Sie.
Die GPAI-Compliance von OpenAI erfüllt Ihre Protokollierungspflichten nicht. Die Datenverarbeitung Ihrer Agentenplattform ersetzt nicht Ihre Aufsichtsdokumentation. Wenn eine Aufsichtsbehörde nach Ihren KI-Agenten fragt, legt Artikel 26 die Last auf Ihre Organisation, nachzuweisen, was Sie getan haben — unabhängig davon, was Ihre Anbieter getan haben.
5. Überwachung und Eskalation (Art. 26(5))
Betreiber von Hochrisiko-KI müssen den Betrieb auf Grundlage der Gebrauchsanweisung überwachen und bei relevanten Risiken oder schwerwiegenden Vorfällen die in Artikel 26(5) beschriebenen Melde- oder Aussetzungsschritte ergreifen. Betrieblich sollte vorab feststehen, wer informiert wird, wer die Nutzung aussetzen kann und wie das Ereignis dokumentiert wird.
Die Governance-Lücke in der Praxis
Die praktische Lücke ist meist weniger spektakulär als eine Schlagzeile und stärker operativ: Teams können nicht alle aktiven Agenten auflisten, wesentliche Aktionen benennen, Freigabe- oder Stoppbefugnisse zeigen oder einen Vorfall rekonstruieren.
Solche Lücken unter Zeitdruck zu schließen ist teuer. Verantwortlichkeit, Freigaben und Nachweise beim Deployment einzubauen ist in der Regel leichter, als sie nach einer Anfrage von Kunde, Prüfer oder Behörde zu rekonstruieren.
Wie eine Kontrollebene über Ihren Agenten die Anforderungen erfüllt
Eine Governance-Ebene — Software, die über Ihren bestehenden Agenten sitzt, plattformübergreifend, ohne dass Sie den Builder wechseln müssen — bildet die obigen Anforderungen direkt ab:
- Zur Unterstützung von Art. 14 und Art. 26(2): Kompetente menschliche Aufsicht zuweisen und verhältnismäßige Freigabe- oder Stoppkontrollen für wesentliche Aktionen konfigurieren.
- Zur Unterstützung von Art. 26(6): Die automatisch erzeugten und der Kontrolle des Betreibers unterliegenden Protokolle für den anwendbaren Zeitraum aufbewahren. Eine manipulationsevidente Ebene kann zusätzliche Integritätsnachweise liefern.
- Für betriebliche Transparenz: Ein zentrales Agentenregister pflegen, das laufende Systeme, Owner und verfügbare Integrationen zeigt.
- Für plattformübergreifenden Betrieb: Ausgewählte folgenreiche Aktionen aus Zapier, n8n und eigenen Agenten durch eine konsistente Policy-, Freigabe- und Nachweisebene leiten.
Das ist keine Abkürzung um den Rechtsrat herum. Es ist die operative Grundlage, die Compliance zu etwas macht, das Sie nachweisen können.
VINCHY ist eine Governance- und Freigabeebene, die über den bereits eingesetzten KI-Agenten sitzt — ohne dass Sie Ihren Agenten-Builder wechseln müssen. Benannte Verantwortung, Freigabestufen, manipulationsevidente Prüfpfade, Anomalie-Warnungen.
Dieser Beitrag dient ausschließlich der Information. Er stellt keine Rechtsberatung dar und sollte nicht als solche herangezogen werden. Der EU AI Act ist eine komplexe Verordnung mit rechtsraumspezifischen Nuancen. Konsultieren Sie eine qualifizierte Rechtsberatung für Ihre Organisation.
