Compliance mit dem EU AI Act

Der EU Artificial Intelligence Act (Verordnung 2024/1689) ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Er trat am 1. August 2024 in Kraft und führt einen risikobasierten Ansatz zur Regulierung von KI-Systemen ein, wobei die Pflichten zwischen Februar 2025 und August 2028 schrittweise wirksam werden.

Connic vereinfacht die Konfiguration, den Betrieb und die Dokumentation technischer Maßnahmen zur Einhaltung von Vorschriften. Wir erfüllen die für unsere Plattform geltenden Pflichten und stellen Kunden Freigaben, Traces, Guardrails, Audit-Historien und Dokumentation zur Unterstützung ihrer eigenen Maßnahmen zur Einhaltung des EU AI Act bereit. Welche Pflichten für die jeweilige Partei gelten, hängt weiterhin von ihrer rechtlichen Rolle und ihrem Anwendungsfall ab.

Unsere Rolle nach dem EU AI Act

Der EU AI Act definiert einen Anbieter als eine Organisation, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringt oder in Betrieb nimmt. Ein Betreiber verwendet ein KI-System in eigener Verantwortung, ausgenommen eine persönliche, nicht berufliche Tätigkeit. Diese Rollen richten sich nach den tatsächlichen Umständen und nicht lediglich danach, auf welcher Infrastruktur ein KI-System läuft.

• Connic als Managed Platform: Wir stellen die Infrastruktur für Deployment, Betrieb und Monitoring von KI-Agenten bereit. Die bloße Bereitstellung dieser Infrastruktur bestimmt nicht die gesetzliche Rolle für jedes darauf bereitgestellte KI-System.
• Modellwahl als Gestaltungsprinzip: Kunden können in der EU gehostete connic/* KI-Modelle auswählen oder BYOK-Anbieter konfigurieren. Die Pflichten von GPAI-Modellanbietern nach den Artikeln 51-56 verbleiben beim jeweiligen Modellanbieter. Dadurch werden Pflichten des Anbieters oder Betreibers auf Systemebene nicht auf den ausgewählten Modellanbieter übertragen.
• Unterstützung der Kundenverantwortung: Die Rolle eines Kunden hängt davon ab, wie ein Agent entwickelt, gekennzeichnet, angeboten oder verwendet wird. Der Kunde kann Anbieter, Betreiber oder beides sein. Connic stellt praktische Tools, Kontrollen und Nachweise für die Pflichten des jeweiligen Anwendungsfalls bereit.

Risikoklassifizierung

Der EU AI Act wird häufig anhand von vier praktischen Risikokategorien zusammengefasst. Diese sind zur Orientierung hilfreich; die geltenden Pflichten hängen jedoch vom System, seinem vorgesehenen Zweck und der Rolle der jeweiligen Partei ab:

Verbotene Praktiken

Seit dem 2. Februar 2025 gelten die Verbote des EU AI Act für KI-Praktiken mit inakzeptablem Risiko. Im Einklang mit Artikel 5 der Verordnung darf die Connic-Plattform nicht zur Bereitstellung von Agenten verwendet werden, die:

• unterschwellige, manipulative oder täuschende Techniken einsetzen, um Verhalten in einer Weise zu verzerren, die erheblichen Schaden verursacht
• Schutzbedürftigkeit bestimmter Gruppen (Alter, Behinderung, sozioökonomische Situation) ausnutzen
• Personen anhand ihres sozialen Verhaltens oder persönlicher Eigenschaften klassifizieren oder bewerten und dadurch nachteilig behandeln (Social Scoring)
• das Risiko von Straftaten ausschließlich anhand von Profiling oder Persönlichkeitsmerkmalen bewerten oder vorhersagen
• Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Bildern aufbauen oder erweitern
• Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen ableiten, außer zu medizinischen oder Sicherheitszwecken
• biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken außerhalb eng begrenzter Ausnahmen durchführen

Diese Verbote werden über unsere Nutzungsbedingungen und unsere Richtlinien zur zulässigen Nutzung durchgesetzt. Verstöße können zur sofortigen Aussetzung des Dienstes führen.

KI-Kompetenz

Artikel 4 gilt seit dem 2. Februar 2025. In der durch den AI Omnibus geänderten Fassung verpflichtet er Anbieter und Betreiber, Maßnahmen zur Förderung der KI-Kompetenz bei Mitarbeitern und anderen Personen zu ergreifen, die in ihrem Auftrag KI-Systeme betreiben, ohne ein garantiertes Niveau für jede einzelne Person zu verlangen.

Connic unterstützt KI-Kompetenz auf verschiedene Weise:

• Umfassende Dokumentation: Unsere Dokumentation behandelt Agent-Konfiguration, Deployment, Verbindungen, Observability und Plattformfunktionen ausführlich, damit Teams verstehen, wie Agenten funktionieren und wie sie verantwortungsvoll betrieben werden.
• Transparentes Agent-Verhalten: Die Observability-Funktionen unserer Plattform machen die Agent-Ausführung nachvollziehbar und helfen Nutzern zu verstehen, welche Schritte ein Agent ausgeführt und was jeder aufgezeichnete Schritt verwendet oder zurückgegeben hat.
• Agent-Templates: Unsere Bibliothek mit Agent-Templates enthält Beispiele und Dokumentation, die Teams dabei helfen, Best Practices für ein verantwortungsvolles Deployment von KI-Agenten zu verstehen.

Transparenz

Artikel 50 weist Anbietern und Betreibern unterschiedliche Transparenzpflichten zu. Anbieter von Systemen, die direkt mit Menschen interagieren, müssen diese grundsätzlich so gestalten, dass die Nutzer informiert werden; Anbieter generativer Systeme unterliegen vorbehaltlich von Ausnahmen Pflichten zur maschinenlesbaren Kennzeichnung synthetischer Ausgaben. Betreiber haben Offenlegungspflichten für Deepfakes und bestimmte Texte von öffentlichem Interesse. Connic stellt Teams kundengesteuerte Bausteine für die jeweils geltenden Pflichten bereit:

• Unterstützung für KI-Offenlegung: Wenn Agenten mit Endnutzern interagieren (z. B. über Webhooks, E-Mail, oder Telegram), lassen sich eindeutige Hinweise zur KI-Offenlegung in den System-Prompt und die Ausgabeformatierung des Agenten aufnehmen.
• Konfiguration der Inhaltsoffenlegung: Für Deepfakes oder einschlägige Texte von öffentlichem Interesse lassen sich sichtbare Hinweise in den Prompts und im Ausgabeformat des Agenten konfigurieren. Maschinenlesbare Kennzeichnungen, die nach Artikel 50(2) von Anbietern verlangt werden, müssen vom ausgewählten Modell oder der Anwendungsebene bereitgestellt werden.
• Konfigurationsnachweise: Agent-Definitionen von Connic erfassen Modellwahl, Tool-Zugriff und Systemanweisungen und geben Teams über das System zur Agent-Konfiguration eine konkrete Grundlage für die Systemdokumentation.

Menschliche Aufsicht

Artikel 14 verpflichtet Anbieter von Hochrisiko-KI-Systemen, diese für eine wirksame menschliche Aufsicht zu gestalten. Artikel 26 verpflichtet Betreiber von Hochrisikosystemen, kompetente Personen mit dieser Aufsicht zu betrauen und die bereitgestellten Maßnahmen zu nutzen. Connic macht diese Kontrollen praktisch umsetzbar.

Connic bietet mehrere Funktionen zur Unterstützung einer wirksamen menschlichen Aufsicht:

Data Governance

Artikel 10 des EU AI Act verlangt, dass Trainings-, Validierungs- und Testdaten für Hochrisiko-KI-Systeme Qualitätskriterien erfüllen und angemessenen Governance-Praktiken unterliegen. Connic trainiert zwar keine KI-Modelle, unterstützt Data Governance jedoch über den gesamten Agent-Lebenszyklus hinweg:

• Kein Training mit Kundendaten: Über Connic verarbeitete Daten werden niemals zum Trainieren, Fine-Tuning oder Verbessern von KI-Modellen verwendet. Kundendaten werden ausschließlich zur Ausführung der konfigurierten Agenten verwendet.
• Datenminimierung: Agenten verarbeiten nur die für ihre vorgesehenen Aufgaben erforderlichen Daten. Kunden steuern den Datenzugriff ihrer Agenten über die Tool-Konfiguration und Umgebungsvariablen.
• Datenresidenz: Kunden wählen die Datenregion eines Projekts bei dessen Erstellung. Die ausgewählte Region bestimmt vorbehaltlich des jeweiligen Plans und der Einstellungen, wo primäre kundenbezogene personenbezogene Daten gespeichert und verarbeitet werden. Wie in unserem Auftragsverarbeitungsvertrag beschrieben, kann für Support oder Infrastrukturwartung eine begrenzte Verarbeitung an anderen Standorten stattfinden, wobei die anwendbaren Übermittlungsgarantien gelten. Die Verarbeitung durch Modellanbieter richtet sich nach dem gewählten Anbieter und der Konfiguration.
• Aufbewahrungskontrollen: Protokolle von Agentenausführungen werden entsprechend der jeweiligen Abonnementstufe aufbewahrt. Daten werden gemäß unserer Datenschutzerklärung und unserem Auftragsverarbeitungsvertrag gelöscht.
• Verschlüsselung: Alle Daten werden bei der Übertragung (TLS 1.2+) und im Ruhezustand (AES-256) verschlüsselt. Unsere Sicherheitsmaßnahmen sind auf unserer Sicherheitsseite im Detail beschrieben.

Aufzeichnungen und Audit-Trails

Die Artikel 12, 19 und 26 verteilen die Pflichten zur Protokollierung und Aufbewahrung von Aufzeichnungen auf Anbieter und Betreiber von Hochrisikosystemen. Die Observability- und Audit-Tools von Connic geben Teams die Ausführungsnachweise und Änderungshistorie, die sie zur Unterstützung dieser Pflichten benötigen:

• Umfassende Ausführungsprotokolle: Jeder Agent-Lauf erfasst seine Trigger-Quelle, verfügbare Ein- und Ausgabedaten, das Modell, Tool-Aufrufe, Dauer, Token-Nutzung und den Endstatus.
• Strukturierte Traces: Agent-Ausführungen erzeugen hierarchische Traces, die den Ausführungspfad vom ersten Prompt über jeden aufgezeichneten Tool-Aufruf und jede LLM-Interaktion bis zur endgültigen Ausgabe zeigen. Vom Anbieter zurückgegebenes Reasoning wird angezeigt, sofern verfügbar.
• Versionshistorie: Agent-Konfigurationen werden über Git versioniert, wodurch eine vollständige Historie der Änderungen an Agent-Definitionen, System-Prompts, Tools und Einstellungen entsteht.
• Nutzungsverfolgung: Das Nutzungs-Dashboard liefert aggregierte Kennzahlen zu Agent-Aktivität, Kosten und Leistung im Zeitverlauf.
• Unveränderliche Audit-Historie: Projekt-Audit- Protokolle bewahren Konfigurations- und Freigabeereignisse in einer unveränderlichen Historie auf und geben Prüfern Nachweise darüber, wer was geändert oder genehmigt hat.
• Zugriff auf Nachweise per API: Projektbezogene REST-API-Berechtigungen ermöglichen Teams, Aufzeichnungen der Agentenausführungen, strukturierte Traces und Audit-Protokolldaten für externe Monitoring- und Governance-Workflows abzurufen.

Risikomanagement

Artikel 9 des EU AI Act verpflichtet Anbieter von Hochrisiko-KI-Systemen, ein Risikomanagementsystem einzurichten und aufrechtzuerhalten. Artikel 26 verpflichtet Betreiber, Hochrisiko-KI-Systeme gemäß ihrer Gebrauchsanweisung zu verwenden und ihren Betrieb zu überwachen. Connic unterstützt diese Anforderungen durch:

• Tests und Validierung: Das Test-Framework validiert das Agent-Verhalten vor dem Deployment und stellt sicher, dass Agenten in repräsentativen Szenarien wie erwartet funktionieren.
• Trennung von Umgebungen: Das Umgebungssystem unterstützt die Trennung von Staging und Produktion, sodass Agenten vor dem Deployment in der Produktivumgebung sicher getestet werden können.
• Automatisierte Evaluierung: Das Judges-System unterstützt Qualitätskriterien und misst Agent-Ausgaben automatisch daran, um Regressionen oder unerwartetes Verhalten zu erkennen.
• Vorfallsmonitoring: Echtzeitwarnungen bei fehlgeschlagenen Läufen und anomalem Verhalten helfen Teams, Probleme zeitnah zu erkennen und zu beheben.
• Rollback-Funktion: Git-basierte Deployments unterstützen einen sofortigen Rollback auf frühere Versionen, wenn sich eine neue Agent-Version unerwartet verhält.

Sicherheit und Robustheit

Artikel 15 des EU AI Act verpflichtet Hochrisiko-KI-Systeme, ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit zu erreichen. Die Sicherheitsarchitektur unserer Plattform ist auf die Unterstützung dieser Anforderungen ausgelegt:

• Container-Isolierung: Die Agenten jedes Kunden laufen in isolierten Containern mit strengen Ressourcenlimits, wodurch gegenseitige Beeinträchtigungen zwischen Mandanten verhindert werden.
• Kurzlebige Ausführung: Umgebungen für Agentenausführungen werden nach der Nutzung gelöscht, wodurch die Speicherung sensibler Daten minimiert wird.
• Secrets-Verwaltung: API-Schlüssel und Zugangsdaten werden im Ruhezustand verschlüsselt und zur Laufzeit sicher übergeben; sie werden niemals in Code oder Protokollen gespeichert.
• Infrastrukturzertifizierungen: Unsere Cloud-Anbieter sind nach SOC 2 Type II, ISO 27001 und PCI DSS zertifiziert.

Ausführliche Informationen zu unseren Sicherheitsmaßnahmen stehen auf unserer Sicherheitsseite.

Geteilte Verantwortung

Für die Einhaltung des EU AI Act tragen Connic und unsere Kunden gemeinsam Verantwortung. Als allgemeine Orientierung gilt: