Claude Code im regulierten Umfeld

In einer regulierten Organisation zählt vor allem, ob sich die Arbeit eines KI-Agenten steuern und im Nachhinein belegen lässt. Der Artikel beschreibt die Arbeit mit Claude Code in fünf Stufen: von der Aufgabe bis zur Abnahme. Für jede Stufe werden die passende Absicherung und der zugehörige Nachweis genannt. Zudem wird klar getrennt, was Anthropic liefert und was in Ihrer Verantwortung bleibt.

Erst die Absicherung, dann die Leistung: was feststehen muss, bevor ein KI-Agent mit regulierter Arbeit in Berührung kommt.

In einer regulierten Organisation zählt bei einem KI-Agenten vor allem zweierlei: dass Sie steuern können, was er tut, und dass Sie im Nachhinein belegen können, was er getan hat.

Claude Code ist ein KI-Agenten-Framework, das in einem Ordner auf Ihrem Computer arbeitet. Der KI-Agent liest Dateien, schlägt Änderungen vor, bearbeitet sie und führt Befehle aus [1][2]. Genau das macht ihn nützlich, und genau deshalb braucht er im regulierten Umfeld klare Regeln und eine sorgfältige Absicherung.

Fünf Stufen, jede mit eigener Absicherung

Die Animation zeigt den Weg einer Aufgabe durch diese Stufen. Für jede Stufe richten Sie vorab eine Sicherung ein, die im System verankert ist und deshalb verlässlich greift.

  1. 1. AufgabeEine Person beschreibt eine kleine, klar umrissene Aufgabe in normaler Sprache.
  2. 2. RahmenDer KI-Agent arbeitet in einem festgelegten Ordner an einer Arbeitskopie der Daten und ohne personenbezogene Daten.
  3. 3. FreigabeJede Änderung und jeder Befehl braucht Ihre Genehmigung oder fällt unter eine Regel, die Sie vorab festgelegt haben.
  4. 4. NachweisBefehle, Protokolle und Testausgaben belegen, was tatsächlich ausgeführt wurde.
  5. 5. AbnahmeEine benannte Person nimmt das Ergebnis ab. Erst dann wird die Änderung ins Original übernommen und in der Versionskontrolle festgehalten.

Der KI-Agent entwirft. Der Nachweis belegt. Eine Person entscheidet.

So lässt sich Claude Code in regulierte Arbeit einbinden. Jede Stufe ist eine Sicherung, die Sie selbst einrichten und die im System verankert ist. Illustration mit erfundenen Beispieldaten.

Was jede Stufe in der Praxis bedeutet

StufeAbsicherung, die Sie einrichtenNachweis, den Sie aufbewahren
1. AufgabeEin schriftlich festgelegter, eng gefasster Auftrag. Die Aufgabe enthält nur Daten ohne Personenbezug.Die Aufgabenbeschreibung
2. RahmenEin eigener Arbeitsordner, eine Arbeitskopie der Daten und, wo verfügbar, eine Sandbox für Befehle.Der Ordner und die verwendete Datenversion
3. FreigabeRückfragen vor jeder Aktion oder zentral festgelegte Regeln, was erlaubt und was verboten ist.Die erteilten Genehmigungen
4. NachweisBefehle und Tests, die prüfbare Ausgaben erzeugen, sowie eine überwachte Nutzung.Protokolle, Testausgaben, Nutzungskennzahlen
5. AbnahmeEine benannte Prüfperson und die Versionskontrolle. Erst nach der Abnahme wird die Änderung ins Original übernommen.Die geprüfte Änderung und ihr Verlauf

Die Freigabe ist die Stufe, die man im Alltag bemerkt, weil der KI-Agent nachfragt. Der Nachweis ist die Stufe, die Sie absichert: Er ersetzt die Selbstauskunft des KI-Agenten durch Belege, die eine Prüfperson nachvollziehen kann.

Was Anthropic liefert und was bei Ihnen bleibt

Diese Trennung ist wichtig, weil regulierte Teams mitunter davon ausgehen, das Produkt beantworte Fragen, die in Wahrheit in ihrer eigenen Verantwortung liegen.

Anthropic als Anbieter liefert ein dokumentiertes Sicherheitsprogramm, dessen Zertifizierungen im öffentlichen Trust Center aufgeführt sind. Dazu kommen Produktfunktionen, die Sie beim Absichern unterstützen: Rückfragen vor Aktionen, eine Sandbox für Befehle, zentral vorgebbare Einstellungen und Kennzahlen, mit denen sich die Nutzung überwachen lässt [1][3].

Sie liefern die Entscheidungen rund um den Einsatz: welche Daten verwendet werden dürfen, in welchem Ordner der KI-Agent arbeiten darf, welche Regeln verbindlich gelten und wer prüft. Ob das Werkzeug für seinen Verwendungszweck formal validiert werden muss, hängt von Ihrem Qualitätsmanagementsystem ab; diese Frage klärt Ihre Qualitätssicherung. Außerdem bleiben Sie dafür verantwortlich, vorgeschlagene Änderungen zu prüfen, bevor Sie sie genehmigen [1].

Dazu kommt die menschliche Seite. Artikel 4 der KI-Verordnung verpflichtet Organisationen, dafür zu sorgen, dass Beschäftigte, die mit KI arbeiten, über ausreichende KI-Kompetenz verfügen [4]. Eine kurze, dokumentierte Einführung und schriftliche Leitlinien sind ein sinnvoller Weg, diese Pflicht zu erfüllen.

Vor einem Pilotprojekt

Klären Sie vor dem ersten Durchlauf schriftlich:

  • den vorgesehenen Einsatz, klar beschrieben,
  • welche Daten erlaubt sind und welche ausgeschlossen bleiben,
  • wer das Pilotprojekt verantwortet und wer die Ergebnisse prüft,
  • welche Berechtigungsregeln gelten und wer sie ändern darf,
  • welche Nachweise aufbewahrt werden und wo dies geschieht.

Beginnen Sie dann klein: mit synthetischen oder öffentlichen Daten in einer Kopie des Arbeitsordners. Bewähren sich die fünf Stufen bei einer unkritischen Aufgabe, haben Sie ein Muster, das Sie schrittweise ausweiten können. Zeigen sich Lücken, haben Sie diese früh und mit geringem Aufwand entdeckt.

Vom Pilotprojekt in den produktiven Einsatz

Das Pilotprojekt arbeitet bewusst mit einer Kopie und mit unkritischen Daten. In den produktiven Einsatz wechseln Sie, sobald diese Voraussetzungen schriftlich erfüllt sind:

  • Ihre Datenschutzbeauftragte oder Ihr Datenschutzbeauftragter hat festgelegt, welche echten Daten der KI-Agent verarbeiten darf.
  • Ihre Qualitätssicherung hat entschieden, ob und wie das Werkzeug für den vorgesehenen Einsatz validiert wird, und eine erforderliche Validierung ist abgeschlossen.
  • Die Berechtigungsregeln sind zentral vorgegeben.
  • Die fünf Stufen haben sich im Pilotprojekt bewährt, belegt durch die aufbewahrten Nachweise.
  • Die verantwortliche Person hat den Wechsel freigegeben und diese Freigabe dokumentiert.

Auch im produktiven Einsatz bleibt das Prinzip der Arbeitskopie bestehen. Der KI-Agent arbeitet weiterhin in einem eigenen Arbeitsbereich, etwa einer eigenen Kopie oder einem eigenen Zweig (Branch) in der Versionskontrolle. In den Originalbestand gelangt eine Änderung erst, wenn eine benannte Person sie in Stufe 5 abgenommen hat. So bleibt Ihre eigentliche Arbeit jederzeit geschützt, und jede Übernahme ist nachvollziehbar.

Die Sandbox ist dabei eine Schutzfunktion für ausgeführte Befehle: Sie begrenzt, auf welche Dateien und Netzwerkziele ein Befehl zugreifen kann [1]. Sie bleibt deshalb auch im produktiven Einsatz eingeschaltet.

Quellen

  1. Anthropic. Security. Claude Code Documentation. code.claude.com
  2. Anthropic. Claude Code overview. Claude Code Documentation. code.claude.com
  3. Anthropic. Anthropic Trust Center. trust.anthropic.com
  4. Europäisches Parlament und Rat. Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung). Amtsblatt der Europäischen Union. 12. Juli 2024. Artikel 4. eur-lex.europa.eu

KI - Kompetenz

Wir befähigen Sie und Ihre Mitarbeitenden, KI richtig einzusetzen, zugeschnitten auf Ihre Kenntnisse, Ihre Prozesse und die Werkzeuge Ihres Arbeitsalltags. So wird Ihr Team sicher darin, KI im täglichen Arbeiten wirksam zu nutzen.

Kennenlerngespräch buchen oder schreiben Sie uns

Häufige Fragen

Muss Claude Code validiert werden, bevor wir den KI-Agenten einsetzen?

Das hängt vom Verwendungszweck und von Ihrem Qualitätsmanagementsystem ab. Ein Werkzeug, das interne Notizen entwirft, ist anders zu bewerten als eines, das mit Daten arbeitet, die in eine regulierte Entscheidung einfließen. Beziehen Sie Qualitätssicherung oder Compliance früh ein und beschreiben Sie den vorgesehenen Einsatz genau. Diese Beschreibung ist die Grundlage für die Entscheidung.

Welche Absicherungen bringt Claude Code mit, und welche legen wir selbst fest?

Der KI-Agent fragt um Erlaubnis, bevor er Dateien ändert oder Befehle ausführt, und kann Befehle in einer abgeschotteten Umgebung (Sandbox) ausführen. Organisationen können Einstellungen außerdem zentral vorgeben. Welche Regeln gelten, welche Daten der KI-Agent sehen darf und wer das Ergebnis prüft, legen Sie selbst fest.

Was hat der EU AI Act damit zu tun?

Artikel 4 verpflichtet Organisationen, die KI einsetzen, dafür zu sorgen, dass die Personen, die damit arbeiten, über ausreichende KI-Kompetenz verfügen. Wer einen KI-Agenten ohne Schulung und klare Regeln einführt, verfehlt den Zweck dieser Vorschrift. Wie die Schulung aussieht, lässt das Gesetz offen; eine kurze, dokumentierte Einführung und schriftliche Leitlinien sind ein sinnvoller Anfang.

Dürfen wir Claude Code mit Patientendaten oder personenbezogenen Daten nutzen?

Darüber entscheidet Ihre Datenschutzbeauftragte oder Ihr Datenschutzbeauftragter. Bis diese Entscheidung vorliegt, arbeiten Sie mit synthetischen oder öffentlichen Daten in einem eigenen Arbeitsordner. Fällt die Antwort später anders aus, passen Sie den Rahmen schriftlich an und dokumentieren die Änderung.

Woher wissen wir, was der KI-Agent getan hat?

Belastbar sind die Ausgaben der Befehle, die Testergebnisse, die erteilten Genehmigungen und der Änderungsverlauf in der Versionskontrolle. Die Zusammenfassung, die der KI-Agent selbst schreibt, ist eine Beschreibung seiner Arbeit. Prüfen und nachvollziehen lässt sich die Arbeit erst anhand dieser Nachweise, etwa durch eine Prüferin oder einen Auditor.

Weiterlesen