
KI-Agenten testen und absichern
Teste deinen KI-Agenten an 20 echten Fällen, leg fest, was er allein darf, und schütz ihn vor Prompt-Injection. Ohne Code. 8 Lektionen, erste 2 gratis.
Ein Agent, der in der Vorführung gut aussieht, kann trotzdem danebenliegen, ohne dass du es merkst. Ein Fehler früh im Lauf zieht sich durch alle Schritte danach, und eine versteckte Zeile in einer Mail, die er liest, kann lenken, was er als Nächstes tut. In diesem Kurs testest du den Agenten, den du gebaut hast, an deiner eigenen Arbeit, bevor er mehr allein erledigt. Du arbeitest in dem KI-Tool, das du schon nutzt: ChatGPT, Claude (im Browser auf claude.ai oder in der Claude-Desktop-App) oder Microsoft 365 Copilot (bei Microsoft inzwischen „Microsoft Copilot“) mit einem Geschäfts-, Schul- oder Unikonto.
Zuerst verfolgst du einen echten Lauf bis zu dem Schritt, an dem zum ersten Mal etwas schiefging. Dann versteckst du eine harmlose Anweisung in einem Dokument, das dein Agent liest, und schaust, ob er ihr folgt. Du baust 20 Testfälle aus echten Eingaben und früheren Fehlern, lässt jeden dreimal laufen und behebst, was scheitert, in der richtigen Reihenfolge. Du legst fest, was dein Agent allein darf, was vorher fragt und was blockiert bleibt, sicherst ihn gegen die eingeschleuste Anweisung ab, testest erneut und hältst fest, wer über ihn welche Daten erreicht.
Am Ende hast du ein Sicherheitskonzept auf einer Seite, deinen Agenten-Steckbrief v3 und die Belege für beides. Jeder Produktschritt folgt den Hilfeseiten der Anbieter, auf Deutsch, wo es sie gibt, Stand 15.11.2026; wo eine deutsche Bezeichnung nicht bestätigt ist, sagt die Lektion das. Zu den deutschen Quellen gehören unter anderem das BSI, die Datenschutzkonferenz, die Bundesnetzagentur und der Bitkom. Alle Beispiele sind erfunden. Das ist keine Rechtsberatung. Die Lektionen 1 und 2 sind kostenlos.
Das lernst du
- Ein Transkript deines Agenten Schritt für Schritt prüfen und den ersten falschen Schritt finden
- Mit einem harmlosen Köder-Test prüfen, ob dein Agent Anweisungen aus Dateien, E-Mails oder Webseiten befolgt
- 20 Testfälle aus deiner echten Arbeit entwerfen, mit Bestehenskriterien, die vor dem ersten Lauf feststehen
- Die Zuverlässigkeit über drei Läufe je Fall bewerten und Fehler in der richtigen Reihenfolge beheben: Anweisungen, Beispiele, Tools
- Eine Freigabematrix (erlauben, fragen, blockieren) festlegen und in deinem Tool einstellen
- Mit mehreren Schutzschichten und einer Datenlandkarte begrenzen, was versteckte Anweisungen anrichten und wer über deinen Agenten welche Daten erreicht
Nach diesem Kurs kannst du
Was du baust
Kursinhalt
Voraussetzungen
- Version 2 deines Agenten aus dem Kurs „Gib deinem KI-Agenten Tools und Skills“ oder ein anderer Agent, der mindestens ein Tool nutzt oder Inhalte von außen liest
- Ein Konto bei ChatGPT oder Claude, oder Copilot mit einem Geschäfts-, Schul- oder Unikonto von Microsoft. Für Gemini gibt es Hinweise, wo Google die Funktion beschreibt
- Ein paar echte Eingaben aus dem Job deines Agenten, etwa alte E-Mails oder Dateien, ohne personenbezogene Daten. Frag vorher, ob du sie dafür nutzen darfst (Lektion 3 macht daraus Testfälle)
Für wen ist das?
- Inhaberinnen und Inhaber eines Agenten aus dem vorigen Kurs, bevor er mehr allein erledigt
- Alle mit einem ChatGPT- oder Claude-Projekt oder einem Copilot-Agenten, der E-Mails, Dateien oder Webseiten liest
- Teamleitungen, die gefragt werden, ob ein Agent im Team sicher ist
- IT-Verantwortliche und Datenschutzbeauftragte in kleinen Betrieben, die Belege statt einer Vorführung sehen wollen
Häufig gestellte Fragen
Muss ich programmieren oder etwas von IT-Sicherheit verstehen?
Nein. Jeder Test ist ein Prompt, den du in einen Chat einfügst, oder ein Dokument, das du schreibst, und jede Einstellung ist ein Schalter in deinem Tool. Begriffe wie Köder-Test oder Freigabematrix erklärt der Kurs, wenn sie zum ersten Mal vorkommen.
Welche KI-Tools deckt der Kurs ab, und welchen Tarif brauche ich?
ChatGPT, Claude (im Browser auf claude.ai oder in der Claude-Desktop-App) und Copilot von Microsoft mit einem Geschäfts-, Schul- oder Unikonto, dazu Hinweise für Gemini. Du testest das Projekt oder den Agenten, den du schon hast; die Tests selbst laufen auch in den kostenlosen Tarifen von ChatGPT und Claude. Manche Einstellungen hängen vom Tarif ab, etwa Claudes Modus, der vor jeder Aktion um deine Genehmigung bittet: Den gibt es laut Anthropic nur in bezahlten Tarifen. Fehlt deinem Tarif eine Einstellung, zeigt dir die jeweilige Lektion einen anderen Weg.
Macht dieser Kurs meinen Agenten sicher?
Nein, das kann kein Kurs und keine Einstellung versprechen. Indirekte Prompt-Injections gelten laut BSI weiterhin als „nicht abschließend lösbares Problem“, OpenAI schreibt, Prompt-Injection werde vermutlich nie vollständig gelöst sein, und Anthropic nennt die Wahrscheinlichkeit eines Angriffs in Claude Cowork auch mit seinen Schutzmaßnahmen „immer noch nicht null“. Du kannst deinen Agenten aber testen, seinen Auftrag eingrenzen, begrenzen, was er erreicht, und alles, was sich nicht rückgängig machen lässt, nur mit deiner Freigabe laufen lassen. Genau das machst du im Kurs, und die Ergebnisse hältst du auf einer Seite fest, die du einer Kollegin zeigen kannst.
Ist der Köder-Test sicher?
Ja, so wie der Kurs ihn aufbaut. Die eingeschleuste Zeile verlangt ein harmloses Wort und schlägt vor, eine Datei an eine Adresse bei example.com zu schicken. Diese Domain hält die IANA für Dokumentationszwecke bereit, und niemand kann sie registrieren. Du lässt den Test mit eingeschalteten Freigaben laufen und lehnst jeden Versand ab, um den dein Agent bittet.
Muss ich am Ende jede Aktion meines Agenten freigeben?
Nein. Du legst für jede Aktion fest, was gilt: Lesen, das die Aufgabe braucht, darf laufen; Schreiben, das die Aufgabe braucht, fragt vorher; alles andere ist blockiert. Anthropic beobachtet, dass Nutzerinnen und Nutzer wiederholte Rückfragen manchmal nicht mehr beachten, wenn eine Aufgabe Dutzende Aktionen braucht. Wir nennen das Freigabe-Müdigkeit, und deshalb gibt es Rückfragen im Kurs nur für die Aktionen, bei denen es darauf ankommt.
Darf ich das mit Daten aus meinem Job machen?
Für die Übungen nimmst du erfundene oder bereinigte Daten. Ob du ein Tool mit echten Kundendaten nutzen darfst, entscheidet dein Arbeitgeber: Frag deine Datenschutzbeauftragte oder deinen Datenschutzbeauftragten, welches Tool und welches Konto freigegeben sind; die Datenschutzkonferenz empfiehlt Arbeitgebern, dafür eigene Konten bereitzustellen. Bewerbungen und Personaldaten nimmst du nie als Testfälle. Das ist keine Rechtsberatung.
Ist dieser Kurs kostenlos?
Lektion 1 und 2 sind kostenlos, den Rest des Kurses und das Zertifikat gibt es mit Pro.
Bekomme ich ein Zertifikat?
Ja, mit Pro: Wenn du alle Lektionen abschließt und in den Quizzen mindestens 70 % erreichst, bekommst du ein verifizierbares Zertifikat.
Zählt das Zertifikat als Nachweis nach Art. 4 KI-Verordnung?
Nein. Art. 4 der KI-Verordnung verlangt in der Fassung, die seit dem 27. Juli 2026 gilt, von Anbietern und Betreibern von KI-Systemen Maßnahmen, die die Entwicklung der KI-Kompetenz ihres Personals unterstützen. Ein bestimmtes Niveau müssen sie nicht garantieren, und laut Bundesnetzagentur sieht die KI-Verordnung keine Zertifizierungspflicht für Schulungen vor. Ob ein Kurs wie dieser zu den Maßnahmen deines Arbeitgebers zählt, entscheidet dein Arbeitgeber. Das ist keine Rechtsberatung.
Wie lange dauert der Kurs?
Wie lange der ganze Kurs und jede Lektion dauert, steht oben auf der Kursseite. In Lektion 4 und 8 lässt du zusätzlich deine Testfälle dreimal laufen; das dauert so lange, wie deine Testfälle und die Nutzungsgrenzen deines Tarifs es vorgeben.








