# Verstehen, worauf Ihr KI-Agent zugreift – und wozu er sich verleiten lässt. > Security-Assessments für KI-Agenten, MCP-Tools und Datenflüsse. Nachvollziehbare Befunde, priorisierte Massnahmen und fokussierter Nachtest mit Safematix. KI-Agenten können Dokumente lesen, Tools aufrufen und Systeme verändern. Safematix prüft, ob fremde Anweisungen, zu weitreichende Berechtigungen oder verbundene Dienste unbeabsichtigte Aktionen oder Datenabflüsse ermöglichen. Sie erhalten reproduzierbare Nachweise, priorisierte Massnahmen und einen fokussierten Nachtest – nicht nur einen Modell-Score. ## Sobald ein Agent im Geschäft mitarbeitet, zählen mehr als seine Antworten. Das Angebot richtet sich an Teams, die über Zugriffe, Aktionen oder den Betrieb eines KI-Agenten entscheiden. Der passende Einstieg hängt davon ab, ob bereits ein System geprüft werden soll oder ein abgegrenzter Pilot für einen Workflow benötigt wird. ### Vor dem Zugriff auf internes Wissen Ihr Agent soll Unternehmensdokumente durchsuchen oder Fragen zu internen Daten beantworten. Safematix untersucht, welche Informationen in seinen Kontext gelangen, wer darauf zugreifen darf und ob manipulierte Inhalte den Agenten umlenken oder Informationen ausserhalb des vorgesehenen Empfängerkreises offenlegen können. ### Vor der Freigabe von Aktionen Ihr Agent kann APIs aufrufen, Datensätze verändern oder betriebliche Tools verwenden. Safematix prüft Berechtigungen, Freigabegrenzen und verkettete Aktionen. Damit wird nachvollziehbar, welche Zugriffe für die Aufgabe nötig sind und welche zusätzliche Angriffspfade eröffnen. ### Wenn die Inferenz lokal bleiben soll Sie benötigen Kontrolle über Modellverkehr, Dokumente oder Betriebsinfrastruktur. Safematix betrachtet die vereinbarten Datenflüsse und Schutzmassnahmen. Ein lokal betriebenes Modell verhindert für sich allein weder unsichere Tool-Aufrufe noch übermässige Zugriffe oder Datenübertragungen an externe Dienste. ### Wenn ein Workflow einen belastbaren Piloten braucht Sie möchten einen Workflow automatisieren, haben aber noch keine ausreichende Entscheidungsgrundlage für einen breiteren Einsatz. Der separate Value Sprint erfasst den Ausgangszustand, erstellt einen evaluierten Piloten und dokumentiert Betriebsannahmen, Grenzen und die vor einer Ausweitung nötigen Entscheidungen. ## Vom fremden Inhalt bis zur tatsächlichen Aktion. Safematix prüft den vereinbarten Agenten, seine Integrationen und die definierte Umgebung. Im Mittelpunkt steht das Zusammenspiel von Modellverhalten, Berechtigungen, abgerufenen Informationen und ausführbaren Tools – nicht nur die Frage, ob das Modell einen einzelnen Prompt ablehnt. ### Prompt Injection und Agentenverhalten Safematix prüft, ob Anweisungen in Benutzereingaben, abgerufenen Dokumenten oder Tool-Antworten den Agenten umlenken können. Ein Befund verbindet den auslösenden Inhalt mit einem beobachtbaren Ergebnis, etwa einem unerlaubten Tool-Aufruf, einer Datenoffenlegung oder einer umgangenen Freigabe. ### MCP-Tools und Berechtigungsgrenzen Das Model Context Protocol verbindet Agenten mit Tools und Daten. Safematix untersucht Tool-Beschreibungen, Eingaben, Zugriffsrechte und verkettete Aufrufe. So wird geprüft, ob ein Agent seine vorgesehene Befugnis überschreiten oder einzeln erlaubte Aktionen zu einem unerwünschten Ergebnis verbinden kann. ### Retrieval und lokale Inferenz Safematix untersucht, wie Dokumente ausgewählt, Berechtigungen berücksichtigt und Informationen an das Modell übergeben werden. Bei vereinbarten Arbeiten an lokaler Inferenz prüft Safematix relevante Betriebs- und Datenflusskontrollen. Dabei wird sichtbar, welche Komponenten lokal bleiben und welche weiterhin externe Dienste verwenden. ### Härtungsentscheidungen oder ein evaluierter Pilot Ein Assessment empfiehlt Kontrolländerungen und überprüft die vom Kunden umgesetzten Massnahmen. Der separate Value Sprint erstellt einen Piloten für einen Workflow mit Evaluationen, Audit-Kontrollen und Betriebshinweisen. Umsetzung, Modelltraining und laufender Betrieb sind nicht stillschweigend Bestandteil eines Assessments. ## Nachweise, mit denen Security, Entwicklung und Fachverantwortliche arbeiten können. Das Security-Assessment liefert die folgenden fünf Ergebnisse. Der Value Sprint hat einen anderen Leistungsumfang: Workflow-Baseline, Zielarchitektur, evaluierter Pilot, Betriebshandbuch und Übergabe innerhalb der genannten Paketgrenzen. ### Vereinbarte System- und Zugriffsübersicht Eine schriftliche Übersicht erfasst den geprüften Agenten, seine Tools, Datenquellen, Identitäten und wesentlichen Vertrauensgrenzen. Ausschlüsse und Zugriffsannahmen werden ebenfalls festgehalten. Dadurch lässt sich erkennen, was tatsächlich geprüft wurde und welche Komponenten nicht als freigegeben gelten dürfen. ### Reproduzierbare Nachweise zu Angriffspfaden Jeder Befund beschreibt Voraussetzungen, Eingaben, Tool-Interaktionen und das beobachtete Verhalten. Die Nachweise machen den Weg zum Ergebnis nachvollziehbar, ohne Geheimnisse unnötig offenzulegen. Ihr Team kann damit das Problem reproduzieren und belegte Auswirkungen von blossen Möglichkeiten unterscheiden. ### Priorisierte Befunde und Kontrollentscheidungen Der Bericht verbindet das technische Verhalten mit möglichen geschäftlichen Auswirkungen, der Ursache und einem praktikablen Behebungsweg. Die Priorisierung berücksichtigt die geprüften Bedingungen. Grenzen und offene Fragen bleiben sichtbar, statt hinter einem einzigen Score zu verschwinden. ### Massnahmen-Workshop und Prüfkriterien Safematix erläutert Ihrem Team die Befunde und vorgeschlagenen Kontrollen. Der Workshop klärt, was geändert werden sollte und woran sich die Änderung überprüfen lässt. Die Umsetzung der Massnahmen bleibt bei Ihrem Team, sofern keine separate Implementierung vereinbart wurde. ### Fokussierter Nachtest und verbleibende Risiken Das Assessment enthält einen fokussierten Nachtest innert 30 Tagen nach dem ersten Debriefing auf Ihrem bereitgestellten Build oder Ihrer Konfiguration mit umgesetzten Massnahmen. Das Ergebnis unterscheidet behobene, teilweise behobene und offene Befunde und hält verbleibende Risiken nachvollziehbar fest. ## Technische Erfahrung, die Sie nachvollziehen können. Roberts öffentliche MCP-Projekte und Modellartefakte machen konkrete technische Arbeiten einsehbar. Sie bieten eine Grundlage für die Beurteilung von Vorgehen und Engineering-Tiefe, ohne unbelegte Kundenergebnisse oder nicht freigegebene Referenzen vorauszusetzen. ### MCP-Kontrollen zur Laufzeit Roberts öffentliches Projekt mcp-firewall enthält Code für Richtlinien- und Audit-Kontrollen zwischen Agent und MCP-Server. Die einsehbaren Arbeiten zeigen Prüfungen von Tool-Aufrufen und protokollierte Entscheidungen. Daraus folgt keine pauschale Sicherheitszusage für jede Umgebung, in der ein solches Gateway eingesetzt wird. [mcp-firewall ansehen](https://github.com/ressl/mcp-firewall) ### Sicherheitsprüfungen für MCP-Server Das öffentliche Projekt mcpwn dokumentiert Prüfungen unter anderem auf manipulierte Tool-Beschreibungen, Prompt Injection, übermässige Berechtigungen und Datenoffenlegung. Die beschriebene Trennung zwischen schonender Inspektion und autorisierten aktiven Tests macht das vorgesehene Verhalten und die betrieblichen Grenzen nachvollziehbar. [mcpwn ansehen](https://github.com/ressl/mcpwn) ### Veröffentlichtes Modell-Engineering Robert veröffentlicht Arbeiten zu Modellverhalten, Quantisierung und bereitstellbaren Formaten. Diese Artefakte zeigen praktische Arbeit über die Formulierung von Prompts hinaus. Die angegebenen Evaluationsgrenzen ersetzen dabei pauschale Versprechen zu Zuverlässigkeit oder Sicherheit über sämtliche Modelle und Umgebungen hinweg. [Veröffentlichte Modelle ansehen](https://huggingface.co/ressl) ## Von der klaren Frage zum dokumentierten nächsten Schritt. Jeder Auftrag beginnt mit schriftlichem Umfang und ausdrücklicher Autorisierung. Assessment und Pilot haben unterschiedliche Ergebnisse; bei beiden werden benötigte Zugriffe, Zwischenstände, Nachweise und Beiträge Ihres Teams vorab geklärt. ### Verstehen und autorisieren Safematix klärt Workflow, Agentenzugriffe, Datengrenzen und die anstehende Entscheidung. Gemeinsam mit Ihnen unterscheidet Safematix Assessment und Pilot, bestätigt die Paketgrenzen und vereinbart Autorisierung, Umgang mit Nachweisen, Eskalationskontakte und Abbruchbedingungen, bevor die technische Arbeit beginnt. **Ergebnisse:** - Schriftlicher Leistungsumfang und Systeminventar - Autorisierung und betriebliche Grenzen - Plan für sichere Zugriffe und Nachweise **Ihr Beitrag:** Benennen Sie Systemverantwortung und technische Kontaktperson, genehmigen Sie den Umfang und stellen Sie vereinbarte Unterlagen, Testkonten und geeignete Beispieldaten über den sicheren Kanal bereit. ### System prüfen oder Pilot erstellen Im Assessment prüft Safematix die vereinbarten Angriffspfade über Agent und Integrationen hinweg und validiert Ergebnisse, bevor daraus Befunde werden. Im Value Sprint bildet der erfasste Workflow den Ausgangspunkt für den vereinbarten Piloten, seine Evaluationen und Kontrollen. **Ergebnisse:** - Validierte Testnachweise oder Pilotimplementierung - Zwischenstände und Annahmen zur Umgebung **Ihr Beitrag:** Halten Sie vereinbarte Zugriffe verfügbar, beantworten Sie technische Fragen und melden Sie betriebliche oder datenbezogene Einschränkungen rechtzeitig. ### Nachweise erklären und entscheiden Safematix erläutert Befunde, Kontrollmöglichkeiten und Grenzen für technische und geschäftliche Verantwortliche. Zum Assessment gehören Bericht und Massnahmen-Workshop. Beim Piloten vergleicht Safematix die Umsetzung mit vereinbarten Prüfkriterien und Betriebsannahmen, ohne Einsparungen zu erfinden oder einen produktiven Erfolg zu versprechen. **Ergebnisse:** - Befundbericht oder dokumentierte Pilotevaluation - Priorisierte Kontrollentscheidungen und Massnahmen - Debriefing oder Massnahmen-Workshop **Ihr Beitrag:** Binden Sie Personen ein, die geschäftliche Auswirkungen beurteilen, Änderungen umsetzen und verbleibende Risiken oder Betriebsannahmen bewerten können. ### Überprüfen und übergeben Der fokussierte Nachtest des Assessments prüft Ihren aktualisierten Build oder Ihre Konfiguration innert 30 Tagen nach dem ersten Debriefing. Der Value Sprint endet mit Betriebshinweisen, Evaluationsergebnissen und priorisierten nächsten Schritten. Weitergehende Tests, produktiver Ausbau und laufender Betrieb benötigen eine separate Vereinbarung. **Ergebnisse:** - Nachtest-Ergebnis oder Betriebshandbuch für den Piloten - Verbleibende Risiken, Grenzen und offene Massnahmen - Übergabe und dokumentierte nächste Schritte **Ihr Beitrag:** Setzen Sie Assessment-Massnahmen um und stellen Sie das aktualisierte System für den Nachtest bereit, oder bestätigen Sie Verantwortung und nächste Entscheidung für den Piloten. ## Bestehenden Agenten prüfen oder einen evaluierten Piloten erstellen. Das KI-Agenten- & MCP-Security-Assessment kostet CHF 14’800 für 8 Arbeitstage und umfasst einen Agenten mit bis zu fünf MCP-Tools oder Integrationen. Der KI-Agenten-Value-Sprint kostet CHF 24’800 für 12 Arbeitstage und umfasst einen Workflow mit bis zu drei Integrationen. Umfang, Autorisierung und Starttermin werden schriftlich bestätigt. ### KI-Agenten- & MCP-Security-Assessment — CHF 14’800 8 Arbeitstage Einen KI-Agenten und seine Toolkette angreifen und anschliessend die Härtung der Kontrollen gegen reale Angriffspfade unterstützen. - Ein KI-Agent mit bis zu fünf MCP-Tools oder Integrationen - Tests von Prompt Injection, Datenexfiltration, Berechtigungen und Containment - Nachweisbericht, Remediation-Workshop und ein fokussierter Nachtest innert 30 Tagen nach dem ersten Debriefing, auf Basis des vom Kunden bereitgestellten Builds oder der Konfiguration mit umgesetzten Behebungsmassnahmen **Nicht enthalten:** - Zusätzliche Agenten, Tools oder produktives Modelltraining - Formale Compliance-Zertifizierung oder Rechtsberatung - Mehr als ein fokussierter Nachtest [Paket anfragen](https://safematix.com/de/?package=ai-agent-security#contact) ### KI-Agenten-Value-Sprint — CHF 24’800 12 Arbeitstage Einen aufwendigen Workflow in einen sicheren, evaluierten KI-Agenten-Piloten überführen – mit Kontrollen und messbaren Betriebsannahmen statt Automatisierungstheater. - Baseline, Zielarchitektur und Zuordnung der Compliance-Kontrollen für einen Workflow - KI-Agenten-Pilot mit bis zu drei Integrationen, Evaluationen und Audit-Kontrollen - Übergabe, Betriebshandbuch und priorisierte nächste Schritte mit Messgrössen **Nicht enthalten:** - Zusätzliche Workflows, Integrationen oder produktive Features - Drittlizenzen, Hardware und Cloud-Verbrauch - Laufender Betrieb nach der Übergabe ohne separate Vereinbarung [Paket anfragen](https://safematix.com/de/?package=ai-value-sprint#contact) Flexible Mandate: CHF 2’200 pro Arbeitstag. Längere, klar definierte Remote-Projekte: CHF 2’000–2’100. Kurzfristige OT-, Red-Team- und Hochsicherheitseinsätze: CHF 2’400–2’600, nach Scope. Paketpreise entsprechen Fixpreis-Äquivalenten von CHF 1’850–2’100 pro Arbeitstag; der Tagessatz gilt, wenn sich der Umfang nicht im Voraus festlegen lässt. Alle Paketpreise und Tagessätze verstehen sich exkl. allfälliger MwSt. sowie vorab genehmigter Reise- und Drittkosten, sofern nicht ausdrücklich im Auftragsformular enthalten. Fixpreispakete gelten im genannten Umfang. Scope, Autorisierung und Starttermin werden vor Arbeitsbeginn schriftlich vereinbart. Die Zuordnung zu regulatorischen Anforderungen erfolgt technisch und ist keine Rechtsberatung. Einsparungen und Compliance werden nicht zugesichert. ## Fragen, bevor Ihr Agent mehr Zugriff erhält. ### Was ist MCP, und prüfen Sie mehr als das Modell? MCP steht für Model Context Protocol und verbindet einen Agenten mit Tools und Datenquellen. Die Modellantwort ist nur ein Teil des Systems: Tool-Berechtigungen, abgerufene Dokumente, Freigaben und verbundene Dienste beeinflussen das Ergebnis. Safematix prüft die vereinbarten Komponenten und ihr Zusammenspiel. Das Paket umfasst nicht automatisch sämtliche umliegenden Systeme. ### Welches Paket passt zum Vorhaben? Das KI-Agenten- & MCP-Security-Assessment für CHF 14’800 und 8 Arbeitstage prüft einen bestehenden Agenten mit bis zu fünf MCP-Tools oder Integrationen. Der KI-Agenten-Value-Sprint für CHF 24’800 und 12 Arbeitstage erstellt und evaluiert einen Piloten für einen Workflow mit bis zu drei Integrationen. Entscheidend ist, ob Sie Sicherheitsnachweise oder einen Workflow-Piloten benötigen. ### Können Prompts, Dokumente und Inferenz lokal bleiben? Lokale Inferenz lässt sich an Ihren Daten- und Betriebsanforderungen ausrichten. Safematix vereinbart vor Arbeitsbeginn, welche Modelle, Tools und Dienste Informationen verarbeiten dürfen, und dokumentiert verbleibende externe Datenflüsse. Lokaler Betrieb allein ist keine Sicherheitsgarantie: Zugriffsrechte beim Dokumentabruf, Tool-Berechtigungen, Protokollierung und ausgehende Verbindungen müssen ebenfalls berücksichtigt werden. ### Welche Zugriffe und Vorbereitungen benötigen Sie? Safematix benötigt eine schriftliche Autorisierung durch die Systemverantwortung, eine technische Kontaktperson, eine Beschreibung des Agenten und seiner Integrationen sowie die vereinbarten Testzugriffe oder den Beispiel-Workflow. Geeignete Testdaten und eine Architekturübersicht helfen bei der Abgrenzung. Zugangsdaten, vertrauliche Dokumente und sensible Exploit-Details gehören ausschliesslich in den vereinbarten sicheren Kanal, nicht ins erste Anfrageformular. ### Setzen Sie die Massnahmen um, und wie läuft der Nachtest ab? Das Assessment enthält Empfehlungen, einen Massnahmen-Workshop und einen fokussierten Nachtest innert 30 Tagen nach dem ersten Debriefing. Ihr Team stellt den aktualisierten Build oder die Konfiguration bereit. Die Entwicklung von Fixes, zusätzliche Agenten oder Tools, produktives Modelltraining und weitere Nachtests sind nicht enthalten. Zusätzliche Umsetzung wird separat vereinbart. ### Beweist ein Assessment, dass der Agent sicher oder konform ist? Nein. Es liefert Nachweise zum vereinbarten System, den geprüften Bedingungen und dem Testzeitraum samt Abdeckung und Grenzen. Neue Integrationen, Berechtigungen, Modelle oder Daten können das Risiko verändern. Die technische Zuordnung von Anforderungen zu Kontrollen ist weder eine formale Compliance-Zertifizierung noch Rechtsberatung. Assessment und Pilot garantieren keine Sicherheit, Einsparungen oder Compliance-Ergebnisse. ## Beginnen Sie mit Aufgabe, Zugriffen und Rahmenbedingungen. Beschreiben Sie, was der Agent tun soll, welche Tools oder Daten er erreichen kann und welche Entscheidung ansteht. Für die erste Anfrage genügt eine allgemeine Übersicht. Bitte senden Sie keine Zugangsdaten, vertraulichen Dokumente oder sensiblen Exploit-Details. Ich antworte persönlich, in der Regel innerhalb eines Arbeitstages (Mo–Fr, MEZ). [Agenten und Zugriffe besprechen](https://safematix.com/de/?service=ai-security#contact)