Sicherheitstests für KI-Systeme
Der von Ihnen eingesetzte Assistent kann gekapert werden. Wir weisen es als Erste nach.
- Test, ob er sich dazu bringen lässt, Kundendaten preiszugeben.
- Test, ob seine Befugnisgrenzen überschritten werden können.
- Test auf Anweisungen, die in Dokumenten und eingehenden Nachrichten versteckt sind.
- Jeder Befund wird mit einer Reproduktion geliefert, nicht nur mit einer Warnung.
- Behebungen, die Ihr Team selbst durchführen kann.
Üblicher Umfang
Sicherheitstest für KI-Systeme
Wir prüfen, ob sich ein KI-Assistent dazu bringen lässt, Daten preiszugeben, seine Befugnisse zu überschreiten oder Anweisungen zu befolgen, die ein Außenstehender eingeschleust hat.
- Geprüft gegen versteckte Anweisungen in Dokumenten und Nachrichten
- Geprüft, ob Kundendaten abgezogen werden können
- Geprüft, ob seine Befugnisse überschritten werden können
Übliche Dauer: 1–2 Wochen
Sicherheitstest für KI-Agenten und Assistenten
Test von KI-gesteuerten Systemen: Anweisungen, die über fremde Texte eingeschleust werden, Datenabfluss zwischen Nutzern, Agenten, die über ihre Befugnisse hinausgehen, und Kosten, die Angreifer gezielt in die Höhe treiben.
- Einschleusung über Dokumente, E-Mails und Webseiten
- Datenabfluss zwischen Nutzern und Mandanten
- Agenten über ihre Befugnisgrenzen hinausführen
Übliche Dauer: 2 bis 3 Wochen
Umfang und Preis besprechen.