Die Frage, die ernsthafte Teams bremst

Wenn ein B2B-Team erwägt, KI in seinen Support aufzunehmen, ist der erste Einwand fast nie „antwortet sie gut?”. Es ist „was wird dieses Ding mit meinen Kundendaten sehen und tun können?”. Und sie haben recht, das zu fragen: eine KI, die interne Berechtigungen ignoriert, ist keine Verbesserung, sondern ein Sicherheitsleck mit guter Formulierung.

Der generische Copilot, der „alles liest, was da ist”, kann einem Junior-Agenten Informationen eines Kontos durchsickern lassen, das ihn nichts angeht, oder eine Aktion ausführen, die niemand autorisiert hat. Im B2B ist das kein Detail: es ist der Grund, warum viele KI-Piloten abgebrochen werden.

RBAC: die KI sollte nicht mehr sehen als die Person

Das Prinzip ist einfach und sollte nicht verhandelbar sein: die KI operiert innerhalb derselben Berechtigungen wie die Person, die sie nutzt, nicht darüber.

Das ist rollenbasierte Zugriffskontrolle (RBAC), angewandt auch auf die KI. Wenn ein Agent die Daten eines bestimmten Kontos nicht sehen darf, darf der Assistent sie auch nicht verwenden, um in seinem Namen zu antworten. Wenn eine Rolle eine bestimmte Aktion nicht ausführen darf, kann die KI sie nicht „der Bequemlichkeit halber” ausführen. Die Berechtigung des Nutzers ist die Decke, immer.

In der Praxis bedeutet das drei Regeln:

  1. Begrenztes Lesen: die KI greift nur auf den Kontext zu, den der Nutzer sehen darf.
  2. Begrenzte Aktion: die KI schlägt nur Aktionen vor, die die Rolle des Nutzers ausführen könnte.
  3. Keine stille Eskalation: die KI erweitert niemals ihre eigenen Berechtigungen, um eine Aufgabe abzuschließen.

Kontext pro Konto, isoliert

Zusätzlich zur Rolle des Nutzers kommt die Isolierung zwischen Konten. In einer Multi-Tenant-Umgebung dürfen die Daten eines Kunden nicht in den Kontext eines anderen durchsickern, auch nicht über die KI. Elevatia arbeitet mit isolierter Kontext pro Organisation und Datenresidenz in der EU-Cloud — etwas, das wir in B2B-SaaS in der europäischen Cloud und GDPR ausführen.

Der Assistent hilft bei einem Fall mit dem Kontext dieses Kontos und sonst nichts. Es gibt kein „Modell, das alles gesehen hat”, das Informationen zwischen Kunden mischt.

Menschaftliche Freigabe: die Kontrolle über die Aktionen

Daten mit Berechtigungen zu sehen ist die Hälfte. Die andere Hälfte ist, was die KI damit tut. Hier lautet das Prinzip von Elevatia: die KI schlägt vor, der Mensch entscheidet: Aktionen mit Auswirkung durchlaufen eine Freigabe, bevor sie ausgeführt werden.

Das macht die KI zu einem Beschleuniger, nicht zu einem autonomen Risiko. Der Agent prüft die vorgeschlagene Antwort oder Aktion, sieht, woher der Kontext stammt, und genehmigt oder korrigiert. Dieses Modell entwickeln wir im Detail in KI im Support mit menschlicher Freigabe.

Nachvollziehbarkeit: wer, was und wann

Sicherheit ohne Protokoll ist blindes Vertrauen. Alles, was die KI vorschlägt, und alles, was ein Mensch freigibt, bleibt nachvollziehbar: welcher Kontext verwendet wurde, welche Aktion vorgeschlagen wurde, wer sie autorisierte und wann. Diese Nachvollziehbarkeit dient dem Audit, der Erfüllung von Kundenanforderungen und der Verbesserung des Systems mit echten Daten statt mit Intuitionen.

Was man bei der Bewertung von KI im Support prüfen sollte

Wenn du eine Lösung mit KI bewertest, sind dies die Fragen, die Ernsthaftiges vom Riskanten trennen:

  • Respektiert die KI die Berechtigungen des Nutzers, oder sieht sie mehr als er?
  • Ist der Kontext im Multi-Tenant pro Konto isoliert?
  • Erfordern Aktionen mit Auswirkung eine menschliche Freigabe?
  • Gibt es ein auditierbares Protokoll des Gesehenen und Getanen?
  • Wo residieren die Daten?

Wenn eine Antwort „nein” oder „unklar” ist, gehört das Risiko dir, nicht dem Anbieter.

Teste es mit deinen eigenen Regeln

Der beste Weg, die Sicherheit zu validieren, ist, sie mit deinen Rollen und deinen echten Konten in einer isolierten Umgebung zu testen. Dafür gibt es den Piloten: beantrage den kostenlosen Pilot (~4 Wochen, ohne Kosten) oder reserviere eine 15-minütige Demo.

info@elevatia.io — wir antworten auf Spanisch oder Englisch.