Warum Contact Center genau der Workload sind, für den das Cloud Sovereignty Framework entwickelt wurde

Wenn Sie gezielt einen Workload entwerfen wollten, der am Cloud Sovereignty Framework der EU-Kommission scheitert, würden Sie ein modernes Contact Center bauen: Sprachaufzeichnungen von Kunden, PCI-Daten im Zahlungsprozess, Gesundheitsinformationen bei medizinischen Hotlines, Sozialleistungsdaten bei Behörden, Transkripte sämtlicher Gespräche, KI-generierte Zusammenfassungen und auf all diesen Daten trainierte Empfehlungen für den nächsten Handlungsschritt. 

Deshalb werden sich die Anforderungen des Frameworks bei Contact Centern besonders früh auswirken. Zugleich haben die in den vergangenen zwei Jahren ergänzten KI-Funktionen Scores unbemerkt verschlechtert, die zuvor noch ausreichend waren.

Wo Contact-Center-Umgebungen heute stehen

Das ist eine Verallgemeinerung, aber eine hilfreiche.

• Eine Cloud-Contact-Center-Plattform mit US-Hauptsitz, die in einer EU-Region betrieben wird und ihre standardmäßigen KI-Funktionen für Transkription und Zusammenfassung nutzt, erreicht SEAL-1. Die Daten liegen möglicherweise in Frankfurt. Die Modell-Inferenz und die Tenant-Administration befinden sich jedoch nicht dort.
• Dieselbe Plattform erreicht SEAL-2, wenn die KI-Funktionen deaktiviert sind und der Support über ein EU-Team erfolgt.
• Eine Contact-Center-Plattform aus der EU kann SEAL-3 erreichen, wenn die Schlüssel in der EU verwahrt werden, die KI-Inferenz für Sprache und Text in der EU erfolgt und ein dokumentierter Löschprozess besteht.
• SEAL-4 ist bei Contact Centern außerhalb des Behördenumfelds weitgehend theoretisch. Dafür müsste der gesamte Stack unter EU-Kontrolle stehen, einschließlich der Endgeräte und des Netzwerkzugangs.

Die SOV-Ziele mit dem größten Einfluss auf die Contact-Center-Bewertung

SOV-3: Daten und KI

Contact Center erzeugen heute zwei Datenströme in einem bislang unbekannten Umfang: vollständige Gesprächstranskripte und modellgenerierte Zusammenfassungen. Beides sind personenbezogene Daten. Vielfach handelt es sich auch um besondere Kategorien personenbezogener Daten. Wird einer dieser Datenströme von einem Modell außerhalb der EU verarbeitet, erfüllt der Workload die strengste Auslegung von SOV-3 nicht mehr. Dabei spielt es keine Rolle, wo die Audiodatei selbst gespeichert ist.

Das Framework stellt vier konkrete Anforderungen:

• Kunden müssen die Kontrolle über Verschlüsselungs-Keys haben
• nachvollziehen können, wann und durch wen auf Daten zugegriffen wurde
• die Löschung verifizieren können
• und die Kontrolle über die KI-Verarbeitung in der EU behalten

Bei den meisten KI-Funktionen cloudbasierter Contact Center bestehen derzeit bei mindestens zwei dieser Punkte Schwächen.

SOV-2: rechtlich und jurisdiktionell

Aufzeichnungen und Transkripte gehören zu den am häufigsten angeforderten Beweismitteln bei regulatorischen Untersuchungen, arbeitsrechtlichen Auseinandersetzungen und Strafverfahren. Kann eine Behörde außerhalb der EU über die Muttergesellschaft Zugriff erzwingen, ist dieses Risiko nicht nur theoretisch. Bei den meisten globalen Contact-Center-Plattformen ist dies derzeit der Fall.

SOV-7: Sicherheit und Compliance

Das Framework prüft, wo sich das Security Operations Center befindet, wer für Incident Responses verantwortlich ist und nach welchem Recht Informationen zum Incident-Response-Prozess offengelegt werden. Ein rund um die Uhr arbeitendes globales SOC, das nachts an ein Team in den USA oder Indien übergibt, kann nicht als EU-kontrolliert bewertet werden.

SOV-4: Operativ

CC ist eine geschäftskritische Echtzeitplattform. Falls der Anbieter den Support einstellt oder die Geschäftsbedingungen ändert, kann die Infrastruktur dann von EU-Mitarbeitern mit EU-Dokumentation auf EU-Infrastruktur betrieben werden? Für viele große Implementierungen lautet die ehrliche Antwort heute „nein“.

Die KI-Falle: Wie Sie den Nutzen erhalten, ohne die Bewertung zu verschlechtern

Viele IT-Verantwortliche betrachten KI-Funktionen als bloße Ergänzung: aktivieren, Produktivitätsvorteile nutzen und sich später um digitale Souveränität kümmern. Das Framework behandelt diese Funktionen jedoch als festen Bestandteil des Workloads. Sobald eine KI-Funktion aktiviert ist, gehört ihr Datenfluss zum Datenfluss des gesamten Workloads.

Es gibt drei Möglichkeiten, den Nutzen von KI zu erhalten und zugleich die SEAL-Bewertung abzusichern:

1. Bestehen Sie für jede KI-Funktion auf einer ausschließlich in der EU ausgeführten Inferenz. Kann der Anbieter dies nicht schriftlich zusichern, deaktivieren Sie die Funktion.
2. Trennen Sie die Trainings- von der Inferenzpipeline. Selbst wenn die Inferenz ausschließlich in der EU erfolgt, gilt das nicht zwangsläufig für das Training mit Kundendaten. Beide Bereiche müssen eindeutig abgegrenzt und geprüft werden.
3. Protokollieren Sie jede KI-Interaktion genauso wie jede Interaktion eines menschlichen Agents. Auditierbarkeit ist ein Kriterium von SOV-3. Anbieter, die kein KI-Auditprotokoll für jedes einzelne Gespräch bereitstellen können, schneiden im Framework entsprechend schlecht ab.

Ein Beispiel zeigt, wie relevant die Details sind. Die Contact-Center-Umgebung eines Einzelhändlers schien vollständig in der EU betrieben zu werden und hatte eine SecNumCloud-Light-Touch-Prüfung bestanden. Bei genauer Analyse der KI-Funktionen zeigte sich jedoch, dass Transkripte an ein in den USA betriebenes Modell zur Zusammenfassung gesendet wurden. Zudem konnte der Kunde die Schlüssel für diese Transkripte nicht selbst verwalten. Für die Behebung war kein Plattformwechsel nötig. Ausgereicht haben eine Neukonfiguration der KI-Funktion, eine geänderte Inferenzroute und ein Vertragsnachtrag. Innerhalb eines Quartals verbesserte sich die Bewertung des Workloads von SEAL-1 auf SEAL-2.

Acht Fragen vor der nächsten Vertragsverlängerung

1. Wo werden die einzelnen Kategorien von Contact-Center-Daten gespeichert: Audio, Transkript, Agentennotizen, Bildschirmaufzeichnungen, KI-Zusammenfassungen und CRM-Updates?
2. Welche KI-Funktionen sind aktiviert, auf welcher Infrastruktur, in welcher Gerichtsbarkeit und auf welcher vertraglichen Grundlage?
3. Werden Kundeninhalte jemals zum Trainieren, Feinabstimmen oder Bewerten eines Modells verwendet? Und können wir dem nachweislich widersprechen?
4. Wer verwahrt die Verschlüsselungs-Keys, und können wir sie für jede Datenkategorie selbst kontrollieren?
5. Welche Nachweise gibt es für die Löschung der einzelnen Datenkategorien und wie wird sie verifiziert?
6. Wo befindet sich das Security Operations Center (SOC), und wer steuert den Incident-Response-Prozess?
7. Wo genau befinden sich die einzelnen Support-Level und auf welche Daten kann jedes Level zugreifen?
8. Wie sieht der Ausstiegsprozess aus, falls sich die Souveränitätsposition während der Vertragslaufzeit verschlechtert und welche Kosten würden dafür heute anfallen?

Was das für Käufer bedeutet

Bei Contact Centern ist die SEAL-Bewertung für Aufsichtsbehörden, Kunden und Medien besonders sichtbar. Gleichzeitig können KI-Funktionen die Bewertung zwischen zwei Vertragsverlängerungen unbemerkt verschlechtern. Warten Sie nicht darauf, dass Ausschreibungsunterlagen diese Entwicklung abbilden. Bewerten Sie Ihre Contact-Center-Umgebung jetzt anhand des Frameworks und machen Sie die identifizierten Lücken zum Gegenstand des nächsten kaufmännischen Gesprächs mit Ihrem Anbieter.

Damovo hat seinen Hauptsitz in der EU, erbringt seine Leistungen aus der EU und ist so aufgestellt, dass sich das Unternehmen anhand des Frameworks bewerten lässt, statt sich einer solchen Prüfung zu entziehen. Wir ermitteln unsere eigenen SEAL-Positionen je Leistungsbereich, akzeptieren Neubewertungen während der Vertragslaufzeit und betrachten das Framework als Vertragssprache, die wir selbst auf Käuferseite erwarten würden.