KI-Verarbeitung in Deutschland
Jeder Schritt der KI-Verarbeitung bei Sally findet auf Sallys eigenem Large Language Model statt, das durchgehend in unserer eigenen Infrastruktur in Deutschland betrieben wird. Es sind keine externen KI-Anbieter beteiligt, Gesprächsinhalte, Transkripte und Metadaten bleiben in jedem Schritt innerhalb unserer Systeme: beim Sprachmodell, in den Datenbanken, in den Backups.
Wie die KI-Verarbeitung abläuft
Meeting-Audio wird durch unser eigenes Whisper-basiertes Modell auf unseren eigenen GPU-Servern bei Hetzner in Deutschland transkribiert. Kein externer KI-Anbieter ist beteiligt.
Transkripte werden anschließend durch Sallys eigenes Large Language Model verarbeitet, gehostet auf derselben Infrastruktur in Deutschland. Jeder Prompt und jede Antwort bleibt innerhalb unserer Systeme.
Ergebnisse werden verschlüsselt an die Sally-Datenbank in Deutschland zurückgeschrieben und verschlüsselt gespeichert. Daten verlassen Deutschland nie.
Was das in der Praxis bedeutet
Die Inferenz läuft auf Sallys eigenem Sprachmodell, das durchgehend in unserer eigenen Infrastruktur in Deutschland betrieben wird. Keine externen KI-Anbieter.
Kundendaten werden niemals zum Training oder zur Verbesserung unserer Modelle verwendet, vertraglich und technisch.
Du kannst Sally optional so konfigurieren, dass ausschließlich eure eigenen Sprachmodelle genutzt werden. Dann verlassen keine Daten eure Infrastruktur für die KI-Verarbeitung.
Die Schutzmaßnahmen
Die technischen und organisatorischen Maßnahmen aus Anlage 1 des AVV gelten für die gesamte Verarbeitungskette einschließlich der KI-Inferenz: Verschlüsselung mit AES-256, Transportverschlüsselung TLS 1.3, rollenbasierte Zugriffskontrolle, strikte Mandantentrennung, revisionssichere Protokollierung und Vertraulichkeitsverpflichtungen aller Sally-Mitarbeitenden mit Zugriff auf Kundendaten.
Wenn deine Organisation Sally über MCP an externe KI-Tools anbindet (Claude, ChatGPT usw.), verlassen die Daten das kontrollierte Sally-Umfeld. Details zur Verantwortungsverteilung unter Externe KI-Tools (MCP).
Siehe auch: Hosting & Subunternehmen für den Ort der KI-Verarbeitung und das TOMs-PDF als technische Kontroll-Referenz.