Verantwortungsvolles Design: Grundsätze und Vorgehensweisen von Smartsheet im Bereich KI

Ich sage es ganz offen: Verantwortungsvolle KI ist für uns keine bloße Wertvorstellung. Sie ist eine architektonische Anforderung. Dieser Unterschied ist bedeutender, als den meisten Unternehmen bewusst ist.

Als generative KI im Jahr 2023 ihren Durchbruch erlebte, war der Druck groß, schnell zu handeln – und wir haben gehandelt. Mit zunehmender Verbreitung trat jedoch eine unbequeme Wahrheit zutage: Das Motto „Move fast and break things“ (schnell handeln und später korrigieren) hält den Anforderungen von Arbeit im Enterprise-Umfeld nicht stand. Wenn KI integraler Bestandteil dessen ist, wie 85 % der Fortune-500-Unternehmen ihre wichtigsten Programme steuern, sind die Kosten eines Fehlers erheblich. Es geht nicht nur um eine schlechte Benutzererfahrung, sondern um Vertrauensverlust, Compliance‑Risiken und KI‑Investitionen, die ins Stocken geraten, bevor sie skalieren können.

Laut der IBM-Studie „Cost of a Data Breach 2025“ (Die Kosten einer Datenschutzverletzung 2025) verfügen 63 % der Unternehmen noch immer nicht über KI‑Governance‑Richtlinien. Diese Zahl macht eines deutlich: Die meisten Unternehmen betrachten Governance immer noch als etwas, das sie später hinzufügen. Wir haben uns bewusst für einen anderen Ansatz entschieden: Governance, die von Anfang an in die Architektur integriert ist, verlangsamt KI nicht – sie macht sie schneller und vertrauenswürdiger.

Unser Ansatz basiert auf vier Säulen. Gemeinsam definieren sie die Standards, die wir auf jede KI-Funktion anwenden, die wir entwickeln, und die Erwartungen, die wir an jeden Partner stellen, mit dem wir zusammenarbeiten.

Unsere verbindlichen Grundsätze für Smartsheet-KI

1. Datenschutz und -sicherheit: Ihre Daten bleiben Ihr Eigentum

Dies ist aus gutem Grund unser erster Grundsatz. Ihre Daten werden zu keinem Zeitpunkt mit den Daten anderer Kunden vermischt. Sie werden niemals verwendet, um die Foundation-Modelle Dritter zu trainieren. Sie haben stets die Kontrolle über Ihre Daten. Daran lassen wir keinen Zweifel.

In der Praxis: Alle KI-Funktionen unterliegen denselben Compliance-Standards wie die gesamte Smartsheet‑Plattform – darunter SOC 2, DSGVO und Anforderungen hinsichtlich der Datenresidenz. Daten werden sowohl während der Übertragung als auch im Ruhezustand verschlüsselt. Zusätzlich kommen Schutzmechanismen zur Inhaltsfilterung zum Einsatz und die KI arbeitet innerhalb Ihrer bestehenden Berechtigungsstrukturen. Wenn Benutzer*innen keinen Zugriff auf ein Sheet haben, gilt dies ebenso für die KI.

Wir haben bewusst die architektonische Entscheidung getroffen, keine Kundeninhalte zum Training von Foundation-Modellen Dritter zu verwenden – auch nicht in aggregierter oder anonymisierter Form. Damit verfolgen wir einen strengeren Ansatz als viele andere Anbieter – und davon weichen wir nicht ab.

2. Verantwortlichkeit und Kontrolle: keine Black Boxes

Enterprise-KI, die nicht erklärt, überprüft oder kontrolliert werden kann, ist ein Risiko – kein Mehrwert. Deshalb ist jede KI‑Aktion in Smartsheet vollständig nachvollziehbar: sowohl für Endbenutzer*innen, die KI-generierte Änderungen überprüfen, bewerten und genehmigen können, als auch für Systemadmins mit zentraler Transparenz über die gesamte Plattform.

Systemadmins behalten die volle Kontrolle darüber, welche KI-Funktionen für wen aktiviert sind. Arbeitsbereichsadmins verfügen über detaillierte Steuerungsmöglichkeiten, welche Daten die KI innerhalb ihrer Arbeitsbereiche verwenden darf. Diese Kontrollen werden auf Architekturebene durchgesetzt, nicht nur über die Benutzeroberfläche.

Ich bezeichne diesen Ansatz als den Grundsatz des „Experten in der Mitte“. KI analysiert und gibt Empfehlungen. Menschen entscheiden – insbesondere dort, wo reale organisatorische Konsequenzen entstehen.

Nach diesem Muster – KI als Empfehlungsinstanz mit menschlichem Urteilsvermögen am Entscheidungspunkt – haben wir alle Agenten und KI-Funktionen entwickelt. Das ist keine Einschränkung der Technologie, sondern eine bewusste Entscheidung darüber, wie KI in Unternehmen tatsächlich funktionieren sollte.

3. Zuverlässigkeit und Fairness: konsistente, vertrauenswürdige Ergebnisse in großem Umfang

Pew Research hat herausgefunden, dass 55 % sowohl der KI-Expert*innen als auch der allgemeinen Öffentlichkeit angeben, stark über Verzerrungen (auch Bias oder Voreingenommenheit) in KI‑gestützten Entscheidungen besorgt zu sein – und das zu Recht. Verzerrungen in KI-Systemen sind selten offensichtlich und verstärken sich mit der Zeit. Deshalb haben wir die Erkennung von Verzerrungen und die kontinuierliche Modellbewertung als feste Bestandteile unseres Entwicklungsprozesses verankert – nicht als einmaligen Prüfschritt vor der Markteinführung.

Wir überwachen die Qualität der KI-Antworten kontinuierlich durch automatisierte Kontrollen, Modelltests und direktes Benutzerfeedback. Unsere Ziele sind eine Halluzinationsrate von unter 3 %, eine Aufgabenabschlussquote von über 80 % sowie Antwortzeiten von unter 3 Sekunden. Diese Schwellenwerte bestimmen, was wir bereitstellen. Erfüllt eine Funktion diese Kriterien nicht, wird sie nicht veröffentlicht.

4. Transparenz und Erklärbarkeit: Sie sollten jederzeit wissen, was die KI tut – und warum

Wenn Sie in Smartsheet mit KI interagieren, ist dies für Sie klar erkennbar. Werden Daten durch KI generiert oder verändert, ist dies entsprechend gekennzeichnet. Das ist nicht nur eine Frage der Offenlegung – es ist die Grundlage für Vertrauen.

Noch wichtiger ist: Wenn die KI eine Empfehlung ausspricht, können Sie die Hintergründe nachvollziehen. Sie sehen, welche Daten verwendet wurden, welche Muster erkannt wurden und wie das Ergebnis zustande kam. In regulierten Branchen ist es zunehmend unabdingbar, dass Sie Ihre Arbeitsweise gegenüber Aufsichtsbehörden, Wirtschaftsprüfern und CISOs offenlegen können. Wir entwickeln unter Berücksichtigung dieser Anforderung.

Wie sich dies auf der Smartsheet‑Plattform konkret zeigt

Grundsätze lassen sich leicht formulieren. Entscheidend ist jedoch, wie sie sich in konkreten Produktentscheidungen widerspiegeln. Unsere vier Grundsätze sind fest in der Entwicklung der Smartsheet‑Plattform verankert:

• Der Mensch behält immer das letzte Wort. Jede neue KI-Funktion verfügt über integrierte Kontrollpunkte und Genehmigungsschritte. Sie entscheiden, wo und wann KI zum Einsatz kommt. Die KI eilt Ihnen bei keinen wichtigen Entscheidungen voraus.
• Eindeutige Identifizierung KI-generierter Inhalte. KI-Funktionen und ihre Ergebnisse sind auf der gesamten Plattform klar gekennzeichnet – in Dashboards, Sheets und bei Smart Assist-Interaktionen. Es besteht keinerlei Unklarheit darüber, wann Sie mit KI-generierten Inhalten arbeiten.
• Vollständige Prüfbarkeit und Nachverfolgbarkeit. Für Smart Assist und Smart Agents gibt es ein vollständiges Audit-Protokoll – was passiert ist, wann es passiert ist und wodurch es ausgelöst wurde. Admins erhalten zentralisierte Datensätze für die gesamte Plattform. Endbenutzer*innen können nachvollziehen, welche KI‑Aktionen ihre Arbeit beeinflusst haben. Das ist die Form von Transparenz, die CISOs und Rechtsabteilungen benötigen.
• Zentrale Kontrolle über die KI. Systemadmins legen die Grenzen für die Instanz ihres Unternehmens fest – welche Funktionen für wen aktiviert werden und auf welche Daten die KI zugreifen darf. Dies entwickeln wir zuerst, nicht zuletzt.
• Nutzungsüberwachung und -analyse. Über klassische Audit‑Protokolle hinaus erhalten Admins detaillierte Nutzungsanalysen. So lässt sich nachvollziehen, wie Teams KI einsetzen und welche geschäftlichen Auswirkungen dies über verschiedene Workflows hinweg hat. Im Laufe der Zeit wird dies zu einem zentralen Instrument, um der Unternehmensleitung den messbaren ROI von KI‑Investitionen aufzuzeigen.

Die Wahl von Partnern, die diese Werte teilen

Ihre Strategie für verantwortungsvolle KI ist nur so stark wie der Akteur in Ihrem System mit der geringsten Rechenschaftspflicht. Deshalb ist die Partnerauswahl für uns keine reine Beschaffungsentscheidung, sondern eine strategische.

Wir haben uns unter anderem für AWS und Amazon Bedrock entschieden, weil deren Grundsätze für eine verantwortungsvolle KI mit unseren übereinstimmen. AWS beschreibt verantwortungsvolle KI entlang zehn klar definierter Dimensionen: Kontrollierbarkeit, Datenschutz, Sicherheit, Schutz, Fairness, Zuverlässigkeit, Robustheit, Erklärbarkeit, Transparenz und Governance. Das ist ein Konzept, auf dem wir aufbauen können, ohne unsere eigenen Grundsätze zu kompromittieren.

Konkret unterstützt Amazon Bedrock unsere eigenen Grundsätze durch folgende Maßnahmen:

• Kundendaten werden nie gespeichert oder weitergegeben. API-Aufrufe verbleiben in der jeweiligen Aufrufregion.
• Daten werden sowohl während der Übertragung als auch im Ruhezustand verschlüsselt.
• 20 Compliance-Standards werden erfüllt, darunter SOC, ISO, PCI und DSGVO.
• Bedrock Guardrails (Integritätsschutz für Amazon Bedrock) zum Schutz sensibler Informationen und zur Themenfilterung.
• Bedrock Evaluations (Amazon‑Bedrock‑Bewertungen) überprüfen auf Robustheit, Genauigkeit, Verzerrungen und Halluzinationen.

Wir stellen an jeden KI-Partner in unserem Stack die gleichen Anforderungen. Die Entwicklung verantwortungsvoller KI ist keine Aufgabe, die Smartsheet allein bewältigen kann – hier muss das gesamte Ökosystem zusammenarbeiten.

Fazit: Governance macht schnelle KI nachhaltig

Hier ist die überraschende Erkenntnis, zu der ich gelangt bin: Unternehmen, die KI-Governance als unwillkommene Einschränkung betrachten, entwickeln am Ende langsamer. Wenn KI nicht erklärt, überprüft oder kontrolliert werden kann, ist sie kein Mehrwert – sondern ein Risiko, das Innovation verlangsamt oder die Einführung vollständig zum Stillstand bringt.

Unternehmen, die mit KI erfolgreich sind, umgehen Governance nicht. Sie integrieren sie frühzeitig, sodass sie dadurch nie ausgebremst wurden.

Bei Smartsheet bedeutet ein grundlegend verantwortungsvolles KI-Konzept, dass wir auf einer skalierbaren Grundlage aufbauen – die den Sicherheitsanforderungen von Fortune-500-Unternehmen, Hunderttausenden von Benutzer*innen sowie den absehbaren regulatorischen Entwicklungen im KI‑Umfeld ab 2026 gerecht wird. Die Ausrichtung an Rahmenwerken wie dem EU-KI-Gesetz und ISO/IEC 42001 ist dabei mehr als formale Pflichterfüllung. Sie ist ein klares Signal an Unternehmenskunden, dass wir vorbereitet sind und durchdacht haben, was auf uns zukommt.

Das Potenzial von KI für Intelligent Work Management ist enorm. Es lässt sich jedoch nur dann ausschöpfen, wenn Unternehmen KI einsetzen können, der sie wirklich vertrauen. Sicherheit, Datenschutz, Governance und Transparenz sind keine zusätzlichen Ebenen – sie bilden das Fundament. Alles, was wir entwickeln, beginnt genau dort.

Weitere Informationen zu KI bei Smartsheet

Drew Garner leitet den Bereich KI- und Plattformstrategie bei Smartsheet. Er beaufsichtigt die Organisation für angewandte KI sowie die Transformation des Unternehmens zu einer Intelligent Work Platform.