Kurz gesagt
95 Prozent der befragten Organisationen hatten in den letzten zwölf Monaten mindestens einen Vorfall mit einem KI-Agenten. Nur 15 Prozent haben eine automatische Notbremse, die einen Agenten bei Fehlern oder Endlosschleifen stoppt. Das zeigt eine Umfrage von Gartner unter 298 Verantwortlichen für IT-Infrastruktur und Betrieb in den USA und Grossbritannien. Gartner rechnet damit, dass 40 Prozent dieser Organisationen, die KI ausbauen, bis 2028 einen geschäftskritischen Ausfall erleben, wenn die Steuerung schwach bleibt. Für Schweizer KMU heisst das: zuerst die Bremse, dann mehr Rechte für den Agenten.
Ein Agent tut, was man ihm aufträgt. Genau das macht ihn gefährlich. Er kann nachbestellen, sobald das Lager leer scheint, auch wenn nur die Inventur fehlt. Er kann um drei Uhr nachts Kundenmails beantworten, auch die heiklen. Und gerät er in eine Schleife, arbeitet er weiter, bis jemand eingreift. Die Frage ist nur: Wer greift ein, und womit?
Die meisten Firmen haben darauf keine Antwort. Das ist das nüchterne Ergebnis einer Umfrage, die Gartner am 16. November 2026 veröffentlicht hat. Befragt wurden im Juni und Juli 2026 insgesamt 298 Leitende aus IT-Infrastruktur und Betrieb in den USA und in Grossbritannien. 95 Prozent ihrer Organisationen hatten im vergangenen Jahr mindestens einen Vorfall mit einem Agenten. Nur 15 Prozent haben automatische Schutzschalter, die einen ausser Kontrolle geratenen Agenten oder eine Endlosschleife stoppen.
95 Prozent Vorfälle, 70 Prozent Zuversicht
Die Zahlen passen nicht zusammen, und genau darin liegt der Befund. 70 Prozent der Befragten glauben, ihre Agenten arbeiteten heute innerhalb sicherer Grenzen. Gleichzeitig nennen 57 Prozent ihre eigene Steuerung schwach. 55 Prozent halten ihre bisherigen Werkzeuge für IT-Risiken für völlig veraltet. Gartner-Analyst Nathan Hill spricht von einer gewaltigen Lücke in der Betriebsbereitschaft.

Daraus leitet Gartner eine Prognose ab: Ohne starke Steuerung erleben 40 Prozent der Organisationen, die KI ausbauen, bis 2028 einen Ausfall eines geschäftskritischen Dienstes. Schon im Februar hatte Gartner gewarnt, dass falsch eingestellte KI bis 2028 in einem G20-Land kritische Infrastruktur lahmlegen werde, und für solche Systeme einen sicheren Not-Aus verlangt, den nur befugte Personen bedienen. Was für Stromnetze gilt, gilt im Kleinen auch für die Bestellstrecke eines KMU.
Warum trifft das Schweizer KMU?
Weil Agenten nicht mehr nur in Konzernen laufen. Sie stecken in Buchhaltungsprogrammen, in Shopsystemen, im Kundendienst und im Einkauf. Oft werden sie getestet, bevor jemand die Regeln festgelegt hat. Im Einkauf etwa haben nur 8 Prozent der leitenden Verantwortlichen einen festen Plan für KI, 68 Prozent testen ohne Plan. Und die Kosten laufen mit, wie das Beispiel einer Firma mit rund 1000 Dollar KI pro Bürokraft und Monat zeigt.

Dazu kommt das Schweizer Recht. Trifft ein System eine Entscheidung allein, die für eine Person eine Rechtsfolge hat oder sie erheblich beeinträchtigt, muss die Firma die Person nach Art. 21 des Datenschutzgesetzes darüber informieren. Auf Antrag kann die Person ihren Standpunkt darlegen und verlangen, dass ein Mensch die Entscheidung überprüft. Wer einen Agenten Bewerbungen aussortieren oder Anträge ablehnen lässt, braucht also ohnehin einen Weg zurück zum Menschen. Ausnahmen gelten, wenn die Person ausdrücklich eingewilligt hat oder wenn die Entscheidung unmittelbar mit einem Vertrag zusammenhängt und ihrem Begehren stattgegeben wird.
Rechtlich ist ein Agent keine Person. Was er bestellt, zusagt oder versendet, fällt auf die Firma zurück, die ihn arbeiten lässt. Wie weit das im Einzelfall geht, haben Schweizer Gerichte noch kaum geklärt. Für den Alltag reicht die einfache Regel: Ein Agent darf nur tun, wofür Sie auch einem neuen Mitarbeitenden am ersten Tag die Vollmacht geben würden.
Die Bremse gehört ins System, nicht in den Agenten
Ein Agent, der sich selbst überwachen soll, ist wie ein Lernfahrer ohne Doppelpedal. Die Sicherung muss ausserhalb liegen: in den Rechten, die er bekommt, in den Limiten, die das System setzt, und in einer Abschaltung, die ein Mensch auslösen kann. Hilfreich ist eine einfache Einteilung. Jede Aktion eines Agenten fällt in eine von vier Klassen.

Umkehrbar ist ein Entwurf, ein Kalendereintrag oder eine interne Notiz: Der Agent darf frei arbeiten. Ausgleichbar ist eine Bestellung, die sich stornieren lässt, oder eine Gutschrift: Hier genügen Limiten und ein Protokoll. Aufschiebbar ist eine Zahlung oder ein Versand mit Wartezeit: Der Agent bereitet vor, das System hält zurück, ein Mensch kann stoppen. Unumkehrbar sind eine Überweisung, eine gelöschte Datei oder eine Mail an alle Kunden: Hier entscheidet immer ein Mensch.
Gartner empfiehlt den Verantwortlichen sieben Pfeiler, darunter eine eigene Identität für jeden Agenten in einem zentralen Verzeichnis, Ausgabenobergrenzen pro Sitzung, menschliche Freigabe für folgenreiche Aktionen und Notschalter, die einen Agenten isolieren, bevor sich ein Fehler über mehrere Systeme ausbreitet. Für ein KMU lässt sich das auf eine Liste herunterbrechen, die in einer Woche abgearbeitet ist.

Was Sie diese Woche tun
- Inventar machen. Listen Sie jeden Agenten auf, auch die Versuche einzelner Mitarbeitender. Wer hat ihn eingerichtet, auf welche Systeme greift er zu, was darf er auslösen? Wie Daten dabei ins Ausland fliessen, zeigt unser Beitrag zu KI-Agenten aus den USA.
- Eigene Identität vergeben. Ein Agent arbeitet nie mit dem Konto einer Person. Er bekommt einen eigenen Zugang mit eigenen Rechten. So sehen Sie im Protokoll, wer was getan hat, und können ihm den Zugang entziehen, ohne jemanden auszusperren.
- Jede Aktion einer Klasse zuordnen. Umkehrbar, ausgleichbar, aufschiebbar, unumkehrbar. Unumkehrbares nur mit Freigabe durch einen Menschen, wie beim Vier-Augen-Prinzip für Zahlungen.
- Limiten setzen. Höchstbetrag pro Bestellung, pro Tag und pro Sitzung, Höchstzahl an Mails pro Stunde. Wird eine Grenze erreicht, stoppt das System und meldet sich.
- Not-Aus festlegen und testen. Wer darf abschalten, wie schnell geht das, und was läuft danach von Hand weiter? Einmal ausprobieren, bevor es ernst gilt.
- Datenschutz prüfen. Entscheidet ein Agent allein über Personen, etwa über Bewerbungen oder Anträge, gelten die Informationspflicht und das Recht auf Überprüfung durch einen Menschen nach Art. 21 DSG.
Abschalten wird jeden Monat schwieriger
Ein letzter Punkt aus der Gartner-Analyse verdient Aufmerksamkeit. Je abhängiger eine Firma von ihren Agenten wird, desto weniger kann sie es sich leisten, sie abzuschalten. Wer heute einen Agenten in die Rechnungsstellung einbaut, kann ihn in einem Jahr nicht mehr ohne Folgen ausschalten. Darum empfiehlt Gartner, früh festzulegen, welche Agenten unbedingt weiterlaufen müssen, auch wenn sie teuer oder schwierig zu betreiben sind.
Für den Inhaber heisst das: Die beste Zeit für die Notbremse ist jetzt, solange der Agent noch klein ist. Eine Bremse nachzurüsten, während der Zug fährt, ist teurer und riskanter. Und wer seinen Kunden erklären muss, warum ein Agent in der Nacht 400 falsche Mails verschickt hat, wünscht sich, er hätte die Liste oben eine Woche früher abgearbeitet.
Häufige Fragen
Wie viele Firmen hatten schon einen Vorfall mit KI-Agenten?
In der Gartner-Umfrage vom Juni und Juli 2026 waren es 95 Prozent der 298 befragten Organisationen in den USA und Grossbritannien, bezogen auf die letzten zwölf Monate.
Was ist eine Notbremse für KI-Agenten?
Ein automatischer Schutzschalter ausserhalb des Agenten. Er stoppt den Agenten bei Fehlern, Endlosschleifen oder überschrittenen Limiten. Laut Gartner haben nur 15 Prozent der Organisationen so etwas eingerichtet.
Muss ich Kunden informieren, wenn ein Agent entscheidet?
Wenn ein System allein eine Entscheidung trifft, die für eine Person eine Rechtsfolge hat oder sie erheblich beeinträchtigt, ja. Art. 21 DSG verlangt die Information und auf Antrag die Überprüfung durch einen Menschen. Ausnahmen gelten bei ausdrücklicher Einwilligung oder wenn die Entscheidung unmittelbar mit einem Vertrag zusammenhängt und dem Begehren stattgegeben wird.
Lohnt sich der Aufwand für ein kleines KMU?
Ja, gerade dort. Inventar, eigene Zugänge, Limiten und ein getesteter Not-Aus sind in wenigen Tagen eingerichtet. Ein einziger Fehler im Zahlungsverkehr kostet mehr.

Zum Mitnehmen
- 95 Prozent hatten einen Vorfall mit einem Agenten, nur 15 Prozent können Agenten automatisch stoppen.
- Jede Aktion eines Agenten in eine von vier Klassen einteilen. Unumkehrbares entscheidet immer ein Mensch.
- Die Bremse jetzt einbauen, solange der Agent klein ist. Später wird Abschalten teurer.
Quellen
Quellen
- Gartner: Weak AI Governance Will Lead to Business-Critical Service Disruptions for 40% of I&O Organizations by 2028, Medienmitteilung, 16. November 2026
- Gartner: By 2028 Misconfigured AI Will Shut Down National Critical Infrastructure in a G20 Country, Medienmitteilung, 12. Februar 2026
- Bundesgesetz über den Datenschutz (DSG), Art. 21, fedlex.admin.ch
- Leitgrad: 68 Prozent testen KI im Einkauf ohne Plan, 18. November 2026
Erschienen am 18. November 2026, 18:00 Uhr. Jede Zahl prüfen wir an der Primärquelle. Fehler gefunden? Hinweis an die Redaktion
Themen folgen
Die Redaktion ordnet jeden Werktag die Meldungen ein, die Inhaber und Kader betreffen. Zahlen nur mit Primärquelle.
Wie Leitgrad arbeitetZur RedaktionLeitgrad Morgen-Briefing: jeden Werktag das Wichtigste für Ihre Firma. Lesen · Anhören · Per Mail



