Wer bewacht die KI? Zürich war früh dran, das grosse Geld fliesst jetzt nach Texas

Serverraum eines Rechenzentrums. Foto: BalticServers.com / Wikimedia Commons, CC BY-SA 3.0

Ein Mitarbeiter lädt ein Sprachmodell aus dem Internet herunter. Er will Rechnungen schneller sortieren. Das Modell funktioniert. Es öffnet aber beim Laden auch eine Hintertür in das Firmennetz. So ein Fall ist keine Erfindung. Die Sicherheitsfirma JFrog fand auf der Plattform Hugging Face rund 100 Modelle mit schädlichem Code, darunter eines, das Angreifern direkten Zugriff auf den Rechner gab, berichtete Dark Reading.

Warum wird KI-Sicherheit gerade zum Geschäft?

Weil die Lücke wächst. Hugging Face und Protect AI haben 4,47 Millionen Modellversionen geprüft und in 51 700 Modellen verdächtige Befunde gefunden, zeigt der Bericht der Plattform. Ein Angreifer braucht auch nicht viel. Schon 250 präparierte Dokumente in den Trainingsdaten reichen, um einem Sprachmodell eine versteckte Hintertür einzubauen, egal wie gross es ist. Das fanden Anthropic, das britische AI Security Institute und das Alan Turing Institute, so die Studie.

HiddenLayer aus Austin verkauft den Schutz dagegen. Die Software durchsucht Modelle nach Schadcode, bevor eine Firma sie einsetzt, und überwacht sie danach. Im September sammelte das Start-up 100 Millionen Dollar ein, angeführt von Delta-v Capital, mit Morgan Stanley und Microsofts Fonds M12, meldet HiddenLayer. Als Nächstes will die Firma nach Europa. Das Analysehaus Dell’Oro schätzt den Markt für KI-Sicherheit bis 2030 auf 8 Milliarden Dollar, berichtet Developing Telecoms.

Die Grafik zeigt, warum Käufer zahlen. HiddenLayer hat 250 IT- und Sicherheitschefs befragt. 76 Prozent rechnen mit Schatten-KI, also mit Werkzeugen, die Mitarbeiter ohne Erlaubnis nutzen. 53 Prozent geben zu, Vorfälle nicht gemeldet zu haben. Und 31 Prozent wissen nicht, ob ihre KI schon angegriffen wurde, so der Bericht 2026. Die Zahlen stammen vom Anbieter selbst, der Schutz verkauft. Sie zeigen trotzdem, wo die Unsicherheit liegt.

Welche Rolle spielt die Schweiz?

Zürich war früher dran als Texas. Lakera wurde 2021 gegründet, von David Haber, Matthias Kraft und Mateo Rojas-Carulla. Bekannt wurde das Start-up mit einem Spiel: Bei «Gandalf» versuchen Nutzer, einem Chatbot ein Passwort zu entlocken. Hunderttausende Angriffe aus dem Spiel dienten Lakera als Trainingsmaterial. Im September 2025 kündigte Check Point die Übernahme an, Zürich wird das globale Kompetenzzentrum des Konzerns für KI-Sicherheit, schreibt Check Point. Den Preis nannte der Konzern nicht. Die israelische Zeitung Globes schätzte ihn auf rund 300 Millionen Dollar.

Unsere Einschätzung: Das ist das bekannte Schweizer Muster. Die Forschung entsteht hier, das Wachstumskapital kommt von aussen. Die Arbeitsplätze bleiben vorerst in Zürich. Die Entscheidungen fallen in Tel Aviv.

Was heisst das für Schweizer KMU?

Die meisten KMU kaufen keine KI-Sicherheitssoftware. Sie brauchen zuerst Regeln. 74 Prozent der Schweizer KMU nutzen oder testen KI, zeigt die KMU-Arbeitsmarktstudie von AXA. Nur 34 Prozent hatten 2025 festgelegt, welche Daten Mitarbeitende in KI-Werkzeuge eingeben dürfen, bei Firmen unter zehn Personen waren es 23 Prozent, meldet das KMU-Portal des Bundes. Drei Schritte reichen für den Anfang: eine Liste der erlaubten Werkzeuge, eine klare Regel für Kundendaten und eine Person, die zuständig ist.

Wie die Schweiz in der Cyberabwehr dasteht, zeigt unsere Titelgeschichte zu Cyberangriffen. Wie ein KI-Agent den Weg ins Internet fand, steht in diesem Beitrag. Welche Regeln für KI in der Schweiz und der EU gelten, sammelt das Dossier KI-Regulierung.

Häufige Fragen

Was macht HiddenLayer?

HiddenLayer aus Austin, Texas, verkauft Sicherheitssoftware für KI. Sie prüft Modelle vor dem Einsatz auf Schadcode und schützt laufende Systeme vor Angriffen wie Data Poisoning oder Prompt Injection. Im September 2026 holte die Firma 100 Millionen Dollar.

Wem gehört Lakera?

Das Zürcher Start-up Lakera gehört seit Oktober 2025 dem Sicherheitskonzern Check Point. Zürich ist dessen Kompetenzzentrum für KI-Sicherheit.

Können KI-Modelle Schadsoftware enthalten?

Ja. Manche Dateiformate führen beim Laden Code aus. Sicherheitsforscher fanden auf Hugging Face Modelle, die Angreifern Zugriff auf den Rechner gaben.

Mehr zu diesen Themen

• 
  12. September 2026«Ill-advised»: Altman sagt den Börsengang ab und macht Nachvollziehbarkeit zum Verkaufsargument
• 
  8. September 2026Die Roboter kommen aus Zürich: Sieben Schweizer Startups, die diesen Sommer über 450 Millionen holten
• 
  31. August 2026Die Herausforderer: Sieben Schweizer B2B-Startups, die 2026 etablierte Märkte angreifen

Sie lesen Leitgrad öfter? Bei Google als bevorzugte Quelle markieren