6 min read
„Bei KI-Haftung geht es längst nicht mehr nur um Menschen, die KI nutzen.“ Dieser Satz stammt von Simon Hughes, Chief Commercial Officer (Vertriebschef) beim Cyberversicherer Cowbell, aus der Ankündigung vom 10. November einer eigenständigen KI-Haftpflichtpolice für kleine und mittlere Unternehmen in den USA. Ein prägnanter Satz, und er stimmt. Meine Einschätzung ist trotzdem einfach: Für die meisten Ein-Personen-Unternehmen ist die erste Verteidigungslinie gegen KI-Fehler keine Police, sondern ein Satz Bremsen, den Sie selbst in der Hand haben. Eine Versicherung kommt später, wenn überhaupt.
Was Cowbell eigentlich verkauft
Fairerweise muss man sagen: Das ist ein echtes Produkt für eine echte Veränderung. Die Police richtet sich an Unternehmen, die KI-Agenten einsetzen, also KI-Tools, die in Ihrem Namen handeln (Angebote verschicken, Zahlungen freigeben, Unterlagen einreichen), statt nur Texte zu entwerfen, die Sie anschließend prüfen. Laut der Mitteilung greift der Schutz bei einem „KI-Vorfall“. Dazu zählt, wenn ein KI-Tool seinen genehmigten Handlungsrahmen überschreitet, ohne erforderliche Freigabe handelt, Daten offenlegt, fehlerhafte Ergebnisse liefert oder außerhalb Ihrer Kontrollen arbeitet.
Bei den Eigenschäden kann sie die Reaktion auf den Vorfall bezahlen, die Korrektur oder Rücknahme fehlerhafter Ergebnisse, nicht zurückholbare Transaktionsverluste und aus dem Ruder gelaufene KI-Nutzungsgebühren, einschließlich Rechnungen, die mit gestohlenen API-Schlüsseln (den Passwörtern, mit denen Software einen KI-Dienst nutzt) aufgelaufen sind. Bei den Drittschäden deckt sie Verteidigungskosten und Schadenersatz für Ansprüche wie Urheberrechtsverletzungen oder algorithmische Diskriminierung ab. Die Police gilt ab dem 1. Januar 2027, wird nur über Großhandels-Versicherungsmakler vertrieben, und die Preise wurden nicht veröffentlicht.
Die Mitteilung enthält sogar hypothetische Szenarien, die jedem, der mit Agenten experimentiert, unangenehm plausibel vorkommen dürften: ein Agent für Verbindlichkeiten, der ohne Freigabe doppelte Zahlungen auslöst, oder ein Angebotsagent, der in eine Schleife gerät, falsche Angebote verschickt und Nutzungsgebühren in die Höhe treibt.
Warum ich bezweifle, dass Solo-Selbstständige das schon brauchen
Nichts davon macht die Police zu einer schlechten Idee. Es macht sie zu einem Produkt für Unternehmen, die Software bereits echte Befugnisse übertragen haben. Die meisten Solo-Selbstständigen, mit denen ich spreche, haben das nicht getan und sollten es auch nicht überstürzen. Drei Gründe:
1. Sie haben einem Agenten wahrscheinlich noch nicht genug Macht gegeben, um das zu brauchen
Wenn Ihre KI E-Mails entwirft, die Sie selbst abschicken, Rechnungen vorbereitet, die Sie freigeben, und Zahlungen vorschlägt, die Sie auslösen, hat die KI nicht eigenständig gehandelt. Ein etwaiger Fehler ist dann immer noch ein menschlicher Fehler und ist wahrscheinlich bereits durch Ihre Berufs- oder Betriebshaftpflicht abgedeckt. Stellen Sie Ihrem Makler genau diese Frage, bevor Sie etwas Neues abschließen.
2. Bei der Risikoprüfung zählen die Kontrollen, die Sie kostenlos einrichten können
Cowbell bewertet das KI-Risiko nach eigenen Angaben anhand von drei Faktoren: Nachvollziehbarkeit, Autonomie und Governance. Übersetzt in Alltagssprache: Können Sie sehen, was Ihre KI getan hat, wie viel darf sie tun, ohne Sie zu fragen, und gibt es schriftliche Regeln dafür? Genau diese Gewohnheiten verhindern Vorfälle von vornherein. Führen Sie sie jetzt ein, und Sie bekommen den Großteil des Schutzes ganz ohne Prämie.
3. Die günstigsten Verluste sind die, die nie entstehen
Die Szenarien in der Mitteilung folgen einem Muster. In jedem davon hat ein Agent etwas Teures getan, ohne dass jemand es freigegeben hat. Für ein Ein-Personen-Unternehmen ist ein fester Freigabeschritt keine Bürokratie. Er ist eine Zehn-Sekunden-Gewohnheit, die die größte Risikokategorie vollständig beseitigt, wie wir schon argumentiert haben, als KI-Agenten lernten, Lieferanten zu bezahlen.
Die Notausschalter-Checkliste, bevor Sie nach einer Police suchen
Wenn Sie nach dieser Lektüre nur eine Sache tun, dann arbeiten Sie diese Liste ab. Sie deckt sich direkt mit den Fragen zu Nachvollziehbarkeit, Autonomie und Governance, die ein Versicherer stellen wird.
- Freigabeschritte für alles, was Geld bewegt oder das Haus verlässt. Zahlungen, Erstattungen, Angebote, Verträge und ausgehende E-Mails an neue Kontakte sollten auf einen menschlichen Klick warten.
- Ausgabenlimits für jedes KI-Konto. Legen Sie für jeden KI-Dienst ein monatliches Nutzungslimit und einen Abrechnungsalarm fest. Das ist Ihr Schutz gegen Endlosschleifen und gestohlene Schlüssel.
- Schlüssel wie Passwörter aufbewahren. Speichern Sie API-Schlüssel in einem Passwortmanager, niemals in einem geteilten Dokument, und erneuern Sie jeden Schlüssel, den Sie jemals in einen Chat oder eine öffentliche Datei eingefügt haben.
- Ein einseitiges KI-Regelblatt. Listen Sie jedes KI-Tool auf, das Sie nutzen, was es tun darf, was es niemals tun darf und wer seine Arbeit prüft. Das ist Ihr Governance-Dokument.
- Protokolle, die Sie tatsächlich lesen. Wählen Sie Tools, die festhalten, was die KI getan hat, und überfliegen Sie diesen Verlauf jede Woche. Das ist Ihre Nachvollziehbarkeit.
- Ein bekannter Weg, alles zu stoppen. Wissen Sie, wie Sie jede Automatisierung in weniger als einer Minute anhalten: der Schalter in Zapier, der Ausschalter in Ihrem Agenten-Tool, der Button zum Widerrufen des Zugriffs für jedes verbundene Konto.
- Schutz gegen ausgetrickste Agenten. Ein Agent, der E-Mails oder Webseiten liest, kann durch versteckte Anweisungen manipuliert werden. Unser Einsteigerleitfaden zur Prompt-Injection erklärt den Trick in verständlicher Sprache.
Als umfassenderen Rahmen behandelt das kostenlose NIST AI Risk Management Framework der US-Regierung (ein Rahmenwerk für das Management von KI-Risiken) dieselben Themen für größere Organisationen. Sie müssen es nicht komplett lesen, aber es zeigt deutlich, dass „steuern, erfassen, messen, managen“ zur gemeinsamen Sprache rund um KI-Risiken wird.
Wann eine KI-Haftpflichtversicherung tatsächlich sinnvoll wird
Ich sage nicht: niemals. Sobald sich Ihre Antworten auf diese Fragen ändern, rufen Sie einen Makler an:
- Ein Agent kann ohne Ihre Freigabe Geld ausgeben oder Erstattungen veranlassen, selbst innerhalb eines Limits.
- Kunden verlassen sich auf KI-erstellte Arbeit, die Sie nicht Zeile für Zeile prüfen, etwa automatisierte Berichte, Übersetzungen oder Steuerzahlen.
- Eine KI spricht in Echtzeit mit Ihren Kunden, per Chat, Telefon oder SMS, und könnte etwas versprechen, das Sie nicht halten können.
- Ein Kundenvertrag verlangt von Ihnen eine KI-spezifische Absicherung, was 2027 wahrscheinlich häufiger vorkommen wird.
Wenn einer dieser Punkte schon heute auf Ihr Unternehmen zutrifft, lohnt sich ein Gespräch über das Produkt. Fragen Sie vor der Unterschrift, was als „genehmigter Handlungsrahmen“ gilt, ob ein Fehler, den Sie selbst freigegeben haben, abgedeckt ist, wie hoch der Selbstbehalt (Ihr Eigenanteil) ist und wie die Police mit Ihrer bestehenden Berufshaftpflicht zusammenspielt.
Das eigentliche Signal hinter diesem Launch
Das Interessanteste an der Ankündigung von Cowbell ist nicht die Police. Es ist die Tatsache, dass ein Versicherer „KI, die in einem kleinen Unternehmen eigenständig handelt“ inzwischen für so verbreitet hält, dass er dafür einen Preis kalkuliert. Das zeigt, wohin sich die Branche bewegt, und es sollte jeden Solo-Selbstständigen etwas bewusster darüber nachdenken lassen, wie viel Autonomie er abgibt. Versicherungen verlagern Risiken. Bremsen beseitigen sie. Fangen Sie mit den Bremsen an, schreiben Sie Ihre Regeln auf und kommen Sie auf die Versicherungsfrage zurück, wenn Ihre KI Dinge tut, die Sie nicht mehr prüfen. Welcher der sieben Punkte der Checkliste fehlt heute in Ihrem Unternehmen? Schreiben Sie es uns in die Kommentare.
