Im be-smarter Webinar hat Caroline Danner gezeigt, welche rechtlichen Fragen hinter solchen alltäglichen Handgriffen stehen. Caroline arbeitet seit zwanzig Jahren als Anwältin im IT-Recht, unterrichtet KI-Recht und testet neue Tools regelmässig selbst, beruflich wie privat.
Kein KI-Gesetz, aber auch kein rechtsfreier Raum
Die Schweiz hat heute kein eigenes KI-Gesetz. Allerdings gelten bestehende Gesetze wie das Datenschutzgesetz, das Urheberrechtsgesetz und das Gesetz gegen den unlauteren Wettbewerb auch dann, wenn eine Maschine mitschreibt. Eine Vernehmlassungsvorlage mit neuen Regeln für die Nutzung von KI wird bis im ersten Quartal 2027 erwartet. Daneben kann auch der AI Act der EU für Schweizer Unternehmen gelten. Caroline erklärt in ihrem Blog, wann das der Fall ist.
Personendaten bearbeiten
«Personendaten»: Der Datenschutz schützt die Persönlichkeit und die Grundrechte der Menschen, über die Daten bearbeitet werden. Als Personendaten gelten alle Angaben, die sich auf eine bestimmte oder bestimmbare Person beziehen. Genau das Wort bestimmbar unterschätzen viele. Wer in einen Prompt schreibt, es gehe um den Schweizer Tennisspieler, der 310 Wochen die Weltrangliste anführte, muss keinen Namen nennen, denn jede und jeder weiss, wer gemeint ist. Dasselbe gilt für eine Lohnliste, auf der die Namen geschwärzt sind. Wenn das Unternehmen nur einen Finanzchef hat, lässt sich seine Zeile trotzdem mühelos zuordnen.
«bearbeiten»: Auch der Begriff «Daten bearbeiten» reicht weiter, als man im Alltag annimmt. Das Datenschutzgesetz versteht darunter jeden Umgang mit Personendaten, also das Eingeben ebenso wie das Speichern, Weiterleiten oder Löschen. Wer einen Chat löscht, hat deshalb nicht zwingend auch die Daten beseitigt, denn diese können beim Anbieter weiterhin gespeichert sein.
Vier Fragen, bevor ein Tool zum Einsatz kommt
Sobald Personendaten in ein KI-Tool fliessen, gelten die Grundsätze des Datenschutzgesetzes.
- Die Bearbeitung muss einem erkennbaren Zweck dienen,
- sie muss verhältnismässig und für die Betroffenen transparent sein
- und die Daten müssen stimmen und sicher aufbewahrt werden.
Aus ihrer Praxis hat Caroline Danner vier Pflichten herausgegriffen, die bei KI-Tools immer wieder entscheidend sind.
1. Gibt es einen Auftragsbearbeitungsvertrag?
Wenn ein Anbieter Daten in deinem Auftrag bearbeitet, spricht man von Auftragsbearbeitung, und genau das geschieht bei den meisten KI-Tools. Der Anbieter darf die Daten nur so bearbeiten, wie du es selbst dürftest, und du musst sicherstellen, dass er die Datensicherheit gewährleistet. In der Praxis regelt man das mit einem Auftragsbearbeitungsvertrag. Manche Anbieter schliessen ihn automatisch mit dem Abonnement ab, andere bieten ihn nur auf Nachfrage oder gar nicht an. Die Verantwortung für diese Prüfung trägt immer dein Unternehmen.
2. Wo werden die Daten bearbeitet?
Liegen die Server im Ausland, musst du prüfen, ob das Empfängerland ein angemessenes Datenschutzniveau bietet. Für die Staaten der EU ist das der Fall. Die USA und China gehören dagegen nicht dazu, weshalb du dort zusätzlich etwas unternehmen musst. Meist sind das Standardvertragsklauseln mit dem Anbieter und eine Abschätzung der Risiken, die mit der Übermittlung verbunden sind. Ist ein US-Unternehmen nach dem Swiss-US Data Privacy Framework zertifiziert, ist die Übermittlung ohne solche zusätzlichen Schritte zulässig.
3. Wissen die Betroffenen davon?
Das Datenschutzgesetz, das seit drei Jahren in Kraft ist, verpflichtet dich, die betroffenen Personen zu informieren. Sie müssen erfahren, wer du bist, wie man dich erreicht und wozu du ihre Daten bearbeitest. Gibst du Daten an Dritte weiter, musst du zumindest die Kategorie der Empfänger nennen, etwa «Anbieter von IT-Anwendungen». Landen die Daten im Ausland, gehören auch das Land und die Schutzgarantien in die Information. Ein KI-Tool, das nicht lokal läuft, fällt fast immer unter diese Pflicht, weshalb sich ein Blick in deine Datenschutzerklärung lohnt.
4. Birgt die Anwendung ein hohes Risiko?
Wer Marketingtexte umformulieren lässt, bewegt sich in der Regel in einem risikoarmen Bereich. Setzt du KI dagegen in einem Bewerbungsverfahren ein, sieht die Lage anders aus. In solchen Fällen verlangt das Gesetz eine Datenschutz-Folgenabschätzung. Das ist ein strukturierter Prozess, in dem du prüfst, ob das Risiko mit geeigneten Massnahmen genügend gesenkt werden kann. Bleibt es trotzdem hoch, musst du den Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten oder deine interne Datenschutzberatung beiziehen.
Schatten-KI im eigenen Betrieb
Von Schatten-KI spricht man, wenn Mitarbeitende Tools verwenden, die das Unternehmen weder geprüft noch freigegeben hat. Aktuelle Erhebungen gehen davon aus, dass dies in mehr als der Hälfte der Unternehmen vorkommt (siehe u.a.).
Ein typisches Beispiel ist eine Teilnehmerliste, die jemand kurz in die private Version eines Chatbots kopiert, um sie chronologisch zu ordnen. Die Absicht ist harmlos, und doch sind damit Personendaten bearbeitet und womöglich in die USA übermittelt worden. Verantwortlich dafür ist das Unternehmen, nicht die einzelne Mitarbeiter*in.
Eine schwarze Liste verbotener Tools empfiehlt Caroline Danner nicht, denn es kommt immer auf den Einsatz an. Selbst eine Gratisversion kann unproblematisch sein, wenn zum Beispiel weder Personendaten noch Geschäftsgeheimnisse im Spiel sind.
Für KMU: Was du deinen Mitarbeitenden mitgeben solltest
Regeln wirken erst, wenn das Team sie kennt. Deshalb gehören zu einem verantwortungsvollen KI-Einsatz eine schriftliche Richtlinie und eine kurze Schulung. Die folgenden Punkte bilden dafür eine solide Grundlage:
- Dein Team arbeitet mit den KI-Tools, die das Unternehmen geprüft und freigegeben hat.
- Personendaten und Geschäftsgeheimnisse gehören ausschliesslich in Tools, für die ein Auftragsbearbeitungsvertrag besteht und die Datenübermittlung ins Ausland geregelt ist.
- Das Weglassen von Namen genügt nicht, wenn sich eine Person aus dem Zusammenhang erkennen lässt.
- Ein gelöschter Chat bedeutet nicht, dass die Daten beim Anbieter verschwunden sind.
- Heikle Anwendungen, wie die Vorauswahl von Bewerbungen, werden vorgängig geprüft, weil Verzerrungen in KI-Modellen zu Diskriminierung führen können.
- Bilder, Texte und Logos, die eine KI aufgrund eines einfachen Prompts erstellt, sind in der Regel nicht urheberrechtlich geschützt und dürfen deshalb auch von anderen verwendet werden. Das ist besonders bei Arbeiten für Kund*innen wichtig.
- Wer mit KI Stimmen oder Gesichter realer Personen nachahmt, kann sich wegen Identitätsmissbrauchs strafbar machen.
Wer einen Überblick braucht, findet ihn im Prüfschema von ONLAW.
Weitere Informationen zur Nutzung von KI findest du zudem im Leitfaden von ONLAW.
Über be-advanced
Stehst du mit deinem KMU vor neuen Herausforderungen? Möchtest du dein Unternehmen weiterentwickeln, um zukunfts- und konkurrenzfähig zu bleiben? Wir begleiten dich. Melde dich für ein Erstgespräch bei be-advanced an.