KI und die Knackpunkte des Datenschutzes

Bild Legende:

Der Verwendungszweck von KI

«Die zentrale Frage im Umgang mit KI lautet: Was wird mit diesen Applikationen gemacht? Nutzt man diese Technologie rein als Unterstützung menschlicher Tätigkeiten, wie das etwa bei Übersetzungs- oder Rechtschreibetools der Fall ist oder in der Medizin, wenn Bilder mit Hilfe von KI auf Krebszellen hin analysiert werden, ist das etwas anderes, als wenn im staatlichen Bereich eine Maschine eine Verfügung erlassen würde, oder – um ein Beispiel aus dem Schulkontext zu bringen – wenn mithilfe eines KI-Tools konkrete Bewertungen oder Noten generiert würden. Ein solcher Einsatz muss transparent gemacht werden und jede Schülerin und jeder Schüler kann verlangen, dass solche Entscheidungen von einem Menschen mindestens überprüft werden.»

Sekundärnutzung von Daten durch die Anbieter von KI-Applikationen

«Wenn wir Schülerinnen und Schüler ermutigen oder zwingen, sich irgendwo einzuloggen, kann das schnell zu Problemen führen. Solange das bezahlte Systeme sind, wo die Login-Daten einzig dazu gebraucht werden, um sicherzustellen, dass das gewünschte Produkt oder Resultat ausgeliefert werden kann, ist das in Ordnung. Bei Bezahllösungen ist oft vertraglich geregelt, dass die sekundäre Datennutzung nicht erlaubt ist. Wenn eine Lehrperson jedoch die Gratisversion von Tools wie DeepL oder ChatGPT im Unterricht verwendet, lauern Probleme, denn dort werden Daten in der Regel weiterverwendet, um diese Applikationen aufzubauen oder zu trainieren. Das ist Teil des Geschäftsmodells. Als staatlicher Akteur muss ich diese Datenzweitnutzung oder Sekundärnutzung verhindern, wenn sie nicht durch eine gesetzliche Grundlage oder die ausdrückliche Einwilligung der betroffenen Personen gerechtfertigt ist.»

Verwendung privater Login-Daten

«Wenn sich Schülerinnen und Schüler oder Lernende im Schulkontext einloggen müssen, soll das nach Möglichkeit über die Schuladresse geschehen und nicht über eine private Mailadresse oder Handynummer. Dieses Problem stellt sich auch bei den Plattformen der Lehrmittelverlage. Sobald eine Zuordnung von Daten über eine private Handynummer möglich gemacht wird, wird es problematisch. Die Schuladressen werden nach der Schulzeit gelöscht, die private Handynummer oder private E-Mailadresse tragen die Schülerinnen und Schüler in der Regel noch viele Jahre mit sich.»

Inhaltliche Richtigkeit

«Die Lehrperson, die im Unterricht ein KI-Tool einsetzt, verantwortet die Resultate in Bezug auf den Inhalt: Ist das, was ich verwende oder weiterverarbeite, inhaltlich korrekt? Das ist aktuell ein grosses Thema, da diese KI-Applikationen wie ChatGPT noch sehr fehleranfällig sind. Wenn da Personendaten involviert sind, kann das schnell persönlichkeitsverletzend und damit unzulässig werden. Es können auch Quellen verfälscht oder verändert werden, ohne das die Autorin oder der Autor etwas davon weiss, geschweige denn, dass sie in die Nutzung dieser Quellen eingewilligt hat. Das ist dann aber eine Frage des Urheberrechts.»

Transparenz bei der Datenbekanntgabe

«Sobald Personendaten verwendet werden, müssen die betroffenen Personen wissen, was mit ihren Daten geschieht, wozu sie verwendet werden und ob dabei KI im Spiel ist. Es ist darauf zu achten, dass nicht unbeabsichtigt Personendaten bekanntgegeben werden. Wenn jemand zum Beispiel einen Brief ins Übersetzungstool DeepL gibt, und Name, Anrede, eventuell noch das Geburtsdatum stehen lässt, dann wird dieses System unbeabsichtigt mit Informationen über eine Drittperson gefüttert. Das ist nicht erlaubt. Auf den Schulalltag bezogen lässt sich festhalten, dass die Nutzung von Plagiatserkennungssoftware oder KI-Detektoren, wie sie bei der Beurteilung von schriftlichen Arbeiten teilweise genutzt werden, ausschliesslich in strikt anonymisierter Form erlaubt sind.»

Aufgezeichnet von: Charlotte Staehelin, Foto: Adrian Plachesi