DSGVO und LLM - das Problem des Datenschutzes beim Verwenden von GPT und Co in der Schule

 

Datenschutzkonforme Nutzung von KI-Sprachmodellen in Schulen: Welche LLMs genügen der DSGVO?

Die Integration von Künstlicher Intelligenz (KI) und insbesondere von großen Sprachmodellen (Large Language Models, LLMs) in den Bildungsbereich eröffnet spannende Möglichkeiten für innovative Lehr- und Lernmethoden. Doch mit dem Einsatz dieser Technologien kommt auch die Verantwortung, den Datenschutz und die Privatsphäre aller Beteiligten zu schützen. Eine zentrale Frage lautet daher: Welche LLMs genügen der Datenschutz-Grundverordnung (DSGVO) und können bedenkenlos in Schulen eingesetzt werden?

 

Die Herausforderung: KI und Datenschutz in Einklang bringen

Die DSGVO stellt strenge Anforderungen an die Verarbeitung personenbezogener Daten innerhalb der Europäischen Union. Bei der Nutzung von LLMs ist es wichtig sicherzustellen, dass keine personenbezogenen Daten unkontrolliert verarbeitet oder weitergegeben werden. Schulen stehen vor der Aufgabe, die Vorteile von KI zu nutzen und gleichzeitig den gesetzlichen Datenschutzanforderungen gerecht zu werden.

Möglichkeiten für DSGVO-konforme LLMs

1. Selbstgehostete Open-Source-Modelle

Eine der sichersten Methoden, um DSGVO-Konformität zu gewährleisten, ist der Einsatz von Open-Source-Sprachmodellen, die lokal auf schuleigenen Servern betrieben werden. Durch den lokalen Betrieb behalten Schulen die volle Kontrolle über alle verarbeiteten Daten, ohne dass Informationen an Dritte weitergegeben werden. Das dies aber eher leichter gesagt als getan ist, wird wahrscheinlich jedem und jeder LeserIn gleich in den Sinn kommen. Dennoch möchte ich im Folgenden darauf eingehen:

Beispiele für Open-Source-Modelle:

• GPT-J und GPT-NeoX von EleutherAI
• BLOOM von der BigScience-Initiative
• LLaMA von Meta AI (unter bestimmten Nutzungsbedingungen)

Vorteile:

• Datensouveränität: Alle Daten verbleiben innerhalb der Schule.
• Anpassbarkeit: Modelle können individuell auf schulische Bedürfnisse zugeschnitten werden.
• Kostenkontrolle: Keine laufenden Gebühren für externe Dienste.

Nachteile:

·         Verfügbarkeit: Schulen haben in der Regel keine schuleigenen Server, die auch noch von ihnen betrieben werden. Normalerweise werden diese Server von den Schulträgern administriert und gewartet und sind auch nicht unbedingt in der Schule selbst untergebracht.

·         Fachpersonal: Die allerwenigsten Schulen sind mit technischem Personal ausgestattet, dass eine professionelle Serverwartung und Administrationsaufgaben übernimmt. Die Lehrkräfte, die sich um die technische Verwaltung kümmern, sind in den meisten Fällen Autodidakten, die mit diesen Aufgaben überfordert sein werden.

 

2. Datenschutzfreundliche Cloud-Dienste innerhalb der EU

Wenn der lokale Betrieb nicht möglich ist, können Schulen auf Cloud-Dienste zurückgreifen, die ihre Rechenzentren innerhalb der EU betreiben und DSGVO-Konformität gewährleisten.

Worauf zu achten ist:

• Anbieter mit EU-Standort: Dienste wählen, die ihre Datenverarbeitung ausschließlich innerhalb der EU durchführen.
• Datenverarbeitungsverträge: Abschluss von Verträgen, die die Einhaltung der DSGVO sicherstellen.
• Transparenz: Klare Informationen über die Datenverarbeitung durch den Anbieter.

 

3. Angepasste Modelle mit integrierten Datenschutzfunktionen

Einige Anbieter entwickeln KI-Modelle mit speziellen Funktionen zur Anonymisierung oder Pseudonymisierung von Daten. Diese Modelle minimieren das Risiko, dass personenbezogene Daten ungewollt verarbeitet werden.

Beispielhafte Maßnahmen:

• Datenminimierung: Verzicht auf die Verarbeitung nicht notwendiger personenbezogener Daten.
• Technische Schutzmaßnahmen: Einsatz von Verschlüsselung und Zugriffsbeschränkungen.
• Ein Beispiel hierfür ist die KI Anwendung von DuckDuckGo AI Chat. Zu finden unter folgendem Link: https://duckduckgo.com/?q=DuckDuckGo+AI+Chat&ia=chat&duckai=1 dieser Chatbot bietet anonymen Zugriff auf GPT-4o mini, Claude 3, Open Source Llama 3.1 und Mixtral.

 

Wichtige Überlegungen für Schulen

1. Keine automatische DSGVO-Konformität

Kein LLM ist per se DSGVO-konform. Die Art und Weise der Implementierung und Nutzung entscheidet darüber, ob die Datenschutzanforderungen erfüllt werden.

 

2. Durchführung einer Datenschutz-Folgenabschätzung (DSFA)

Vor dem Einsatz von KI sollten Schulen eine DSFA durchführen, um potenzielle Risiken für die Rechte und Freiheiten der Betroffenen zu identifizieren und geeignete Maßnahmen zu ergreifen. Doch dies kostet viel Zeit und setzt Know-How voraus.

 

3. Einbindung des Datenschutzbeauftragten

Die frühzeitige Einbindung des schulischen Datenschutzbeauftragten oder eines externen Experten kann helfen, rechtliche Fallstricke zu vermeiden und optimale Datenschutzstandards zu etablieren.

4. Sensibilisierung und Schulung

Lehrkräfte und Mitarbeitende sollten hinsichtlich der Datenschutzanforderungen und des verantwortungsvollen Umgangs mit KI-Technologien geschult werden.

Praktische Tipps für den schulischen Einsatz von LLMs

• Datensparsamkeit praktizieren: Nur die Daten verarbeiten, die unbedingt notwendig sind.
• Einwilligungen einholen: Bei der Verarbeitung personenbezogener Daten die Zustimmung der Betroffenen einholen.
• Regelmäßige Überprüfungen: Datenschutzmaßnahmen regelmäßig evaluieren und anpassen.
• Transparenz schaffen: Schüler, Eltern und Lehrkräfte über den Einsatz von KI und die damit verbundenen Datenschutzmaßnahmen informieren.

Fazit: Chancen nutzen, Datenschutz gewährleisten

Die digitale Schulentwicklung profitiert enorm von den Möglichkeiten, die KI und LLMs bieten. Durch einen verantwortungsvollen und datenschutzkonformen Einsatz können Schulen diese Technologien nutzen, um den Unterricht zu bereichern und Schülerinnen und Schüler auf die Zukunft vorzubereiten. Dies ist aber in jedem Falle leichter gesagt als getan, da gerade die Umsetzung der Datenschutzverordnung eine sehr komplizierte und komplexe Aufgabe sein kann. Schulische Datenschutzbeauftragte müssen hier also ein enormes Wissen besitzen, um die Schulleitungen zu unterstützen und Entscheidungen treffen zu können. Hier müssen die Länder und Schulträger unbedingt Unterstützung und Hilfestellungen anbieten.DS

Austausch und Unterstützung

Haben Sie bereits Erfahrungen mit dem Einsatz von KI-Sprachmodellen in Ihrer Schule gemacht? Welche Herausforderungen und Lösungen haben Sie gefunden? Teilen Sie Ihre Erfahrungen und Ideen in den Kommentaren, um gemeinsam voneinander zu lernen und die digitale Schulentwicklung voranzubringen.

---

Hinweis: Dieser Beitrag bietet einen Überblick über wichtige Aspekte beim Einsatz von LLMs im schulischen Kontext und ersetzt keine rechtliche Beratung. Für spezifische Fragen wenden Sie sich bitte an einen Datenschutzexperten oder Ihren Datenschutzbeauftragten.

---

Quellen und weiterführende Informationen:

• Kultusministerkonferenz (KMK): Handlungsempfehlungen zum Umgang mit KI in Schulen
• Datenschutz-Grundverordnung (DSGVO): Vollständiger Gesetzestext und Leitfäden
• Open-Source-KI-Modelle: Projekte von EleutherAI, BigScience und Meta AI, DuckDuckGo AI