|
Sonntag, 15.12.2024
Liebe Kolleginnen und Kollegen,
mittlerweile haben viele Gymnasien in der Oberpfalz dank des Medien- und KI-Budgets einen datenschutzkonformen Zugang zu einer Künstlichen Intelligenz zum Einsatz im Unterricht erworben. Dieser entbindet uns Lehrkräfte jedoch nicht von der Verantwortung des Datenschutzes.
Datenschutzbewusstsein: Es ist wichtig, dass alle Nutzenden der KI sich der Risiken im Umgang mit personenbezogenen Daten bewusst sind. Unbedachtes Verhalten kann dazu führen, dass KI-Systeme Informationen über Personen generieren, deren Herkunft und Inhalt nicht nachverfolgt oder möglicherweise nicht blockiert werden können. Wir als Lehrkräfte sollten in der Lage sein, unsere Schülerinnen und Schüler über den sicherheitsbewussten Umgang mit ihren Daten zu informieren und zu sensibilisieren.
Potentielle Angriffspunkte: In Large Language Models (LLMs) können Sicherheitslücken existieren. In sogenannten Model Attacks wird versucht, Informationen über personenbezogene Daten in den Trainingsdaten zu extrahieren, um Rückschlüsse auf individuelle Merkmale zu ziehen. Ein spezifischer Typus hierbei ist der Model Inversion Attack, der darauf abzielt, aus den Ergebnissen des Modells Informationen über die Trainingsdaten zu gewinnen. Wenn demnach in Zukunft die Künstliche Intelligenz personenbezogene Daten der Identität eines Menschen zuordnen kann, besteht ein hohes Missbrauchspotential dieser Daten.
Trainingsdaten: Viele KI-Programme verwenden Datenmengen, die aus öffentlich zugänglichen Internetquellen extrahiert und aufbereitet wurden. Tipp: Es wäre sinnvoll, zu überprüfen, welche eigenen personenbezogenen Daten in den sozialen Medien veröffentlicht wurden, und diese Daten nach Möglichkeit zu löschen oder ihre Sichtbarkeit einzuschränken.
Diesem Werbespot gelingt es auf die Wichtigkeit des Datenschutzes aufmerksam zu machen:
https://www.youtube.com/watch?v=bu-fR8nrwjs
Ein empfehlenswerter Film, um ein Datenschutzbewusstsein bei Jugendlichen zu schaffen ist der Kurzfilm "Invention of Trust". Dieser kann bei vielen Medienzentren für die Schule ausgeliehen werden. (Informationen zu dem Film: https://www.hff-muenchen.de/de_DE/film-detail/invention-of-trust.3793)
Was sind personenbezogene Daten? Personenbezogene Daten umfassen alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen.
Im Hinblick auf die Künstliche Intelligenz treten u.a. folgende personenbezogene Daten in den Vordergrund:
- Angaben zu Personen (Name, Wohnort, Alter, Dienstort)
- Uploads von Fotos und Videos, die Personen zeigen
- Stimm- und Handschriftproben
- Verbindungen zwischen KI und E-Mail-Programmen
- Nutzung von KI mit personenbezogenen Accountdaten (E-Mail-Name)
👉 Die Lebenswelt der Jugendlichen: Jugendliche haben im vergangenen Jahr neben ChatGPT auch in Social-Media-Plattformen wie Snapchat erste Erfahrungen mit der Künstlichen Intelligenz, oft auch ohne Wissen der Eltern und Schule, gesammelt. Ein Beispiel ist dafür auch die App CharacterAI, die aus jedem PlayStore auch gratis heruntergeladen werden kann.
- CharacterAI ist eine App, die Chatbots bekannter Helden aus Filmen, Games und bekannten Persönlichkeiten bietet, die den Jugendlichen als Gesprächspartner zur Verfügung stehen. Man kann mit diesen Bots auch „telefonieren“, da die Stimmerkennung mittlerweile so weit fortgeschritten ist, dass die KI nicht mehr auf eine Texteingabe angewiesen ist. Character-AI wurde mittlerweile verklagt, da die KI für den Selbstmord eines Jugendlichen in den USA von dessen Mutter verantwortlich gemacht wird, der sich nach deren Aussage in einen Chatbot verliebt hatte. In einer anderen Klage wird dem Unternehmen vorgeworfen, dass die KI einem jugendlichen Nutzer vorschlug, seine Eltern zu töten, weil diese ihm die Bildschirmzeit einschränkten.
- In Snapchat wurde die Künstliche Intelligenz integriert, die einerseits als Chatbot-Partner und „Freund“ agiert und andererseits, um eigene Bilder bearbeiten zu lassen. Snapchat informiert: „My AI kann sich an Dinge erinnern, die du mit ihr geteilt hast, z. B. deine Interessen und Fakten über dich oder andere.“ My AI sammelt bei der Nutzung Standort-Daten, auch wenn bei der App der „Geistmodus“ konfiguriert wurde.
Hier wird deutlich, wie ein unbedachter Umgang mit personenbezogenen Daten im Netz, insbesondere mit der Künstlichen Intelligenz, Gefahren und Risiken birgt. Eine Sensibilisierung, eine medienpädagogische Begleitung und die Entwicklung eines Datenschutzbewusstseins sowie das Verstehen der grundlegenden Mechanismen der Künstlichen Intelligenz stehen deshalb noch vor der Nutzung dieser.
Wichtige Informationen zum Einsatz von KI im Unterricht finden Sie im Handlungsleitfaden des KM:
https://www.km.bayern.de/gestalten/digitalisierung/kuenstliche-intelligenz
Herzliche Grüße
diesmal von Birgit Zimmermann, auch im Namen von Peter Zimmerer und David Bartmann
Beratung digitale Bildung für die Gymnasien in der Oberpfalz
______________________
Weiterführende Links und Hintergrundinformationen zu dem Thema/ Material für medienpädagogische Elternabende:
Quellen und Links zu Informationen über CharacterAI:
- https://www.internetmatters.org/de/hub/news-blogs/what-is-character-ai-parent-guide/
- https://www.spiegel.de/netzwelt/apps/ki-chatbots-character-ai-will-angebot-nach-klagen-von-eltern-kindersicher-machen-a-94b1cd12-b598-437e-b1f4-11bb1864210f
- https://www.trendingtopics.eu/character-ai-chatbot-ausser-kontrolle-schlaegt-vor-eltern-zu-toeten/
- https://www.youtube.com/watch?v=NzVUwknUFl4
Quellen und Links zu Informationen über Snapchat:
- https://www.klicksafe.de/news/was-muessen-eltern-zum-neuen-chatbot-my-ai-bei-snapchat-wissen
- https://help.snapchat.com/hc/de/articles/15586639780116-Erinnert-sich-My-AI-an-Dinge-über-mich
- https://www.klicksafe.de/fileadmin/cms/download/Material/klicksafe_Material-paed-Praxis_ChatGPT.pdf
Links zu Informationen zu Roblox:
- https://en.help.roblox.com/hc/de/articles/20121392440212-Ergänzende-Bestimmungen-und-Haftungsausschluss-für-KI-basierte-Tools
- https://www.dw.com/de/welche-risiken-drohen-kindern-auf-der-spiele-plattform-roblox/video-64664683
- https://www.klicksafe.de/news/ist-roblox-sicher-fuer-kinder
Hintergrundinformationen:
https://www.km.bayern.de/gestalten/digitalisierung/kuenstliche-intelligenz
https://blog.mi.hdm-stuttgart.de/index.php/2023/07/24/sicherheitscheck-wie-sicher-sind-deep-learning-systeme/
https://www.baden-wuerttemberg.datenschutz.de/rechtsgrundlagen-datenschutz-ki/
______________________
Kommende Veranstaltung:
Vernetzungstreffen im Rahmen des 1:1 Rollouts der Oberpfälzer Gymnasien
Eingeladen sind bis zu drei Lehrkräfte pro teilnehmender DSdZ-Schule. Eingeladen sind Lehrkräfte beispielsweise aus dem Digitalisierungsteam, Medienpädagogische Moderatoren, Systembetreuer, erweiterte Schulleitung- Lehrkräfte, die mit dem Rollout der Digitalen Schule der Zukunft an ihrem Gymnasium befasst sind.
Anmeldeschluss: Donnerstag, 18.12.2024
Termin: 16.01.2025
Ort: Gymnasium Neutraubling, Gregor-Mendel-Str. 5, 93073 Neutraubling
FIBS-Anmeldung: https://fibs.alp.dillingen.de/lehrgangssuche?container_id=397166
______________________
Weitere Fortbildungswünsche können gerne bei uns unverbindlich nachgefragt werden. Gerne unterstützen wir Sie an Ihrer Schule durch Workshops für das gesamte Kollegium an den pädagogischen Tagen durch unser Referentennetzwerk.
Schreiben Sie uns gerne, wenn Sie Wünsche oder Anregungen haben!
______________________
Weitere Informationen wie Anmeldung und der Link zu den Videokonferenzen des Referentennetzwerks befinden sich auf der Homepage. Besuchen Sie uns auf unserer neu überarbeiteten Homepage unter https://gymnasium-oberpfalz.de Leiten Sie diesen Newsletter gerne an Kolleginnen und Kollegen weiter oder machen Sie auf das Newsletterangebot aufmerksam (Einschreibung unter: https://gymnasium-oberpfalz.de/newsletter/). Dafür bedanken wir uns bei Ihnen. |
