Sonntag, 03.12.2023

Sehr geehrte Kolleginnen und Kollegen,

Die Entwicklung von KI-gestützten Anwendungen schreitet rasant voran. Im vergangenen Herbst wurde eine KI lanciert, die Sprache in Videos synchron übersetzt, die eigene Stimme beibehält und dabei die Lippenbewegungen anpasst. Damit spricht man in den Videos der Social-Media-Kanäle fließend Französisch, Chinesisch und Stand September bis zu 10 Sprachen perfekt. Nutzt man die Avatar-Funktion dieser KI-gestützten Video-Plattform sogar bis zu 40 Sprachen. Die Nutzung ist denkbar einfach und ermöglicht auch dem ungeübten Nutzer innerhalb von drei Minuten die Produktion eines kurzen Videos. (Video hochladen, Sprache auswählen, fertig!)

Neben dem Potenzial generativer KI beispielsweise im Marketingbereich gibt es jedoch ein beträchtliches Potenzial an Risiken und Gefahren, deren man sich bewusst sein sollte:

KI & DEEPFAKES

Der Begriff setzt sich aus dem englischen „Deep Learning“, dem maschinellen Lernen, und dem Wort „Fake“ zusammen. Deepfakes sind realistisch wirkende Bilder, Audio- oder Videodateien, die mittels künstlicher Intelligenz auf realistische Weise verändert wurden.

Die Gefahr dieser Medienmanipulation basiert auf der Täuschung des Rezipienten, da vermeintlich „echte“ Menschen Dinge tun oder sagen, die jedoch nicht der Realität entsprechen.

Die gefälschten Bilder und Videos von Politikern oder als "Beweismittel" genutzte Darstellungen bei politischen Konflikten und Krieg, beinhalten ein nicht zu unterschätzendes Gefahrenpotential für die Gesellschaft. Der Anstieg von Deepfakes im Netz ist so beachtlich, dass die Bundesregierung diese Woche in einer Meldung darauf hingewiesen hat.

Daneben gibt es aber auch weniger bekannte Deepfakes: 

Deepfakes werden beispielsweise auf YouTube, Instagram, TikTok eingesetzt, um mit gefälschten Videos von Influencern für Produkte zu werben oder  damit auf betrügerische Art und Weise Geld zu erschleichen.

Damit reihen sich Deepfakes in die Reihe von Phishing-Mails und betrügerischen WhatsApp-Nachrichten ein, mit denen unsere Schülerinnen und Schüler konfrontiert werden.

Zur Thematisierung dieser Problematik von "Deepfakes auf Social Media" im Unterricht eignet sich das auf Twitter gepostete Deepfake-Video des bekannten YouTubers Mr. Beast: https://mebis.link/xECMAm

Der Zugang zu Websites und Apps, die Anwendungen anbieten, Gesichter hochgeladener Bilder auf andere Körper zu montieren und daraus neue Videos oder Bilder zu generieren, hat zudem zu einem eklatanten Anstieg sogenannter Deepnudes geführt. In einer Recherche des SWR im vergangenen Jahr wird ein erschreckendes Beispiel aufgezeigt, wie normale Instagram-Posts von Jugendlichen ohne deren Wissen mittels KI zu pornografischen Deepfakes missbraucht wurden und nun auf einschlägig bekannten Websites zirkulieren. In diesem Zusammenhang spricht man von bildgenerierter sexualisierter Gewalt, worauf sich ganze Pornografie-Plattformen spezialisiert haben und sich deren Gefahr Social-Media-Nutzer bewusst sein sollten. 95% aller Deepfakes basierten laut einer Studie von Deeptrace auf pornographischen Darstellungen. (Quelle: https://mebis.link/ULrMeX )

Die Bildkommunikation hat bei Kindern und Jugendlichen durch aktuell populäre Apps wie Snapchat oder Instagram zugenommen, die Versuchung Bilder von sich im Netz zu posten, war noch nie so groß. Egal ob berühmte Gesichter aus der Politik, Influencer oder jugendliche Social-Media-Nutzer:

Wer Aufnahmen im weltweiten Netz oder auf Plattformen wie Instagram und TikTok von sich hochlädt, läuft Gefahr, Opfer mittels künstlicher Intelligenz generierten Fake-Videos oder gefälschten Bildern zu werden.

Dabei machen die medial aufgeführten Beispiele von Missbrauch dieser Bilder einerseits deutlich, dass allein Bildmaterial im Klassenchat ausreichend ist, um Opfer von missbräuchlich eingesetzter KI zu werden und andererseits, dass die Aufklärung dieser Fälle und deren justiziable Einordnung schwierig ist. Der deutsche Juristinnenbund zeigt in dem im Juni 2023 veröffentlichten Positionspapier die Problematik bei bildbasierter sexualisierter Gewalt auf. (https://mebis.link/waCxjG)

Der Hinweis „Überlege zweimal, was du im Netz postest“ aus den Anfängen von Social Media muss aufgrund der neuen Technologie überdacht werden: „Poste niemals dein Gesicht!“ Eine weitere Konsequenz ist Folgende: „Traue nicht, was du hörst!“, "Traue nicht, was du in der virtuellen Welt siehst!“ 

Die Förderung der Medienkompetenz, im speziellen die Aufklärung über den aktuellen Stand der technischen Entwicklung und deren Möglichkeiten ist nicht nur für Kinder und Jugendliche wichtig. Auch wir Erwachsenen kommen schon aufgrund von Zeitmangel an unsere Grenzen, einen Überblick über die rasante Entwicklung neuer Möglichkeiten im digitalen Bereich zu behalten.

Weiterführende Links zum Thema "Deepfakes" zum Einsatz im Unterricht:

https://www.saferinternet.at/faq/informationskompetenz/was-ist-ein-deepfake

https://www.klicksafe.de/desinformation-und-meinung/deepfakes

https://www.mimikama.org/deepfake-betrug-dubiose-investitionsplattformen/

https://www.br.de/sogehtmedien/stimmt-das/deepfakes/index.html

Für diese Thematik oder weitere Bedarfe bieten wir Berater digitaler Bildung und das Referentennetzwerk Fortbildungen in Form von SchilFs und Videokonferenzen für alle Gymnasien der Oberpfalz an.

Schreiben Sie uns gerne, wenn Sie Wünsche oder Anregungen haben. 

Herzliche Grüße

Birgit Zimmermann, Peter Zimmerer und David Bartmann
Beratung digitale Bildung für die Gymnasien in der Oberpfalz 

______________________

Im Zuge der Etablierung von BYCS an oberpfälzer Gymnasien möchten wir Sie auf die kommende Online-Fortbildung Safe and easy – der ByCS-Messenger aufmerksam machen. Diese findet am Montag, den 11. Dezember um 15:30 Uhr - 17:00 Uhr statt. Weitere Informationen, wie Anmeldung und der Link zu den Videokonferenzen des Referentennetzwerks befinden sich auf der Homepage.

--------

Besuchen Sie uns auf unserer Homepage unter https://gymnasium-oberpfalz.de/veranstaltungsuebersicht/ 

************

Leiten Sie diesen Newsletter gerne an Kolleginnen und Kollegen weiter oder machen Sie auf das Newsletterangebot aufmerksam (Einschreibung unter: https://gymnasium-oberpfalz.de/newsletter/). Dafür bedanken wir uns bei Ihnen.