HERE GOES INVISIBLE HEADER
Snapchat, TikTok, Instagram: Wie KI ungewollt Sexismus und Rassismus fördert
Künstliche Intelligenz hat längst einen festen Platz in unserem Alltag eingenommen. Das bringt viele Vorteile mit sich – aber gerade für jüngere Menschen auch einige Risiken, die veraltete Geschlechterrollen oder rassistische Klischees verbreiten können.
KI ist in aller Munde. Mittlerweile malt die Künstliche Intelligenz Bilder, komponiert Musikstücke, beantwortet Fragen und erzählt Geschichten. Sie wird, und da sind sich alle Wissenschaftlerinnen und Wissenschaftler einig, unseren Alltag radikal verändern. Auch in den sozialen Medien geht nichts mehr ohne Künstliche Intelligenz. Das sorgt für viele amüsante Features wie Katzenohren, aber auch für problematische Entwicklungen.
- 1Was ist Künstliche Intelligenz?
- 2Geschichte der digitalen Filter
- 3Problematische KI: Wie Sexismus und Rassismus verbreitet werden
- 4Wie man Kids dafür sensibilisieren kann
- 5KI kann auch anders
Was ist Künstliche Intelligenz?
Die Forschung an Künstlicher Intelligenz versucht, unser Gehirn künstlich nachzubauen und auf eine Maschine zu übertragen. Die KI ist also „der Versuch, menschliches Lernen und Denken auf den Computer zu übertragen und ihm damit Intelligenz zu verleihen.“ Im Grunde soll versucht werden, einer Maschine das Denken beizubringen.
Auch wenn die Entwicklung von KI rasante Fortschritte macht, ist das längst Teil unseres Alltags: Navigationssysteme, Heim-Equipment wie Alexa von Amazon, Online-Shopping, digitale Übersetzungshelfer, Spam-Filter im Mail-Postfach oder automatisierte Fertigungsprozesse in Fabriken laufen schon heute mehr oder weniger KI-gesteuert. Das wird in Zukunft deutlich zunehmen: Eine Marktstudie von Allied Market Research geht von einer KI-basierten Wertschöpfung von 1,5 Billionen Euro bis 2030 aus.
Geschichte der digitalen Filter
In den sozialen Medien kommt Künstliche Intelligenz ebenfalls zum Einsatz. Einerseits bei ganz profanen Dingen wie dem Algorithmus, der bestimmt bekanntlich, was in der eigenen Timeline von welchen Kontakten angezeigt und welche Werbung ausgespielt wird, andererseits beruhen auch die unzähligen beliebten Filter-Apps auf KI.
Gerade mal zehn Jahre ist es her, dass die App FaceTune ihren Nutzerinnen und Nutzern digitale Retusche erlaubte. Seither hat sich die Ästhetik der digitalen Welt stark verändert – und unsere Gesellschaft gleich mit. Snapchat setzte dem Ganzen im Jahr 2015 mit dem ersten Augmented-Reality-Filter (also eine Technik, die unsere Realität um eine digitale Ebene erweitert) vorerst die Krone auf: Userinnen und User konnten sich lustige Hundeohren aufsetzen lassen. 2016 kam dann TikTok auf den Markt und sorgte mit revolutionären Filtern wie der Make-Up-App Bold Glamour für Aufsehen und Kritik.
Problematische KI: Wie Sexismus und Rassismus verbreitet werden
Nun klingt das ja alles erst mal ganz harmlos: Hundeschnauzen, Katzenohren, eine App, die dich älter macht, in ein Fabelwesen verwandelt oder einfach ein wenig schicker macht. Doch darin liegt eine große Gefahr: Die angesagten Filter-Apps bedienen sich in Sachen Schönheit bei überholten und problematischen Stereotypen. Laut der KI ist eine Frau dann schön, wenn sie lange Wimpern, volle Lippen, eine gerade Nase und natürlich auch lange Haare hat. Außerdem darf die Haut nicht zu dunkel sein. In diesen vermeintlichen Schönheitsidealen steckt somit Rassismus ebenso wie Sexismus.
Die Foto-App Lensa verwandelt User in andere Personen oder Fabelwesen. Bezeichnend ist nur, wenn bei Frauen immer laszive Manga-Mädchen oder sexy Vamps herauskommen, während Männer beispielsweise zu Astronauten werden. Hier wird ein konservatives Rollenbild der Vergangenheit gepflegt und verbreitet. Auch der damals angesagte „hot“-Filter von Snapchat geriet schnell in massive Kritik: Er hellte die Haut seiner Userinnen und User auf, machte Nasen kleiner und die Augen größer. Was als „hot“ verkauft wurde, war also nichts als ein westliches Schönheitsideal. Und somit für Milliarden Menschen beleidigend. Ähnlich skandalös war der Snapchat-Filter, der den Benutzerinnen und Benutzern angeblich japanische Gesichtszüge verlieh.
Das mag für Erwachsene noch halbwegs verständlich und abstrahierbar sein. Insbesondere Kinder oder Jugendliche bekommen aber zwei grundlegend falsche Lektionen mit auf den Weg:Dass man zum einen nur schön ist, wenn man so einen Filter benutzt. Der „Bold Glamour“-Filter von TikTok sieht beispielsweise so realistisch aus, dass gerade jüngere Nutzerinnen und Nutzer keinen Unterschied zur Realität feststellen können. Die Folge können Minderwertigkeitskomplexe und Frustration sein.
Zum anderen wird unterbewusst mitgeteilt, dass nur die westliche Kultur als schön, als erstrebenswert gilt. Das kann zur Folge haben, dass sich rassistische Stereotype schon früh bei Kindern festsetzen und sich viele andere Nutzerinnen und Nutzer benachteiligt und ausgeschlosen fühlen. Im schlimmsten Fall kann auch das zur Folge haben, dass sie sich nicht schön finden.
Wie man Kids dafür sensibilisieren kann
Filter sind aus den sozialen Medien nicht mehr wegzudenken. Sie bleiben, so viel steht fest. Deswegen ist es umso wichtiger, bestimmte Apps nicht zu verbieten und die Kids eher über die Hintergründe und etwaigen Folgen aufzuklären. Junge Userinnen und User müssen erfahren, dass es auch eine Welt außerhalb der Filter gibt, dass niemand wirklich so aussieht wie in der überinszenierten Welt der sozialen Medien und dass manche Darstellungen für viele Menschen beleidigend oder degradierend sind. Benutzen Sie die Filter gemeinsam mit Ihren Kindern, erwähnen Sie, dass alle ohne Filter immer noch am besten und natürlichsten aussehen.
Gegenbewegungen im Netz versuchen außerdem, für einen bewussten und sensiblen Umgang mit Filtern zu werben. Die App BeReal hat sich Authentizität auf die Fahnen geschrieben. Es geht um Momentaufnahmen, ungefiltert, uninszeniert. Das kommt an: Mittlerweile nutzen monatlich 50 Millionen Menschen die App – vornehmlich Jüngere und immer mehr Prominente. Auch der Hashtag #nofilter will darauf aufmerksam machen, dass beim Erstellen eines Bildes keinerlei digitale Filter zum Einsatz kommen. Studien haben allerdings herausgefunden, dass rund ein Viertel der Bilder trotz des Hashtags bearbeitet sind.
Wie im Umgang mit Medien allgemein, kommt es auch hier auf die richtige Schulung an. Je früher Kinder und Jugendliche in Sachen Medienkompetenz fit gemacht werden, desto weniger Gefahren sind die ausgesetzt. Angebote dazu gibt es zahlreiche, auch Checklisten mit hilfreichen Tipps und Artikeln gibt es im Netz zuhauf. Auch hier gilt: Begleiten Sie den Nachwuchs bei seinen Entdeckungsreisen im Netz, sprechen Sie darüber, stehen Sie mit Rat und Tat zur Seite.
KI kann auch anders
All das sollte nicht dazu führen, dass wir die KI verteufeln. Wie jede neue Technologie bringt sie neben Risiken auch jede Menge Chancen mit sich: Sie erleichtert Arbeitsprozesse, minimiert Fehler, hilft in der medizinischen Forschung und erlaubt uns ein immer angenehmeres Nutzerelebnis im Netz – und wenn es nur eine Google-Suche ist, die nach wenigen Buchstaben schon weiß, wonach man sucht. Unvorsichtig und nachlässig sollten wir deswegen noch lange nicht mit ihr umgehen, es ist aber sinnvoll und wichtig, stets beide Seiten der Medaille im Blick zu behalten. Aufhalten lässt sich die Ausbreitung der KI sowieso nicht mehr. Wappnen wir uns also für die etwaigen Probleme, die auf uns zukommen und freuen uns über die Vorteile.
Stand: Mai 2023
Weiterführende Informationen
Weitere Links
www.schau-hin.info
Elternratgeber Schau hin
www.lpb-bw.de
Landeszentrale für politische Bildung
www.ndr.de
Video zu Beauty-Filtern