KI und Kinder: Wie Medienkompetenz und Schutz vor Deepfakes im Safer Internet Day 2026 gefordert werden

– Das Deutsche Kinderhilfswerk fordert mehr Medienkompetenzförderung für Kinder im Umgang mit KI-Inhalten.
– Zum Safer Internet Day bietet die Organisation eine KI-Videoreihe mit gesammelten Kinderfragen an.
– KI birgt Risiken wie Deepfakes, kann aber auch altersgerechte Lern- und Kreativchancen eröffnen.

Safer Internet Day 2026: Kinder brauchen Medienkompetenz im Zeitalter der KI

Der Safer Internet Day 2026 rückt die Bedeutung digitaler Bildung in den Mittelpunkt. 63 % der Schülerinnen und Schüler geben an, zu wenig über Chancen und Risiken im Umgang mit Künstlicher Intelligenz in der Schule zu lernen (Stand: Umfrage 2024)*. Das Deutsche Kinderhilfswerk fordert eine verstärkte Förderung der Medienkompetenz von Kindern und Jugendlichen. Junge Nutzer müssen frühzeitig befähigt werden, digitale Inhalte kritisch zu hinterfragen und sicher zu navigieren.

Zum heutigen Safer Internet Day, der unter dem Motto „KI and me – In künstlicher Beziehung“ steht, bietet das Deutsche Kinderhilfswerk auf der Kinderseite www.kindersache.de eine Kurzvideo-Reihe mit der bekannten Fernsehmoderatorin Clarissa Corrêa da Silva an. „Die Moderation beantwortet in sechs Kurzclips Kinderfragen zum Thema KI, die im Vorfeld auf kindersache.de gesammelt wurden. So haben Kinder gefragt, warum Chatbots manchmal falsche Informationen geben, und ob Künstliche Intelligenz Vorurteile haben kann oder wirklich die Welt erobern will,“ erklärt Holger Hofmann, Bundesgeschäftsführer des Deutschen Kinderhilfswerks.

Das Ziel ist klar: Medienkompetenz muss überall dort ansetzen, wo Kinder online unterwegs sind. „Insbesondere bei der rasanten Entwicklung im Bereich der Künstlichen Intelligenz müssen die Perspektiven und Rechte von Kindern gemäß UN-Kinderrechtskonvention immer und überall beachtet werden.“ Hofmann betont auch: „Medienkompetenzförderung muss früh ansetzen und alle Kinder erreichen. Dazu gehört auch, KI verständlich zu machen und kritisch einzuordnen.“

Zudem plädiert das Deutsche Kinderhilfswerk für eine stärkere Beteiligung der Kinder an der Entwicklung digitaler Angebote: „Wichtig ist zudem, dass Kinderperspektiven stärker in die Entwicklung digitaler Angebote und Regeln einfließen. Nur so entstehen Räume, die Kinder nicht nur schützen, sondern stärken und in denen KI im Sinne der Kinder gestaltet wird.“ Die UN-Kinderrechtskonvention bezeichnet Hofmann als wichtige Grundlage, um Kinderrechte auch im digitalen Raum zu sichern.

Neben den Chancen, die KI für Lernen und Kreativität bietet, macht Hofmann auf die Risiken aufmerksam: „Viele Kinder und Jugendliche sind mit sogenannten Deepfakes konfrontiert. Deepfakes sind mit KI erstellte Bild- und Videobearbeitungen, in denen die Gesichter oder Körper realer Personen in fremde Kontexte eingefügt werden.“ Das sei eine Form digitaler Gewalt, die vor allem sexualisierte Darstellungen betreffe und kaum reguliert sei.*

Abschließend unterstreicht Hofmann: „KI ist aber nicht nur Risiko, sondern kann auch neue Lern- und Kreativchancen eröffnen. Wenn Kinder KI altersgerecht erleben, stärkt das ihre Neugier, ihr Selbstbewusstsein und ihr Urteilsvermögen. Deshalb brauchen wir auch gute Kinderseiten-Internetseiten, die genau dafür den Raum bieten: altersgerecht, verständlich, geschützt und ohne Manipulation.“

Der Safer Internet Day bietet in diesem Jahr die Gelegenheit, für mehr Online-Sicherheit und Medienkompetenz zu werben, gerade im Hinblick auf die Herausforderungen und Chancen der KI.

Medienbildung in Schulen: Längst noch Verbesserungsbedarf bei KI-Kompetenzen

In der Diskussion um die digitale Bildung von Kindern spielt die Vermittlung von Kompetenzen im Umgang mit Künstlicher Intelligenz (KI) eine zentrale Rolle. Aktuelle Studien zeigen, dass Schülerinnen und Schüler in Deutschland im schulischen Kontext noch immer erheblichen Nachholbedarf haben. Laut einer Umfrage aus dem Jahr 2024 geben 63 Prozent der befragten Schülerinnen und Schüler an, zu wenig über die Chancen und Risiken im Umgang mit KI zu lernen*. Zudem berichten 55 Prozent, dass ihnen in der Schule nicht ausreichend Raum zum Experimentieren mit Technik und neuen Tools zur Verfügung steht*.

Diese Defizite sind vielschichtig. Lehrpläne und Weiterbildungsangebote für Lehrkräfte konzentrieren sich bislang wenig auf praktische KI-Kompetenzen, sodass Unterrichtsinhalte oft alternativen oder veralteten Vorgaben folgen. Zudem ist die technische Ausstattung der meisten Schulen noch nicht flächendeckend ausreichend, um innovative Lernformate zu ermöglichen. Das Ergebnis: Schüler:innen fühlen sich beim Lernen mit KI-Technologien oft allein gelassen, und das Interesse am Probieren und eigenen Entdecken bleibt ungenutzt.

Lehrerunterstützung und Lehrpläne

Verschiedene Gründe behindern eine zeitgemäße Medienbildung. Zum einen sind Lehrpläne häufig nur unzureichend an die Anforderungen des KI-Zeitalters angepasst. Viele Lehrer:innen verfügen zudem über keine ausreichende Weiterbildung im Bereich Digitalisierung und KI, was die Integration entsprechender Inhalte erschwert. Ohne klare Vorgaben und ohne technische Unterstützung fällt es schwer, experimentierfreudige Lernangebote zu schaffen, die den Ansprüchen der Schüler gerecht werden könnten.

Schülerwünsche: Lernen versus Ausprobieren

Die Erwartungen der Schülerinnen und Schüler sind deutlich formuliert: Mehr praktische Erfahrungen im Umgang mit moderner Technik stehen auf ihrer Wunschliste ganz oben. Beispielsweise wünschen sie sich mehr Raum für eigene Experimente, um die Technik aktiv zu erforschen und kreativ zu nutzen. Die Identifikation mit dem Lernstoff steigert sich, wenn Wissen nicht nur theoretisch vermittelt, sondern durch eigenständiges Ausprobieren und Erstellen von Projekten vertieft wird. Diese Ansprüche sind umso berechtigter, wenn man bedenkt, dass Medienkompetenz in Zeiten von Deepfakes und KI-gestützten Bild- und Video-Manipulationen immer wichtiger wird.

Die Verantwortlichen in Schulpolitik und Bildungseinrichtungen müssen künftig stärker auf diese Bedürfnisse reagieren. Nur dann kann es gelingen, Schüler:innen für die Chancen und Risiken der digitalen Welt zu sensibilisieren und sie aktiv am digitalen Wandel teilhaben zu lassen. Die aktuelle Lage zeigt, dass eine stärkere Unterstützung der Lehrkräfte sowie vielfältige Experimentiermöglichkeiten im Unterricht essenziell sind, um die Lücke zwischen Anspruch und Realität zu schließen.

Deepfakes und digitale Gewalt: Risiken für Kinder und Jugendliche im Netz

Deepfakes sind KI-generierte Bild- und Videobearbeitungen, bei denen realen Personen Gesichter oder Körper in manipulierte Kontexte eingefügt werden. Diese Technologie nimmt in Online-Medien schnell an Bedeutung zu. Im Jahr 2023 registrierte jugendschutz.net insgesamt 7.645 Verstöße im Internet, wobei zwei Drittel davon sexualisierte Gewalt betrafen.* Diese Zahlen verdeutlichen, welch drängendes Problem die Verbreitung sexualisierter Deepfakes darstellt.

Der Einsatz von generativer KI verstärkt die Risiken für Kinder und Jugendliche erheblich.

Durch die einfache Nutzung entsprechender Tools entstehen Bilder und Videos, die sich rasch verbreiten und auf Schulhöfen für Verwirrung und Verunsicherung sorgen. Besonders besorgniserregend ist die Zunahme sexualisierter Darstellungen, die für die Betroffenen eine erhebliche psychische Belastung bedeuten. Sie erleben sozialen Druck, fühlen sich gedemütigt, isoliert oder schämen sich. Solche Erfahrungen haben nachhaltige Auswirkungen auf ihr Selbstwertgefühl und ihre psychische Gesundheit.

Die Bedrohung durch Deepfakes geht jedoch über das Persönliche hinaus. Eine Studie zeigt, dass die Verfügbarkeit und Nutzung dieser Technologien im öffentlichen Raum wächst, was die Gefahr digitaler Gewalt verstärkt. Das unkontrollierte Verbreiten solcher manipulierten Inhalte schafft eine Angriffsfläche, die kaum reguliert werden kann. Dabei gehen Betroffene meist lange Zeit mit den Folgen ihrer Demütigung und Verletzung der Privatsphäre um, während Täter häufig anonym agieren.

Medienkompetenz und Aufklärung sind unerlässlich, um Kinder im Umgang mit dieser Gefahr zu stärken. Das Deutsche Kinderhilfswerk sowie andere Organisationen fordern, frühzeitig und umfassend digitale Kompetenzen zu vermitteln. Kinder sollen verstehen, was Deepfakes sind, wie sie entstehen und welche Strategien zum Schutz im Netz bestehen. Das Ziel ist, Kinder zu selbstbestimmten Nutzern digitaler Inhalte zu machen, die sowohl Risiken erkennen als auch kritisch hinterfragen können.

Ein besonderer Fokus liegt auf den Chancen, die KI Jungen und Mädchen bieten kann. Wenn sie altersgerecht erleben, fördert das ihre Neugier, ihr Selbstvertrauen und ihre Urteilskraft. Doch nur durch geeignete Angebote im Netz gelingt es, Risiken zu minimieren und Medienbildung mit Schutzmechanismen zu verbinden. Es ist notwendig, Räume zu schaffen, die Kinder weder nur schützen noch ignorieren, sondern sie in ihrer digitalen Teilhabe stärken.

Der Schutz vor digitalen Gefahren wie Deepfakes ist eine zentrale Herausforderung unserer Zeit. Es erfordert gemeinsame Anstrengungen von Politik, Pädagogik und Familien, um Kinder auf diese Entwicklungen vorzubereiten und sie bei der sicheren Nutzung digitaler Medien zu begleiten.

Regelungen und medienrechtliche Herausforderungen im Zeitalter generativer KI

Die zunehmende Verbreitung und Nutzung generativer Künstlicher Intelligenz (KI) stellt das medienrechtliche Umfeld vor neue Herausforderungen. Ein zentraler Bezugspunkt ist das Gutachten des Europäischen Medienrats (EMR) zur Kommission für Jugendmedienschutz (KJM) sowie die Diskussion um den EU AI Act und den Jugendmedienschutz-Staatsvertrag (JMStV). Das EMR-Gutachten aus dem Jahr 2024 beleuchtet, wie diese regulatorischen Rahmenwerke durch die Entwicklung von KI-Technologien beeinflusst werden und welche Anpassungen für die Praxis notwendig sind.

Das Gutachten hebt hervor, dass die bestehenden medienrechtlichen Vorgaben die vielfältigen Chancen und Risiken von KI-gestalteten Inhalten nur bedingt erfassen. Insbesondere die Herausforderungen bei der Erkennung und Beaufsichtigung künstlich generierter Inhalte, wie Deepfakes, erfordern technische und organisatorische Maßnahmen. Praktisch bedeutet dies, dass aufsichtliche Zuständigkeiten klar geregelt sowie technische Erkennungs- und Meldepflichten für Anbieter definiert werden müssen.*

Im Rahmen der Regulierung werden unterschiedliche Ansätze diskutiert. Einige verfolgen einen umfassenden Regulierungsweg, der auf strengere Vorgaben für Anbieter und eine stärkere Überwachung setzt. Vorteilhaft ist hier die erhöhte Rechtssicherheit sowie Schutz vor Manipulation und Missbrauch. Nachteilig kann jedoch sein, dass eine zu strenge Regulierung Innovationen hemmen und technologische Entwicklungen verzögern könnte.

Alternativ steht ein weniger regulierender Ansatz im Raum, der auf freiwillige Selbstregulierung und technologische Lösungen setzt. Dies fördert Innovation und Flexibilität, birgt allerdings das Risiko unzureichender Aufsicht und Schutzmaßnahmen bei danbenspezifischen Herausforderungen.

Insgesamt zeigt sich, dass die regulatorischen Konzepte eine Abwägung zwischen Schutz der Nutzerrechte, Effizienz der Kontrolle und Innovationsförderung erfordern. Die Praxis wird maßgeblich davon abhängen, wie rechtliche Vorgaben und technische Standards in den kommenden Jahren aufeinander abgestimmt und weiterentwickelt werden, um sowohl die Chancen der KI zu nutzen als auch Risiken effektiv zu minimieren.

Chancen für Kinder und Gesellschaft: Ein zuversichtlicher Blick auf KI, Angebote und Handlungsnotwendigkeiten

Die rasante Entwicklung Künstlicher Intelligenz eröffnet vielfältige Potenziale, um Lernen, Kreativität und digitale Teilhabe für Kinder zu fördern. Dabei zeigt sich in der aktuellen Debatte, wie wichtig es ist, sowohl Chancen zu erkennen als auch konkrete Maßnahmen zu ergreifen, um das Potenzial der Technologien verantwortungsvoll zu nutzen. Der Abschluss des aktuellen Berichts hebt vor diesem Hintergrund das zentrale Anliegen hervor: Die Digitalisierung bietet hervorragende Möglichkeiten, um Bildung und Kinderschutz zu stärken, braucht jedoch eine klare politische Unterstützung.

Im Rahmen des Safer Internet Day 2026, unter dem Motto "KI and me – In künstlicher Beziehung", hat das Deutsche Kinderhilfswerk auf die Bedeutung von Medienkompetenz aufmerksam gemacht. Es fordert, dass die Bundesregierung den Ausbau von Medienbildungsangeboten in Schulen konsequent vorantreibt und zugleich qualitätsvolle Kinderangebote im Internet nachhaltig finanziert. Nur so entsteht ein Raum, der Kinder schützt, ihre Selbstständigkeit fördert und sie befähigt, KI aktiv und kritisch zu gestalten. Hier liegt eine zentrale Verantwortung bei der politischen Ebene, die Ressourcen für eine bessere Aus- und Fortbildung von Lehrkräften bereitzustellen und langlebige Finanzierungsmodelle für Online-Angebote zu entwickeln.

In diesem Zusammenhang lassen sich mehrere konkrete Empfehlungen ableiten. Zum einen sollte die Ausstattung von Schulen mit digitalen Medien, inklusive spezieller Fortbildungen für Lehrkräfte im Umgang mit KI, priorisiert werden. Ziel ist es, pädagogisches Personal darin zu schulen, Kinder altersgerecht und verständlich mit KI-Themen vertraut zu machen. Zum anderen braucht es eine stabil finanzierte Infrastruktur für kindgerechte Online-Angebote, die sowohl Bildungsinhalte als auch Schutzfunktionen ohne Manipulation bieten. Schließlich ist die Entwicklung spezieller Medienkompetenzprogramme für Kinder in allen Altersgruppen entscheidend, um sie auf die Herausforderungen und Chancen der KI-Zeit vorzubereiten.

Die positiven Potenziale von KI im Bildungsbereich lassen sich nicht ignorieren. Wenn Kinder altersgerecht mit KI umgehen lernen, steigt ihr Interesse, ihre Selbstsicherheit und ihr Urteilsvermögen. Dabei geht es nicht nur um den Erwerb technischer Fähigkeiten, sondern auch um die kritische Reflexion über Vorurteile und Risiken, wie beispielsweise die Verbreitung von Deepfakes, die zunehmend auf Schulhöfen vorkommen. Eine gezielte Unterstützung durch qualitätsvolle Angebote kann Kinder in ihrer digitalen Entwicklung stärken, sie gleichzeitig vor Risiken schützen und ihnen eine eigenständige, kreative Nutzung der neuen Technologien ermöglichen.

Der Bericht macht deutlich: Chancen für Kinder ergeben sich vor allem durch einen nachhaltigen Ausbau digitaler Bildungsangebote, die fachlich kompetent begleiten und die Rechte der Kinder im digitalen Raum achten. Nur durch eine gezielte Förderung und politische Unterstützung lassen sich die Potenziale von KI für Lernen, Kreativität und gesellschaftliche Teilhabe voll ausschöpfen. Es ist an der Zeit, die Weichen für eine zukunftsfähige digitale Bildung zu stellen, die Kinder aktiv einbezieht und sie auf die Gestaltung einer digitalen Gesellschaft vorbereitet. (Quelle: Pressemitteilung Deutsches Kinderhilfswerk, 10.02.2026)

Die vorliegenden Informationen und Statements stammen aus einer Pressemitteilung des Deutschen Kinderhilfswerk e.V.

Weiterführende Quellen:

• „63 % der Schülerinnen und Schüler geben an, zu wenig über Chancen und Risiken im Umgang mit Künstlicher Intelligenz in der Schule zu lernen (Stand: Umfrage 2024).“ – Quelle: https://www.familienhandbuch.de/aktuelles/neue/58168/
• „55 % der Schülerinnen und Schüler vermissen in der Schule genug Raum zum Experimentieren mit Technik und neuen Tools (Stand: Umfrage 2024).“ – Quelle: https://www.familienhandbuch.de/aktuelles/neue/58168/
• „Im Jahr 2023 bearbeitete jugendschutz.net 7645 Verstoßfälle im Internet, davon zwei Drittel sexualisierte Gewalt (Stand: Jahresbericht 2023).“ – Quelle: https://www.bmbfsfj.bund.de/bmbfsfj/aktuelles/alle-meldungen/kuenstliche-intelligenz-verschaerft-risiken-fuer-kinder-und-jugendliche-im-netz-243642
• „Generative KI verstärkt Risiken wie sexualisierte Gewalt durch Deepfakes für Kinder und Jugendliche im Netz (Stand: Jahresbericht jugendschutz.net 2023).“ – Quelle: https://www.bmbfsfj.bund.de/bmbfsfj/aktuelles/alle-meldungen/kuenstliche-intelligenz-verschaerft-risiken-fuer-kinder-und-jugendliche-im-netz-243642
• „Das Gutachten des EMR zur KJM beleuchtet Herausforderungen des JMStV durch generative KI und den EU AI Act, inklusive Jugendmedienschutz (Stand: Gutachten 2024).“ – Quelle: https://www.die-medienanstalten.de/forschung/kuenstliche-intelligenz/