Die Kinderrechtsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes haben vor den Gefahren von künstlicher Intelligenz für Kinder und Jugendliche gewarnt. Die Risikobelastung übersteige derzeit die vorhandenen Schutzmaßnahmen, heißt es in einem gemeinsamen Bericht der Organisationen, über den das RedaktionsNetzwerk Deutschland berichtete.

KI prägt demnach Bildung, soziale Medien, Suchmaschinen, Unterhaltung und kreative Tools »oft unsichtbar, sodass junge Menschen routinemäßig mit ihr interagieren, bevor sie sie benennen können«, heißt es. Nach Angaben der Autorinnen und Autoren ermöglichen dieselben Gestaltungsmerkmale, die Personalisierung und Barrierefreiheit schaffen, zugleich Gefahren durch Fehlinformationen, Voreingenommenheit, Abhängigkeit und kommerzielle Ausbeutung.

Lücken bei der gesetzlichen Regulierung

Während Technologiekonzerne die Entwicklung mit hohen Summen vorantrieben, hinke die gesetzliche Regulierung zunehmend hinterher, sagte die Vorständin von SOS-Kinderdörfer weltweit, Sabina Schutter, dem RND. Kinderschutz bedeute nicht nur, Risiken zu verringern. »Kinder und Jugendliche brauchen Kompetenzen, um digitale Räume kritisch, sicher und selbstbewusst nutzen zu können.«

Joshua Hofert, Vorstandssprecher von Terre des Hommes, sagte, Kindesschutz müsse »von Anfang an Teil jeder KI-Anwendung sein«. Während Techkonzerne Milliarden verdienten, blieben junge Menschen häufig schutzlos – insbesondere gegenüber Deepfakes, manipulativen Algorithmen und emotionaler Abhängigkeit.

Laut einer Studie der Krankenkasse DAK verwenden mehr als 25 Prozent der Minderjährigen KI-Anwendungen mehrmals pro Woche. Am häufigsten greifen Kinder und Jugendliche auf KI für Hausaufgabenhilfe und zur Informationssuche zurück; mehr als die Hälfte nutzt sie aber auch aus Neugier oder zur Unterhaltung. 

Die Studie sieht auch eine Gefahr riskanter KI-Nutzung bei Kindern und Jugendlichen. So nutzten etwa bis zu zehn Prozent der Zehn- bis 17-Jährigen KI-Anwendungen, um sich weniger einsam zu fühlen.