KI-Chatbots gehören für viele Kinder und Jugendliche zum digitalen Alltag. Sie beantworten Fragen, helfen bei Hausaufgaben und liefern Ideen für Schule und Freizeit. Doch die Technik birgt auch Risiken: falsche Informationen, problematische Inhalte, Datenschutzprobleme, eine zu enge Bindung an digitale Gesprächspartner oder der Verlust eigenen kritischen Denkens. Der TÜV-Verband warnt deshalb vor einem unkritischen Umgang mit KI-Anwendungen. Wer mit KI arbeitet, muss lernen, gute Fragen zu stellen und auch sinnvoll klingende, vermeintlich hilfreiche Antworten einzuordnen und zu überprüfen. Das ist eine wichtige digitale Kompetenz. Welche weiteren Risiken bei der Nutzung von KI-Chatbots bestehen und wie sich Eltern, Kinder und Jugendliche wappnen können, beschreibt der TÜV-Verband.
Bei Recherchen für die Schule können beispielsweise Fehler entstehen und Schüler Desinformation, falsche Quellen oder veraltete Informationen als gesichertes Wissen übernehmen. Darüber hinaus birgt der dauerhafte Griff zur KI das Risiko eines ‚Deskilling‘. Ohne vertiefte Auseinandersetzung mit einer Materie gehen wertvolle Lerneffekte verloren. Durch Hacks und Sicherheitslücken können ungewollt sensible persönliche Daten wie Namen, Adressen oder Passwörter an die Öffentlichkeit gelangen oder nach Cyberangriffen missbraucht werden. KI-Modelle sind darauf trainiert, einfühlsam, hilfsbereit und menschlich zu wirken. Gerade junge Menschen sind dann anfällig für Manipulation und emotionale Abhängigkeit. Diese Scheinbeziehungen können mitunter dramatische Folgen bis hin zum Suizid haben. Der ständige Austausch mit KI-Chatbots kann soziale Isolation fördern und zu einer Abhängigkeit führen, ähnlich wie bei Social-Media- oder Online-Spielsucht.
Weitere Information:
