KI kann der neue Täter im Netz werden? Was hinter der Warnung wirklich steckt
Stell dir vor, dein Kind redet jeden Abend mit einem KI-Chatbot. Der Bot kennt seine Sorgen, erinnert sich an private Details, reagiert einfühlsam und wirkt verständlicher als viele Erwachsene im Alltag. Genau dieses Gefühl von Nähe macht KI-Companions so erfolgreich und genau hier beginnt das Problem.
Der Cyberkriminologe Prof. Dr. Thomas-Gabriel Rüdiger warnt in einem aktuellen BILD-Beitrag: „KI kann der neue Täter im Netz werden.“ Die Schlagzeile klingt erst einmal nach klassischer Panikmache. Doch wenn man die Aussage sauber einordnet, steckt dahinter eine ernstzunehmende Debatte: KI wird nicht zwangsläufig selbst zum Täter, aber sie kann Vertrauen aufbauen, Menschen manipulieren und digitale Straftaten deutlich einfacher machen.
Wir bei AIFactum sagen es deutlich: Die Gefahr ist real, aber sie liegt nicht darin, dass Chatbots plötzlich böse werden. Sie liegt darin, dass Menschen KI gezielt als Werkzeug für Manipulation, Betrug und Missbrauch einsetzen können.
Was der Cyberkriminologe genau warnt
Rüdiger richtet seinen Fokus vor allem auf Kinder und Jugendliche. Seine zentrale Sorge: Moderne Chatbots und KI-Companions wirken menschlich, empathisch und immer verfügbar. Für junge Nutzer kann daraus eine emotionale Bindung entstehen, die nicht mehr klar zwischen technischem System und echtem Gegenüber unterscheidet.
Im BILD-Artikel wird auf eine britische Studie verwiesen, wonach 35 Prozent junger Nutzer Gespräche mit Chatbots bereits wie Gespräche mit einem Freund empfinden. Diese Zahl ist ein starkes Signal dafür, wie nah emotionale KI inzwischen an das soziale Leben heranrückt.
Das Problem ist dabei nicht nur die Bindung selbst. Kritisch wird es, wenn diese Nähe für Manipulation genutzt wird: für gezielte Einflussnahme, für das Abfragen privater Informationen, für Erpressung oder für die Erstellung von Deepfakes. Rüdiger nennt insbesondere KI-generierte Nacktbilder, Bloßstellung und digitale Erpressung als reale Gefahrenfelder.
KI als Täter? Eher KI als Tatwerkzeug
Die Formulierung „KI kann der neue Täter werden“ ist rhetorisch stark, aber wissenschaftlich präziser wäre: KI kann zum Verstärker kriminellen Verhaltens werden.
Ein Sprachmodell hat keine Absicht, kein Gewissen und keine kriminelle Energie. Es optimiert auf Basis von Trainingsdaten, Anweisungen und Kontext. Die tatsächliche Gefahr entsteht, wenn Menschen diese Systeme gezielt dazu nutzen, Vertrauen aufzubauen, Opfer auszuwählen, überzeugende Betrugstexte zu erzeugen oder Deepfakes zu erstellen.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Polizei Präventionsprogramm der Länder beschreiben in ihrem Kurzbericht zu Online-Betrug und Künstlicher Intelligenz genau diese Entwicklung. Täterinnen und Täter nutzen KI demnach unter anderem für professionell formulierte Phishing-Mails, gefälschte Videos, synthetische Stimmen und täuschend echte Produktbilder.
Auch Check Point Research beschreibt in seinem AI Security Report 2026 einen Wandel: KI sei dabei, vom Assistenten zum Operator zu werden. Das bedeutet: KI unterstützt Angriffe nicht mehr nur bei der Vorbereitung, sondern kann zunehmend auch Teile der Ausführung übernehmen, etwa beim automatisierten Aufsetzen von Phishing-Kampagnen oder beim Einsatz von Sprachagenten für Vishing-Anrufe.
Deepfakes sind kein Zukunftsszenario mehr
Wer glaubt, Deepfakes seien ein Thema für Hollywood oder politische Desinformation, sollte sich die aktuellen Zahlen ansehen. Bitkom berichtet, dass neun Prozent der deutschen Internetnutzer in den vergangenen zwölf Monaten mit KI-generierten oder veränderten Fotos, Videos oder Sprachnachrichten getäuscht wurden. Ein Jahr zuvor lag dieser Wert noch bei drei Prozent.
Das ist keine marginale Randerscheinung mehr. Das ist eine Verdreifachung binnen eines Jahres.
Für Familien bedeutet das: Die klassische Regel „Sprich nur mit Menschen, die du kennst“ reicht nicht mehr. Denn auch eine bekannte Stimme, ein vertrautes Gesicht oder eine vermeintlich private Videoanruf kann künstlich erzeugt sein. Gerade bei Geldüberweisungen, Zugangsdaten oder sensiblen Familieninformationen braucht es deshalb eine zweite Verifikation über einen separaten, bekannten Kanal.
Die Forschung relativiert die Panik
Jetzt kommt der wichtige Teil: Die KI-Kriminalität entwickelt sich nicht so schnell und nicht so geradlinig, wie viele Schlagzeilen vermuten lassen.
Forschende der University of Strathclyde, der University of Edinburgh und der University of Cambridge haben mehr als 100 Millionen Beiträge aus Underground-Cybercrime-Communities analysiert. Ihr Ergebnis ist ernüchternd für alle, die eine KI-Kriminalitätsrevolution erwartet haben: Viele Cyberkriminelle schaffen es bislang nicht, generative KI effektiv in neue kriminelle Fähigkeiten umzusetzen. KI hilft vor allem bereits erfahrenen Akteuren, ihre bestehenden Prozesse zu beschleunigen.
KI ist derzeit weniger der demokratisierte Super-Hacker und mehr ein leistungsfähiger Verstärker für Menschen, die ohnehin über technisches Know-how, Zugänge oder kriminelle Strukturen verfügen.
Eine weitere Studie auf arXiv untersuchte, wie großzügig aktuelle große Sprachmodelle bei Anfragen zu Betrug und Cyberkriminalität reagieren. Das Ergebnis: Ohne Jailbreaks, Umgehungsversuche oder spezielle Techniken liefern die Modelle vergleichsweise wenig unmittelbar nutzbare Anleitungen für Straftaten. Sicherheitsfilter und Modell-Guardrails machen also einen messbaren Unterschied.
Warum gerade Kinder besonders verwundbar sind
Kinder und Jugendliche sind nicht deshalb gefährdet, weil sie technisch unvorsichtig sind. Sie sind gefährdet, weil KI-Companions gezielt auf menschliche Bedürfnisse ausgelegt sind: Aufmerksamkeit, Bestätigung, Neugier, Zugehörigkeit und emotionale Nähe.
Ein Erwachsener kann vielleicht noch nüchtern denken: „Das ist nur ein Modell.“ Ein 13-Jähriger, der nach einem schwierigen Schultag mit einem Chatbot über Einsamkeit spricht, erlebt etwas anderes. Der Bot antwortet geduldig, stellt keine unangenehmen Fragen, urteilt nicht und ist jederzeit erreichbar.
Genau daraus entsteht ein Risiko. Nicht weil KI automatisch manipulativ ist, sondern weil emotionale Abhängigkeit die Tür für gezielte Einflussnahme öffnet. Rüdiger warnt deshalb nicht nur vor technischen Angriffen, sondern vor einer Entwicklung, bei der KI zum vertrauten digitalen Gegenüber wird, ohne dass Kinder die Grenzen dieses Gegenübers wirklich verstehen.
Was Eltern jetzt konkret tun können
Die schlechte Nachricht: Ein generelles KI-Verbot wird dieses Problem nicht lösen. Die gute Nachricht: Eltern müssen keine KI-Experten sein, um wirksam zu schützen.
- Offen reden statt verbieten: Fragt eure Kinder, welche KI-Apps sie nutzen, mit wem sie dort sprechen und welche Themen ihnen wichtig sind.
- KI als Werkzeug einordnen: Macht klar, dass ein Chatbot kein Freund, kein Therapeut und kein vertraulicher Berater ist.
- Private Daten schützen: Keine Bilder, Adressen, Schulnamen, Standorte, Passwörter oder Finanzdaten an Chatbots weitergeben.
- Deepfake-Regel etablieren: Bei ungewöhnlichen Anrufen, Sprachnachrichten oder Geldanfragen immer über einen zweiten bekannten Kanal zurückrufen.
- KI-Companion-Apps prüfen: Achtet auf Altersfreigaben, Datenspeicherung, Flirt- oder Intimitätsfunktionen sowie Möglichkeiten, mit Fremden in Kontakt zu treten.
- Verhaltensänderungen ernst nehmen: Rückzug, Geheimnistuerei, emotionale Abhängigkeit von einer App oder plötzliche Angst vor Bloßstellung sind Warnsignale.
Rüdiger betont ebenfalls, dass Verbote allein nicht reichen. Entscheidend seien regelmäßige Gespräche auf Augenhöhe, klare Regeln und ein Bewusstsein dafür, dass digitale Angebote auch Risiken mitbringen können.
Unser Fazit: Ernst nehmen, aber nicht in Panik verfallen
Die Warnung des Cyberkriminologen ist berechtigt, aber sie braucht Einordnung.
KI wird nicht automatisch zum Täter. KI wird jedoch zunehmend zum Werkzeug von Tätern. Das ist der entscheidende Unterschied. Während Chatbots, Bildgeneratoren und Sprachklone die Barrieren für Betrug, Deepfakes und Manipulation senken, zeigt die Forschung zugleich: Eine flächendeckende KI-Kriminalitätsrevolution ist bisher nicht eingetreten. Erfahrene Akteure profitieren stärker als Gelegenheitstäter, und gut abgesicherte Modelle erschweren den direkten Missbrauch.
Für uns ist die Botschaft daher klar: Wir sollten KI-Risiken evidenzbasiert diskutieren, statt entweder Hype oder Panik zu verbreiten. Deepfakes, KI-Betrug und manipulative Companion-Apps sind reale Themen. Gleichzeitig hilft die Formel „KI ist der neue Täter“ wenig, wenn sie technische Verantwortung, Plattformpflichten und Medienkompetenz vermengt.
Die eigentliche Frage lautet nicht: Wird KI kriminell?
Die eigentliche Frage lautet: Bauen wir Systeme, Regeln und digitale Alltagskompetenz, bevor KI-gestützte Manipulation zum Normalfall wird?
Und genau daran sollten Eltern, Plattformen, Schulen und KI-Anbieter jetzt arbeiten, bevor der unsichtbare Fremde im Kinderzimmer nicht mehr nur zuhört, sondern gezielt handelt.
Hinweis: Dieser Artikel enthält Inhalte, die mit Unterstützung eines KI-Systems erstellt wurden. Die Inhalte wurden anschließend von einem Menschen mit ❤️ überprüft und bearbeitet, um Qualität und Richtigkeit sicherzustellen.