War das Fälschen von Pässen und anderen Dokumenten früher eine Aufgabe für Spezialisten, so erledigt die KI das heute in Minuten. karenfoleyphotography – shutterstock.com Forscher warnen vor einer neuen Gefahr: Mit gefälschten Identitätsdokumenten eröffnen Kriminelle unter anderem neue Bankkonten, übernehmen bestehende Konten oder begehen Versicherungsbetrug. Die erforderlichen Papiere würden sie per KI in Minuten erstellen. Vor dieser neuen Entwicklung, GenAI im Bereich der Kriminalität zu nutzen, warnen die Experten von Cato CTRL, dem Threat-Research-Team von Cato Networks. Insbesondere der neueste Bildgenerator von ChatGPT lasse sich zur Erstellung gefälschter Dokumente wie Pässen nutzen. KI als Meisterfälscher So werde die Technologie zunehmend von Kriminellen zweckentfremdet, um überzeugende Fälschungen zu erstellen – ohne technisches Fachwissen oder Zugang zu illegalen Netzwerken zu benötigen. Was früher spezialisierte Fähigkeiten und Werkzeuge wie Photoshop erforderte, kann heute mit wenigen gezielten Eingaben in eine KI-Plattform erreicht werden. Dies markiert laut Cato Networks einen Wendepunkt in der Bedrohungslandschaft und ebnet den Weg für sogenannte „Zero-Knowledge“-Angreifer: Also Kriminelle, die ohne tiefgreifende Fachkenntnisse ausgefeilte Betrugsstrategien umsetzen können. Dabei könnten die von OpenAI implementierten Sicherheitsschranken im Bildgenerator von ChatGPT einfach umgangen werden. Die Anfragen müssen nur geschickt formuliert werden. Sperren leicht ausgetrickst So war es etwa Etay Maor, Chief Security Strategist bei Cato Networks, möglich, die Schutzmechanismen der Plattform zu überwinden, indem er vorgab, dass ein Dokument lediglich eine Visitenkarte im Stil eines Reisepasses sei. Auf diese Weise erhielt er ein gefälschtes, aber täuschend echt wirkendes Ausweisdokument. Dieser Prozess, der früher Stunden dauerte und spezielle Kenntnisse erforderte, ist nun in wenigen Minuten möglich – allein durch einfache Texteingaben. Besonders beunruhigend sei dabei die Qualität der Fälschungen: Die KI reproduziere nicht nur visuelle Details wie Stempel und Bildüberlagerungen, sondern auch subtile Merkmale wie die Textur von Handschriften oder Unregelmäßigkeiten im Tintenauftrag. Diese weise normalerweise in echten Dokumenten auf die Authentizität hin. Für Cato Networks besteht die Bedrohung nicht nur in der Leichtigkeit, mit der entsprechende Dokumente erstellt werden können, sondern auch in ihrer zunehmenden Glaubwürdigkeit. Denn mit den Fälschungen seien traditionelle Erkennungsmechanismen zuweilen überfordert.
KI und Kriminalität: Gefälschte Pässe in Minuten
War das Fälschen von Pässen und anderen Dokumenten früher eine Aufgabe für Spezialisten, so erledigt die KI das heute in Minuten. karenfoleyphotography – shutterstock.com Forscher warnen vor einer neuen Gefahr: Mit gefälschten Identitätsdokumenten eröffnen Kriminelle unter anderem neue Bankkonten, übernehmen bestehende Konten oder begehen Versicherungsbetrug. Die erforderlichen Papiere würden sie per KI in Minuten erstellen. Vor dieser neuen Entwicklung, GenAI im Bereich der Kriminalität zu nutzen, warnen die Experten von Cato CTRL, dem Threat-Research-Team von Cato Networks. Insbesondere der neueste Bildgenerator von ChatGPT lasse sich zur Erstellung gefälschter Dokumente wie Pässen nutzen. KI als Meisterfälscher So werde die Technologie zunehmend von Kriminellen zweckentfremdet, um überzeugende Fälschungen zu erstellen – ohne technisches Fachwissen oder Zugang zu illegalen Netzwerken zu benötigen. Was früher spezialisierte Fähigkeiten und Werkzeuge wie Photoshop erforderte, kann heute mit wenigen gezielten Eingaben in eine KI-Plattform erreicht werden. Dies markiert laut Cato Networks einen Wendepunkt in der Bedrohungslandschaft und ebnet den Weg für sogenannte „Zero-Knowledge“-Angreifer: Also Kriminelle, die ohne tiefgreifende Fachkenntnisse ausgefeilte Betrugsstrategien umsetzen können. Dabei könnten die von OpenAI implementierten Sicherheitsschranken im Bildgenerator von ChatGPT einfach umgangen werden. Die Anfragen müssen nur geschickt formuliert werden. Sperren leicht ausgetrickst So war es etwa Etay Maor, Chief Security Strategist bei Cato Networks, möglich, die Schutzmechanismen der Plattform zu überwinden, indem er vorgab, dass ein Dokument lediglich eine Visitenkarte im Stil eines Reisepasses sei. Auf diese Weise erhielt er ein gefälschtes, aber täuschend echt wirkendes Ausweisdokument. Dieser Prozess, der früher Stunden dauerte und spezielle Kenntnisse erforderte, ist nun in wenigen Minuten möglich – allein durch einfache Texteingaben. Besonders beunruhigend sei dabei die Qualität der Fälschungen: Die KI reproduziere nicht nur visuelle Details wie Stempel und Bildüberlagerungen, sondern auch subtile Merkmale wie die Textur von Handschriften oder Unregelmäßigkeiten im Tintenauftrag. Diese weise normalerweise in echten Dokumenten auf die Authentizität hin. Für Cato Networks besteht die Bedrohung nicht nur in der Leichtigkeit, mit der entsprechende Dokumente erstellt werden können, sondern auch in ihrer zunehmenden Glaubwürdigkeit. Denn mit den Fälschungen seien traditionelle Erkennungsmechanismen zuweilen überfordert.
KI und Kriminalität: Gefälschte Pässe in Minuten War das Fälschen von Pässen und anderen Dokumenten früher eine Aufgabe für Spezialisten, so erledigt die KI das heute in Minuten. karenfoleyphotography – shutterstock.com Forscher warnen vor einer neuen Gefahr: Mit gefälschten Identitätsdokumenten eröffnen Kriminelle unter anderem neue Bankkonten, übernehmen bestehende Konten oder begehen Versicherungsbetrug. Die erforderlichen Papiere würden sie per KI in Minuten erstellen. Vor dieser neuen Entwicklung, GenAI im Bereich der Kriminalität zu nutzen, warnen die Experten von Cato CTRL, dem Threat-Research-Team von Cato Networks. Insbesondere der neueste Bildgenerator von ChatGPT lasse sich zur Erstellung gefälschter Dokumente wie Pässen nutzen. KI als Meisterfälscher So werde die Technologie zunehmend von Kriminellen zweckentfremdet, um überzeugende Fälschungen zu erstellen – ohne technisches Fachwissen oder Zugang zu illegalen Netzwerken zu benötigen. Was früher spezialisierte Fähigkeiten und Werkzeuge wie Photoshop erforderte, kann heute mit wenigen gezielten Eingaben in eine KI-Plattform erreicht werden. Dies markiert laut Cato Networks einen Wendepunkt in der Bedrohungslandschaft und ebnet den Weg für sogenannte „Zero-Knowledge“-Angreifer: Also Kriminelle, die ohne tiefgreifende Fachkenntnisse ausgefeilte Betrugsstrategien umsetzen können. Dabei könnten die von OpenAI implementierten Sicherheitsschranken im Bildgenerator von ChatGPT einfach umgangen werden. Die Anfragen müssen nur geschickt formuliert werden. Sperren leicht ausgetrickst So war es etwa Etay Maor, Chief Security Strategist bei Cato Networks, möglich, die Schutzmechanismen der Plattform zu überwinden, indem er vorgab, dass ein Dokument lediglich eine Visitenkarte im Stil eines Reisepasses sei. Auf diese Weise erhielt er ein gefälschtes, aber täuschend echt wirkendes Ausweisdokument. Dieser Prozess, der früher Stunden dauerte und spezielle Kenntnisse erforderte, ist nun in wenigen Minuten möglich – allein durch einfache Texteingaben. Besonders beunruhigend sei dabei die Qualität der Fälschungen: Die KI reproduziere nicht nur visuelle Details wie Stempel und Bildüberlagerungen, sondern auch subtile Merkmale wie die Textur von Handschriften oder Unregelmäßigkeiten im Tintenauftrag. Diese weise normalerweise in echten Dokumenten auf die Authentizität hin. Für Cato Networks besteht die Bedrohung nicht nur in der Leichtigkeit, mit der entsprechende Dokumente erstellt werden können, sondern auch in ihrer zunehmenden Glaubwürdigkeit. Denn mit den Fälschungen seien traditionelle Erkennungsmechanismen zuweilen überfordert.