KI-generierte Falschinformationen könnten zu Bankenpleiten im “Silicon-Valley-Stil” führen.Sundry Pghotography | shutterstock.com Das britische Research- und Services-Unternehmen „Say No to Disinfo“ hat in Kooperation mit den Kommunikationsspezialisten von Fenimore Harper eine KI-getriebene Desinformationskampagne auf die Beine gestellt. Dabei wurden 500 Bankkunden im Vereinigten Königreich mit synthetischen „Gerüchten“ über ihr Finanzinstitut konfrontiert. Die Motivation hinter der Simulation war dabei die Frage, ob Fake-News-Kampagnen auf Basis generativer künstlicher Intelligenz (Generative AI; GenAI) künftig „Bank Runs“ auslösen könnten – wie etwa bei der US-amerikanischen Silicon Valley Bank. Kundenvertrauen zu zerstören, ist nicht teuer Die Ergebnisse der Untersuchung (PDF) unterstreichen das unheilvolle Potenzial der Technologie in diesem Bereich: Fast 61 Prozent der Studienteilnehmer, die die Fake News konsumierten, zeigten sich grundsätzlich bereit, ihr Geld von der jeweiligen Bank abzuziehen. Etwas mehr als 33 Prozent der Befragten stuften das demnach als „sehr wahrscheinlich“ ein, weitere 27 Prozent als „wahrscheinlich“. Übersetzt in finanziellen Aufwand, können laut der Untersuchung bereits 10 britische Pfund (circa 12 Euro) ausreichen, um Vermögenswerte von einer Million britischen Pfund zu „verschieben“. „Mit Hilfe von KI-Tools haben wir falsche Schlagzeilen generiert, deren Narrative auf vorhandene Ängste und Biases einzahlen sollten. Die wesentliche Message war dabei: ‚Die Kundengelder sind nicht sicher‘“, erklären die Studienautoren. Dabei nutzten die Experten nach eigener Aussage vor allem den Kurznachrichtendienst X, um massenhaft entsprechende Posts und Memes zu verbreiten. „Angesichts dessen, wie schnell, einfach und kostengünstig sich effektive Desinformationskamapagnen aufsetzen lassen, muss der Finanzsektor vorbereitet sein“, warnen die Experten. Leider fehlten in Banken jedoch oft entsprechende Spezialisten: „Trust Mapping für Kunden, Rogue-Actor-Mapping oder War Gaming sind Dinge, mit denen sich Finanzinstitutionen eher reaktiv als proaktiv beschäftigen.“ Es sei missionskritisch für Finanzinstitute, sich mit den Risiken auseinanderzusetzen, die solche KI-basierten Kampagnen aufwerfen: „Banken, die sich auf Cyberbedrohungen fokussieren und dabei die Risiken von Desinformationskampagnen vernachlässigen, schaffen eine kritische Sicherheitslücke“, konstatieren die Studienautoren. Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre In
KI kann Banken killen
KI-generierte Falschinformationen könnten zu Bankenpleiten im “Silicon-Valley-Stil” führen.Sundry Pghotography | shutterstock.com Das britische Research- und Services-Unternehmen „Say No to Disinfo“ hat in Kooperation mit den Kommunikationsspezialisten von Fenimore Harper eine KI-getriebene Desinformationskampagne auf die Beine gestellt. Dabei wurden 500 Bankkunden im Vereinigten Königreich mit synthetischen „Gerüchten“ über ihr Finanzinstitut konfrontiert. Die Motivation hinter der Simulation war dabei die Frage, ob Fake-News-Kampagnen auf Basis generativer künstlicher Intelligenz (Generative AI; GenAI) künftig „Bank Runs“ auslösen könnten – wie etwa bei der US-amerikanischen Silicon Valley Bank. Kundenvertrauen zu zerstören, ist nicht teuer Die Ergebnisse der Untersuchung (PDF) unterstreichen das unheilvolle Potenzial der Technologie in diesem Bereich: Fast 61 Prozent der Studienteilnehmer, die die Fake News konsumierten, zeigten sich grundsätzlich bereit, ihr Geld von der jeweiligen Bank abzuziehen. Etwas mehr als 33 Prozent der Befragten stuften das demnach als „sehr wahrscheinlich“ ein, weitere 27 Prozent als „wahrscheinlich“. Übersetzt in finanziellen Aufwand, können laut der Untersuchung bereits 10 britische Pfund (circa 12 Euro) ausreichen, um Vermögenswerte von einer Million britischen Pfund zu „verschieben“. „Mit Hilfe von KI-Tools haben wir falsche Schlagzeilen generiert, deren Narrative auf vorhandene Ängste und Biases einzahlen sollten. Die wesentliche Message war dabei: ‚Die Kundengelder sind nicht sicher‘“, erklären die Studienautoren. Dabei nutzten die Experten nach eigener Aussage vor allem den Kurznachrichtendienst X, um massenhaft entsprechende Posts und Memes zu verbreiten. „Angesichts dessen, wie schnell, einfach und kostengünstig sich effektive Desinformationskamapagnen aufsetzen lassen, muss der Finanzsektor vorbereitet sein“, warnen die Experten. Leider fehlten in Banken jedoch oft entsprechende Spezialisten: „Trust Mapping für Kunden, Rogue-Actor-Mapping oder War Gaming sind Dinge, mit denen sich Finanzinstitutionen eher reaktiv als proaktiv beschäftigen.“ Es sei missionskritisch für Finanzinstitute, sich mit den Risiken auseinanderzusetzen, die solche KI-basierten Kampagnen aufwerfen: „Banken, die sich auf Cyberbedrohungen fokussieren und dabei die Risiken von Desinformationskampagnen vernachlässigen, schaffen eine kritische Sicherheitslücke“, konstatieren die Studienautoren. Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre In
KI kann Banken killen KI-generierte Falschinformationen könnten zu Bankenpleiten im “Silicon-Valley-Stil” führen.Sundry Pghotography | shutterstock.com Das britische Research- und Services-Unternehmen „Say No to Disinfo“ hat in Kooperation mit den Kommunikationsspezialisten von Fenimore Harper eine KI-getriebene Desinformationskampagne auf die Beine gestellt. Dabei wurden 500 Bankkunden im Vereinigten Königreich mit synthetischen „Gerüchten“ über ihr Finanzinstitut konfrontiert. Die Motivation hinter der Simulation war dabei die Frage, ob Fake-News-Kampagnen auf Basis generativer künstlicher Intelligenz (Generative AI; GenAI) künftig „Bank Runs“ auslösen könnten – wie etwa bei der US-amerikanischen Silicon Valley Bank. Kundenvertrauen zu zerstören, ist nicht teuer Die Ergebnisse der Untersuchung (PDF) unterstreichen das unheilvolle Potenzial der Technologie in diesem Bereich: Fast 61 Prozent der Studienteilnehmer, die die Fake News konsumierten, zeigten sich grundsätzlich bereit, ihr Geld von der jeweiligen Bank abzuziehen. Etwas mehr als 33 Prozent der Befragten stuften das demnach als „sehr wahrscheinlich“ ein, weitere 27 Prozent als „wahrscheinlich“. Übersetzt in finanziellen Aufwand, können laut der Untersuchung bereits 10 britische Pfund (circa 12 Euro) ausreichen, um Vermögenswerte von einer Million britischen Pfund zu „verschieben“. „Mit Hilfe von KI-Tools haben wir falsche Schlagzeilen generiert, deren Narrative auf vorhandene Ängste und Biases einzahlen sollten. Die wesentliche Message war dabei: ‚Die Kundengelder sind nicht sicher‘“, erklären die Studienautoren. Dabei nutzten die Experten nach eigener Aussage vor allem den Kurznachrichtendienst X, um massenhaft entsprechende Posts und Memes zu verbreiten. „Angesichts dessen, wie schnell, einfach und kostengünstig sich effektive Desinformationskamapagnen aufsetzen lassen, muss der Finanzsektor vorbereitet sein“, warnen die Experten. Leider fehlten in Banken jedoch oft entsprechende Spezialisten: „Trust Mapping für Kunden, Rogue-Actor-Mapping oder War Gaming sind Dinge, mit denen sich Finanzinstitutionen eher reaktiv als proaktiv beschäftigen.“ Es sei missionskritisch für Finanzinstitute, sich mit den Risiken auseinanderzusetzen, die solche KI-basierten Kampagnen aufwerfen: „Banken, die sich auf Cyberbedrohungen fokussieren und dabei die Risiken von Desinformationskampagnen vernachlässigen, schaffen eine kritische Sicherheitslücke“, konstatieren die Studienautoren. Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre In