Mögliche Auswirkungen von KI auf das Bankwesen:Ein tiefer Einblick in das neue Modell von Anthropic

Der legendäre amerikanische Bankräuber Willie Sutton verbrachte 40 Jahre damit, Banken auszurauben, weil er es, wie er in seiner Autobiografie behauptete, liebte. Und auf die Frage, warum er ausgerechnet Banken zum Raub ausgewählt habe, antwortete er angeblich:„Weil dort das Geld ist.“

Im Jahr 2017 schrieb ich ein Buch, in dem ich vorhersagte, dass nicht nur liebenswerte Schurken wie Sutton bald Banken ausrauben würden, sondern auch künstliche Intelligenz (KI).

Dieser Tag, so scheint es, könnte nun bald kommen. Banken auf der ganzen Welt sind ernsthaft besorgt, dass Cyberkriminelle bald die neuesten Fortschritte in der KI ausnutzen werden, um zu versuchen, sie auszurauben.

Die digitale Hintertür zum Tresor

Die Sorge der Finanzwelt beruht auf den beeindruckenden Cyberfähigkeiten eines Produkts namens „Mythos“. Dies ist das neueste und leistungsfähigste KI-Modell von Anthropic, dem Unternehmen hinter dem beliebten Claude-Chatbot.

Als Mitglied der Öffentlichkeit können Sie vorerst nicht auf dieses Modell zugreifen oder es nutzen. Das liegt daran, dass Anthropic (und viele andere) glauben, dass Mythos zu fähig ist, um sich auf eine ahnungslose Welt einzulassen.

Interne Tests von Mythos haben Tausende schwerwiegender Sicherheitslücken in allen wichtigen Betriebssystemen und Webbrowsern aufgedeckt.

Einige dieser Schwachstellen blieben jahrzehntelang unentdeckt. Bei vielen handelt es sich um Schwachstellen, die Technik-Insider als „Zero-Day“-Schwachstellen bezeichnen – Angriffe, die so gefährlich sind, dass Entwickler sie innerhalb von null Tagen beheben müssen.

Dario Amodei, Geschäftsführer von Anthropic, sagt, sein neues Modell sei zu leistungsstark, um es zum jetzigen Zeitpunkt der Öffentlichkeit zugänglich zu machen. Markus Schreiber/AP

Nicht für die öffentliche Nutzung

Um dieser aufkommenden Bedrohung entgegenzuwirken, hat Anthropic das Modell einem Dutzend Partnern einer Verteidigungskoalition zur Verfügung gestellt, zu der Microsoft, Amazon Web Services, Apple, Cisco und die Linux Foundation gehören.

Das Unternehmen hat außerdem 100 Millionen US-Dollar (ca. 140 Millionen A$) an Nutzungsgutschriften und 4 Millionen US-Dollar (ca. 5,6 Millionen A$) an Open-Source-Zuschüssen bereitgestellt, um mit der Suche und Behebung dieser Fehler zu beginnen.

Darüber hinaus haben auch mehr als 40 weitere Organisationen – darunter mehrere US-Banken – Zugang erhalten. Besorgniserregend ist jedoch, dass Anthropic unseres Wissens noch keinen Banken in Australien, dem Vereinigten Königreich oder Europa Zugang gewährt hat.

Um die Bedenken noch zu verstärken, bestätigte Anthropic am Mittwoch, dass es Behauptungen in einem Bloomberg-Bericht untersucht, wonach eine kleine Gruppe nicht autorisierter Benutzer Zugriff auf Mythos erhalten habe. Zum jetzigen Zeitpunkt gibt es jedoch keinen Hinweis darauf, dass dieser mutmaßliche Zugriff böswilligen Zwecken diente.

Weiterlesen:Claude Mythos und Project Glasswing:Warum ein KI-Superhacker die Tech-Welt in Alarmbereitschaft versetzt

Müssen Sie sich Sorgen machen?

Letzte Woche trafen sich Regulierungsbehörden und politische Entscheidungsträger aus der ganzen Welt zur Frühjahrstagung des Internationalen Währungsfonds in Washington. Der Iran-Krieg stand im Mittelpunkt. Die Teilnehmer äußerten jedoch auch eine Reihe von Warnungen vor dieser aufkommenden Cybersicherheitsbedrohung für die Bankenbranche.

Banken sind nicht nur ein attraktives Ziel, da dort das Geld ist, sondern die Branche läuft auch auf vielen Legacy-Systemen und jahrzehntealten Technologien, die möglicherweise besonders anfällig für diese Art von Angriffen sind.

Sie persönlich brauchen sich keine allzu großen Sorgen zu machen. In vielen Ländern gibt es strenge Schutzmaßnahmen für Bankkunden. In Australien beispielsweise sind die ersten 250.000 A$ der Einlagen eines Kunden durch das staatlich unterstützte Financial Claims Scheme versichert.

Und die Australian Securities and Investments Commission stellt sicher, dass Banken betrügerische Transaktionen untersuchen und erstatten, wenn der Kunde kein Verschulden trifft.

Daher ist es wahrscheinlich keine kluge Idee, Ihr Bargeld abzuheben und es unter die Matratze zu legen. Aber die Banken sollten (und tun) sich beeilen, diese Schwachstellen zu schließen.

Ich würde Ihnen empfehlen, Ihren Computer und Ihr Smartphone regelmäßig auf das neueste Betriebssystem und die neuesten Banking-Apps zu aktualisieren. In naher Zukunft wird es wahrscheinlich noch viele weitere Updates geben, da neue Schwachstellen aufgedeckt und behoben werden.

Und ich bin mir sicher, dass Sie es auch getan haben:Sie müssen stets auf der Hut sein vor Phishing-Angriffen per E-Mail und SMS, die versuchen, an Ihre Bankdaten zu gelangen.

Der Vorsitzende der US-Notenbank, Jerome Powell, war unter den Teilnehmern der Frühjahrstagung des Internationalen Währungsfonds in Washington. Shawn Thew/EPA

Die sich entwickelnde Bedrohungslandschaft

Längerfristig stellt Mythos die Herausforderung dar, dass Verteidigung viel schwieriger ist als Angriff. Software ist eines der komplexesten Produkte, die die Menschheit herstellt. Es ist daher nahezu unmöglich, sicherzustellen, dass es fehlerfrei ist.

Das versetzt uns in einen endlosen Wettlauf mit den „Bösen“, um Fehler aufzudecken und zu beheben, bevor sie ausgenutzt werden.

Beispielsweise hat die Europäische Union gerade mit großem Getöse ihre Altersverifizierungs-App veröffentlicht, die einen Eckpfeiler der neuen Gesetze zum Zugang zu sozialen Medien, Pornografie und anderen altersbeschränkten Inhalten bilden soll. Allerdings fanden Sicherheitsexperten innerhalb weniger Stunden Cyber-Schwachstellen, die minderjährige Benutzer leicht ausnutzen konnten.

In den kritischsten Situationen können wir versuchen, mathematisch zu beweisen, dass unsere Software fehlerfrei ist. Beispielsweise hat die Beneficial AI Foundation gerade ein ehrgeiziges „Moonshot“-Projekt angekündigt, um zu beweisen, dass die beliebte Messaging-App Signal fehlerfrei ist und die Privatsphäre wie behauptet schützt.

Doch solche Bemühungen sind heute eher die Ausnahme als die Norm. Vielleicht könnten weitere Fortschritte in der KI bald dazu beitragen, dies umzukehren.