Construire le moteur aux côtés des freins : les remarques du contrôleur par intérim Hsu traitent de l’impact de l’intelligence artificielle et de la tokenisation dans le secteur bancaire

Le 16 juin 2023, Michael J. Hsu, contrôleur par intérim de la monnaie, a prononcé une allocution à la conférence sur le risque et la conformité de l’American Bankers Association à San Antonio, au Texas. Dans ses remarques, Hsu a discuté à la fois des avantages et des risques de l’intelligence artificielle (« IA ») et de la tokenisation. Le cœur des remarques de Hsu est que, compte tenu de l’innovation rapide de l’IA et de la tokenisation dans le secteur bancaire, les banques devraient travailler en étroite collaboration avec les régulateurs pour gérer les risques technologiques.

Les remarques de Hsu sont venues au bon moment. Cinq jours plus tard, et comme nous le verrons ci-dessous, Google Cloud a annoncé le lancement d’un programme d’IA anti-blanchiment d’argent. Les premiers résultats semblent prometteurs, mais seul le temps nous dira si les remarques de Hsu concernant les risques de l’IA s’avèrent prophétiques.

Intelligence artificielle

Hsu reconnaît que les banques ont généralement abordé l’apprentissage automatique et l’adoption de l’IA avec prudence. Bien qu’il note que le marché a fortement pris en compte la croissance rapide de l’IA, sa propre observation est que « les récents articles de presse sur l’adoption de l’IA générative par les banques ont été davantage basés sur des inférences spéculatives et, peut-être, attirant des clics que sur la réalité ».

Pour le secteur bancaire en particulier, Hsu estime que les risques et les avantages de l’adoption généralisée de l’IA sont importants. Pour les risques, Hsu note que l’alignement est un défi majeur. Il explique que parce que l’IA nécessite une formation (contrairement à d’autres logiciels), elle peut ou non faire ce que les banques veulent ou se comporter conformément aux valeurs d’une institution financière. Selon Hsu, ce problème d’alignement pourrait créer des problèmes de gouvernance et de responsabilisation. Comme le dit Hsu, plus un système d’IA apprend, plus il s’éloigne de sa programmation initiale. Cet écart crée des « opportunités de déni plausible » si ou quand les choses tournent mal. Hsu note également la question de savoir qui devrait être tenu responsable – la banque ou son fournisseur tiers d’IA – lorsque les choses tournent mal.

Hsu met également en garde contre les défis uniques en matière de discrimination et de préjugés, en plus des problèmes d’alignement. Hsu note que, même si un système d’IA pouvait atteindre un daltonisme complet lors de la prise de décision au niveau individuel, il y aurait toujours des résultats injustes au niveau du groupe si les lignes de base d’un groupe à l’autre diffèrent.

De plus, Hsu avertit que les banques et les régulateurs devraient s’attaquer à la capacité de l’IA générative à propager la désinformation et à permettre la fraude. Selon Hsu, étant donné que la fraude a généralement augmenté sous toutes ses formes, la capacité de l’IA à imiter les communications humaines et le faible coût de la mise à l’échelle des agents d’IA, les opportunités de fraude augmenteront considérablement. Comme le note Hsu : « La rapidité et la sophistication de ces développements justifient une surveillance et une coordination étroites. »

De même, Hsu s’inquiète du potentiel de l’IA (et des médias sociaux en général) pour faciliter la propagation de la mauvaise communication. Hsu a relayé un exemple d’un faux compte Twitter Bloomberg publiant une fausse photo de fumée noire près du Pentagone, qui a vérifié les comptes Twitter partagés plus tard. Cela a déclenché une vente à découvert sur les marchés boursiers. Selon Hsu, «[b]Les banques et les régulateurs devront mettre à jour les manuels de jeu et renforcer les défenses contre de telles actions dans un proche avenir.

Bien que Hsu reconnaisse que l’IA présente des avantages potentiels, le ton général de ses remarques semble être celui de l’inquiétude et du scepticisme. Il exhorte à un rythme prudent, et ses remarques emploient le mot «freins» à cinq reprises.

En ce qui concerne les programmes de conformité AML, et comme nous l’avons blogué (par exemple, ici et ici), le Financial Crimes Enforcement Network et d’autres régulateurs parlent d’encourager « l’innovation technologique » depuis des années. Mais comme nous l’avons observé, pour que ces déclarations ambitieuses aient un sens dans le monde réel, il incombe aux régulateurs – et, peut-être plus important encore, aux examinateurs de première ligne des institutions financières – de laisser aux institutions financières une marge d’erreur dans la mise en œuvre de tout nouvelles technologies.

Certaines institutions financières peuvent être réticentes à poursuivre l’innovation technologique dans la mise en œuvre quotidienne de leurs programmes de conformité AML parce qu’elles craignent que les examinateurs ne répondent négativement ou ne rendent des conclusions défavorables contre l’institution financière si la nouvelle technologie crée des problèmes imprévus. De même, certaines institutions financières peuvent craindre que les nouvelles technologies ne révèlent des manquements historiques involontaires à la conformité qui, autrement, n’auraient pas été découverts, et qui hanteront ensuite l’institution financière en l’absence d’une sorte de règle refuge. Pour que l’innovation réussisse et soit utilisée à un degré significatif, les attentes et les demandes sur le terrain des régulateurs doivent être tempérées. Il n’est pas clair si les remarques de Hsu encourageront les institutions financières à prendre des mesures technologiques créatives pour essayer d’améliorer la conformité AML.

L’IA AML en action

Néanmoins, les remarques de Hsu sont certainement opportunes. Le 21 juin 2023, cinq jours seulement après ses remarques, Google Cloud a annoncé le lancement de Anti Money Laundering AI (« AML AI »), un produit alimenté par l’IA conçu pour aider les institutions financières à détecter plus efficacement le blanchiment d’argent et le financement du terrorisme. AML AI propose un score de risque client consolidé généré par l’apprentissage automatique comme alternative à la surveillance des transactions basée sur des règles. Le score de risque du client s’appuie sur les propres données de la banque, telles que les schémas transactionnels, le comportement du réseau et les données Know Your Customer (« KYC ») afin de trouver des instances et des groupes de clients présentant des risques élevés.

Selon Google au moins, AML AI peut surpasser les systèmes actuels de surveillance des transactions pour identifier les activités suspectes. HSBC Bank, un client de Google Cloud, a signalé qu’elle expérimente désormais deux à quatre fois plus de « vrais positifs » dans les alertes générées par son système de surveillance des transactions, ce qui améliore sa capacité à identifier les activités illicites. À l’inverse, HBSC a constaté que les volumes d’alertes de surveillance des transactions avaient diminué de plus de 60 %. Le communiqué de presse de Google cite comme suit le responsable du groupe Financial Crime Risk and Compliance de HSBC : « En améliorant notre cadre de surveillance des clients avec le produit sophistiqué basé sur l’IA de Google Cloud, nous avons pu améliorer la précision de notre détection de la criminalité financière et réduire les volumes d’alertes, ce qui signifie moins de temps d’enquête est consacré à la recherche de fausses pistes. Nous avons également réduit le temps de traitement nécessaire pour analyser des milliards de transactions sur des millions de comptes de plusieurs semaines à quelques jours.

Tokénisation

Hsu explique que l’industrie de la cryptographie, malgré des années sous les projecteurs, reste immature et pleine de risques. Selon Hsu, en 2022, les pertes dues à la fraude ont dépassé 1 milliard de dollars, les pertes dues aux escroqueries ont dépassé 2,5 milliards de dollars et les pertes dues aux piratages ont dépassé 3,8 milliards de dollars. En raison de ces risques, l’OCC, la Réserve fédérale et la FDIC ont publié deux déclarations interinstitutions rappelant aux banques les attentes en matière de gestion des risques concernant les expositions et les activités cryptographiques (ici et ici).

Il convient de noter que Hsu est un crypto-sceptique autoproclamé. Hsu estime que les blockchains publiques souffrent toutes d’un défaut de conception de «  » manque de confiance «  ». Comme l’explique Hsu, l’objectif d’avoir une blockchain sans confiance nécessitera un mécanisme de consensus décentralisé, comme une preuve d’enjeu ou une preuve de travail. Mais, selon Hsu, ces mécanismes sont inefficaces et peuvent créer des problèmes entre la décentralisation, la sécurité et l’échelle, qui ne sont pas réalisables avec une blockchain publique.

Bien que Hsu se méfie de la technologie blockchain en général, il note que la technologie blockchain pourrait considérablement améliorer l’efficacité du règlement (qui se produit lorsqu’une transaction est considérée comme définitive) grâce à la tokenisation des actifs et passifs du monde réel sur des blockchains de confiance. Comme le dit Hsu, il y a généralement un décalage entre le moment où les conditions d’une transaction (comme la quantité et le prix) sont convenues et le moment où les composants de la transaction sont exécutés et le moment où les obligations sont entièrement acquittées. Cela est généralement dû à l’interdépendance entre les nombreuses entités et les étapes nécessaires au rapprochement et à la vérification.

Mais, selon Hsu, la tokenisation des passifs et des actifs du monde réel pourrait considérablement améliorer l’efficacité du règlement en minimisant ces retards (et donc en réduisant les frictions, les risques et les coûts associés). Hsu fournit un exemple : si une personne souhaite vendre des actions avec la technologie actuelle, cette personne doit envoyer une instruction à un courtier, puis plusieurs autres étapes doivent se produire dans plusieurs entités avant que cette transaction ne soit considérée comme « finale » ou « réglée ». .” A chaque pas vient un risque. Mais, Hsu pense que la tokenisation pourrait réduire toutes ces étapes en une seule étape. Cela éliminerait ces risques distincts, à condition que la technologie soit « interopérable avec la monnaie de la banque centrale et les systèmes de règlement du monde réel ».

En général, Hsu estime que, dans la mesure où l’efficacité des règlements peut apporter une valeur réelle aux institutions financières, la demande de tokenisation des actifs et des passifs du monde réel augmentera. À ce jour, selon Hsu, les chaînes de blocs de confiance sont mieux placées que les chaînes de blocs publiques pour gérer cette croissance à grande échelle. Mais, Hsu prévient que les fondements juridiques de la tokenisation doivent être développés. Ce développement juridique éclairera les contrôles et les capacités de gestion des risques nécessaires pour soutenir toute innovation nécessaire.

Une approche proposée pour l’innovation

Dans ce contexte, Hsu propose aux banques et aux régulateurs d’aborder prudemment l’innovation rapide comme l’IA et la tokenisation. Pour ce faire, Hsu garde trois principes à l’esprit : (1) innover par étapes, (2) construire les freins tout en construisant le moteur et (3) engager les régulateurs tôt et souvent.

Pour innover par étapes, les banques et les régulateurs doivent être disciplinés selon Hsu. Il exhorte les banques à commencer par ce qui peut être contrôlé, à ne se développer que lorsqu’elles sont prêtes, à surveiller attentivement, à ajuster et à répéter le processus. Hsu est convaincu que les banques disposant de processus d’approbation de nouveaux produits solides connaissent cette approche, car elle commence par une diligence raisonnable et des approbations adéquates avant de démarrer une nouvelle activité.

Selon Hsu, pour construire les freins tout en construisant le moteur, les professionnels de la conformité/des risques doivent être à la tête de l’innovation et faire entendre leur voix très tôt. Hsu note que, généralement, un nouveau produit est développé sans aucun risque. Le produit se lance et devient populaire, la banque devient leader, puis les problèmes commencent. Lorsque les problèmes commencent, selon Hsu, les coûts financiers, juridiques et de réputation s’accumulent, et les professionnels du risque, de la conformité et des opérations interviennent pour «nettoyer le gâchis». Pour éviter ce trope, Hsu exhorte les banques à donner aux professionnels du risque et de la conformité un « siège à la table de l’innovation dès le départ ».

S’engager avec des régulateurs, comme le note Hsu, est la meilleure façon de construire les freins à côté du moteur. Mais, Hsu reconnaît que les régulateurs doivent être réactifs, agiles et bien informés. À cette fin, Hsu explique que son bureau a élargi et amélioré son bureau de l’innovation en bureau de la technologie financière et a embauché un directeur de la technologie financière.