披露：此处表达的观点和观点仅属于作者，不代表crypto.news社论的观点和观点。
人工智能正在加剧金融犯罪，金融业的防御能力正在落后。犯罪分子现在使用人工智能来创建令人信服的深度造假、精心设计的网络钓鱼攻击并大规模伪造合成身份。这些策略的进展速度比传统合规系统能够跟踪的更快，暴露了当前方法中的致命缺陷。
尽管这种威胁规模巨大，但许多组织都急于部署自己的人工智能系统，而没有确保这些工具是可解释的、透明的，甚至是完全理解的。除非可解释性成为用于财务合规的任何人工智能系统的基线要求，否则我们有可能用另一种形式的不透明来取代一种形式的不透明，这将无法与公众或监管机构建立信任。
军备竞赛已经开始
人工智能被用来使旧的犯罪更快，更便宜，并促进新类型犯罪的实施。考虑一下最近合成身份欺诈的激增。网络犯罪分子使用人工智能将真实和虚假数据缝合成真实的、捏造的身份。这些个人资料可以开设帐户、获得信用并绕过验证系统，同时与真正的用户几乎没有区别。
Deepfake技术为武器库增添了另一件武器。现在，只需最少的努力就可以产生令人信服的首席执行官、监管者甚至家庭成员的模仿。这些视频和音频片段被用来发起欺诈性交易、误导员工并引发内部数据泄露。
甚至网络钓鱼也发生了变化。人工智能驱动的自然语言工具可以根据每个目标的公共数据、在线行为和社交背景，制作针对每个目标量身定制的超个性化、语法正确的消息。这些不是过去拼写错误的垃圾邮件。它们是定制攻击，旨在赢得信任和获取价值。在加密货币领域，网络钓鱼正在蓬勃发展，人工智能正在加速这一趋势。
合规工具陷入了前人工智能时代
挑战不仅仅在于这些威胁的速度或规模;还在于攻击者的创新和防御者的惰性之间的不匹配。传统的基于规则的合规系统是被动且脆弱的。它们依赖于预定义的触发器和静态模式识别。
机器学习和预测分析提供了更具适应性的解决方案，但其中许多工具是不透明的。他们在不清楚如何得出结论的情况下产生了产出。“黑匣子”问题不仅仅是技术限制。这是一个令人头疼的合规问题。
没有可解释性，就没有问责制。如果金融机构无法解释其人工智能系统如何标记交易（或未能标记交易），那么它就无法向监管机构、客户或法院捍卫其决定。更糟糕的是，它可能无法检测到系统本身何时做出有偏见或不一致的决策。
可解释性是安全要求
一些人认为，要求人工智能系统具有可解释性将减缓创新。那是短视的。可解释性并不是奢侈品;这是信任和合法性的要求。如果没有它，合规团队就会盲目飞行。他们可能会检测到异常情况，但他们不知道原因。他们可能会批准模型，但无法对其进行审计。
金融部门必须停止将可解释性视为技术奖励。这应该是部署的一个条件，尤其是对于涉及KWC/ML、欺诈检测和交易监控的工具。这不仅仅是最佳实践。这是必不可少的基础设施。
在加密货币这样快速发展的空间，信任已经脆弱且审查严格，这变得更加紧迫。人工智能在安全和合规方面的使用不仅必须有效，而且必须明显公平、可审计和可理解。
协调一致的回应是不容谈判的
金融犯罪不再是孤立事件。仅2024年，非法交易额就达到510亿美元，这一数字可能低估了人工智能增强攻击的作用。没有任何公司、监管机构或技术提供商能够单独应对这一威胁。
协调一致的应对措施必须包括：
- 强制要求用于高风险合规职能的任何人工智能系统具有可解释性。
- 使共享的威胁情报能够在公司之间揭示新的攻击模式。
- 培训合规专业人员询问和评估人工智能输出。
- 要求对欺诈检测和KKC中使用的ML系统进行外部审计。
速度永远很重要。但没有透明度的速度是一种负担，而不是一种功能。
人工智能并不中立，滥用也不是
对话必须转变。仅仅询问人工智能是否合规“工作”是不够的。我们必须问一下它是否值得信任。可以审问吗？审核过？明白了吗？
不回答这些问题将使整个金融体系面临风险。不仅仅是犯罪分子，还有我们用来阻止他们的工具。
如果我们不把透明度建立在我们的防御中，那么我们就不是在捍卫这个系统。我们正在自动化它的失败。
罗伯特·麦克唐纳是Bybit的首席法律与合规官，Bybit是全球交易量第二大加密货币交易所。罗伯特在公共部门、传统金融和加密货币行业拥有近二十年的经验，是监管合规、法律治理和打击金融犯罪方面经验丰富的专家。罗伯特在伦敦开始了他的职业生涯，专门研究金融犯罪，后来在英国任职司法部。他的旅程跨越了各大洲，在世界上一些最著名的金融机构担任领导职务，包括全球资产管理巨头、韩国领先的电子商务平台和主要加密货币交易所币安。罗伯特在Bybit任职期间，负责监管由法律顾问和合规专业人士组成的全球团队，负责应对不断变化的监管格局。他的团队致力于解决许可、遵守司法管辖要求、反洗钱（ML）、了解客户（KKC）协议以及负责任的客户入职问题。确保Bybit在其全球业务范围内诚信和合规地运营。
