分析：AI引发三大担忧 威胁到底多大

AI的飞速发展在给人类生活带来便利的同时，也引发巨大担忧。目前人类对AI的担忧集中在三方面：一是AI“深伪”技术制造的各种骗局是否会给人类社会带来难以收拾的混乱局面？二是AI在工业领域的应用是否会造成大量失业，引发社会动荡？三是超级智能是否会毁灭人类？

在OpenAI推出ChatGPT 4.0版本十多天后，2023年3月29日，马斯克等上千名科技领袖和研究人员签署一封公开信，敦促全球所有人工智能实验室暂停最先进系统的开发。信中列举的AI可能给人类带来的一系列风险主要集中在以上三个方面。

AI在以上三大领域对人类威胁到底有多大？人类有能力应对这些威胁吗？

利用生成式AI制作假视频进行诈骗的技术被称为“深伪”（Deepfake）。“深伪”技术通过少量影像和声音数据即可合成高度逼真的虚假视频或音频，其仿真程度足以欺骗亲友和同事，这为诈骗提供极大便利。

2024年，香港Arup工程公司某职员接到自称英国总部首席财务官的视频会议邀请，声称要进行一次机密交易。会议中，多名“财务人员”的面貌和声音与现实高度一致，实则是AI“多人变脸”技术所为。

该职员未起疑心，15次转账共2亿港元至5个本地账户，后查询总部才发现受骗。这是香港史上损失最惨重的AI“变脸”诈骗案。

除了财务诈骗以外，在传播假资讯宣传方面，“深伪”也是罪魁祸首。2023年12月，超百部模仿英国时任首相苏纳克（Rishi Sunak）的“深伪”视频在Facebook上付费推广。其中一部伪造BBC主播萨拉‧坎贝尔（Sarah Campbell）播报假新闻，称苏纳克从某公共项目中私吞巨资。

“深伪”的危害不仅限于个体诈骗，其与数据泄露结合后，威力将成倍放大。个人隐私一旦落入不法分子手中，AI便可利用这些数据量身定制诈骗方案。

当“深伪”与数据泄露结合，像广告推送般精准打击每一个人，社会可能面临信任崩塌、监管无力等危机，现有的预防措施恐怕再也难应对这种规模化、个性化的威胁。