敢为天下先！英国将禁止生成及利用人工智能工具制作儿童色情影像

英国政府星期六（2月1日）宣布，英国将出台法律禁止创建、分发、拥有及利用人工智能AI工具生成儿童色情和性虐待图像。此举使英国成为世界上运用法律打击新的利用人工智能工具生成和制作儿童色情和性虐待影像犯罪的第一个国家。

法新社援引英国内政大臣伊薇特·库帕（Yvette Cooper）的话说，政府将把拥有、创建或分发旨在生成儿童性图像的人工智能工具定为非法，最高可判处五年监禁。

拥有人工智能“恋童手册”也是非法的，这些手册指导人们如何使用人工智能对儿童进行性虐待，最高可判处三年监禁。

路透社在报道中表示，处理、拍摄、制作、展示和传播露骨儿童影像在英格兰和威尔士本来就是犯罪。而新的法律所禁止的则是利用人工智能工具让真实的儿童影像“裸体化”。

随着人工智能技术和工具的进步和普及化，网络上的犯罪分子越来越多地使用人工智能工具生成制作儿童色情和性虐待影像。路透社援引英国互联网观察基金会（IWF）的数据报道说，此类色情影像仅在2024年一年之中就翻了将近五番。

法新社援引该基金会的统计说，去年在一个30天的时段内，一个单一地下网站上就出现了3512帧/段的儿童色情和性虐待影像。

“我们知道网上病态掠夺者的活动会导致他们进行对人最恐怖的虐待，”英国内政大臣库帕说。“至关重要的是我们对待网上儿童性虐待要像对待线下同类犯罪一样，这样我们才能保护公众免遭新的及刚出现犯罪行为的伤害。”

英国政府指出，犯罪分子也会运用人工智能工具伪装他们自己的真实身份，以直播虚假影像等方式恐吓勒索儿童，逼迫他们经受更严重的性虐待。

路透社说，另一个遭到打击的犯罪行为是设立和经营用于传播儿童色情和性虐待内容的网站。政府还将为打开和检查数字器具提供授权。

英国政府本月稍早曾表示，它还将把通过人工智能工具制作和分享露骨性行为的“深伪”（deepfake）视频、照片和录音片段的行为列为刑事犯罪。