大量加沙“深伪”影像热传 专家忧AI被滥用

在以哈冲突中，有一些特别引人注目、沾满鲜血的弃婴照片，事实上是人工智能（AI）制作的深伪（Deepfakes）图像。战争开始以来，这些图片在网上已被浏览了数百万次。

如果仔细观察，可发现一些蛛丝马迹：照片里的手指奇怪地弯曲，或者人物的眼睛闪烁着不自然的光芒。然而，这些图片所引发的愤怒却是真实的。

以哈战争中的图片，生动且残酷地展示了AI作为宣传工具的潜力，它可创造出栩栩如生的大屠杀图像，用来欺骗民众，让他们相信从未发生过的暴行。

随着技术不断进步，且缺乏监管。专家们担心，未来的冲突、选举和其它重大事件中，AI可能更频繁的被滥用。

CREOpoint是一家总部位于旧金山和巴黎的科技公司，该公司创建了一个资料库，收录了网上热传的加沙地区深伪图像与影音。

CREOpoint的首席执行官戈登斯坦（Jean-Claude Goldenstein）说：“在好转之前，情况会变得更糟，非常糟。”

“图片、视讯和音讯：有了生成式AI，这将是前所未有的升级。”戈登斯坦说。

有时候，来自其他冲突或灾难的照片，会被AI重新利用，制作成新照片。有时候，生成式AI可以无中生有，从头创建一张图像。例如，在冲突初期，一个婴儿在轰炸残骸中哭泣的图像在网络上疯传，然而那其实是AI伪造的。

AI生成的图像，还包括一些视频，显示所谓的以色列导弹袭击，或坦克轧过被毁坏的街区，或家人在废墟中寻找幸存者等。