出海网11月10日消息,人工智能技术的进步正被网络犯罪分子用于实施新型电商诈骗,TikTok全球商店治理与体验负责人尼古拉斯·瓦尔德曼揭露,不法分子利用AI生成工具创建虚假品牌和假冒产品,诱骗用户购买不存在的商品后卷款潜逃,其行为已构成有组织犯罪。虽然此类欺诈已存在多年,但生成式AI大幅提高了欺骗平台审核的复杂性。为应对这一挑战,电商平台正采用“以AI对抗AI”的策略,TikTok结合人工审核与AI工具检测虚假账户和广告,并借助外部公司进行奢侈品真伪鉴定;亚马逊则于去年三月推出AI工具追踪假冒产品和侵权信息,共同提升平台治理能力。