10月18日,随着生成式人工智能技术的突飞猛进,深度伪造技术已发展到相当成熟的阶段。近期,许多青少年开始利用这项技术制作虚假内容,用以捉弄家人和朋友。其中一种流行做法是,通过AI生成自己邀请流浪人员进入家中的合成照片,并将其发送给父母,导致对方惊慌失措,甚至引发报警事件。
这一趋势表明,生成式AI已深度融入日常生活,同时也标志着人们正步入一个图像与事实难以分辨的时代——即便是亲友发来的影像信息,也可能经过精心伪造。
社交平台上,大量年轻人分享使用AI制造恐慌的过程,展示如何让父母或朋友陷入焦虑。随着此类行为不断扩散,美国多地执法机构相继发出警示。马萨诸塞州塞勒姆警方批评此类行为"既愚蠢又危险",指出这不仅将无家可归者物化,还造成接收者心理恐慌,同时消耗了本就紧张的警力资源。
华盛顿州奥克港警方也表示,所谓的"AI流浪者"恶作剧已构成安全威胁。曾有合成图像被误认为真实事件,导致学校传出"流浪人员闯入校园"的误报。警方强调,AI生成的内容极具迷惑性,虚假信息传播迅速,极易引发社会混乱,干扰正常公共秩序。
部分执法部门明确指出,此类行为已不再属于简单的玩笑范畴。俄亥俄州布朗县警长办公室在公开声明中表示:"这不是娱乐,而是违法行为。"当地已有两名未成年人因参与此类恶作剧被依法起诉。
类似现象同样出现在其他国家。英国已有青少年使用AI伪造家庭场景欺骗亲属,执法机关呼吁公众在面对可疑情况时,应先核实信息真实性,再决定是否报警。
得克萨斯州朗德罗克警方指挥官安迪·麦金尼提醒,尽管这些行为常被视为无害娱乐,但可能带来严重后果。年轻人往往忽视其潜在影响,而每一次虚假警报都可能延误真正紧急事件的处置,并持续消耗公共资源。
