(资料图片)

评论员 陈思

AI猛踩油门一路“狂飙”，如果没有可靠的刹车系统，“翻车”是迟早的事。

最近，有博主发视频称，缅甸一条大型游轮上有8间器官移植手术室，活人被现场摘器官，是一条完整的器官贩卖链条上的最后一个环节。视频一经发出，瞬间引起网络热议。随后微博社区观察员官方账号证实，系该用户未经核实，通过传播站外不实信息的方式博取眼球，违反社区公约。

煞有介事的材料，画质清晰的视频，耸人听闻的文案，这条利用AI创作出的谣言，内容上达到了真假难辨的地步。再加上近段时间，网友们对缅北等地的犯罪行为深恶痛绝，所以视频瞬间拿捏住了公众的情绪。

其实这已不是AI制造的第一起假新闻：广州女子地铁被“一键脱衣”；有人用chatgpt写了一条标题为“杭州市政府将取消机动车尾号限行政策”的假新闻……虽然目前曝光的几起案例大都是无聊人士的恶作剧，但谁又能保证，AI在不法分子手中，会不会成为影响社会安定甚至危害国家安全的“凶器”？

给正在一路“狂飙”的AI装上“刹车”系统，非常有必要。

有人提议，可以规定AI生成的内容作品要做好水印标注，以方便辨别真假和溯源。这确实能解决很大一部分问题。但AI技术迭代所带来的挑战，必然是层层“递进”的。哪些内容应该划定为AI创作的“禁区”？深度伪装该如何识别？平台和主管部门该如何划定监管责任？只有回答好这些问题，才有可能“接得住”强大人工智能系统带来的挑战。

AI的“狂飙”是时代必然，也是社会所需。不必盲目崇拜也无需恐惧忧虑。只要我们有完备的规章制度与技术手段，AI这个工具就只是造福的利器，而不是伤人的凶器。