/

拿AI“当枪使”,后果很严重

2025-03-16 10:46:02

3月10日以来,一则“有顶流明星在澳门输了10亿”的信息在互联网平台传播,引发网民热议和各种猜测,相关话题频繁登上社交媒体热搜热榜。公安网安部门查明,系网民徐某强为博取流量、谋取非法利益,使用AI捏造谣言,公安机关根据相关法律法规,对徐某强处以行政拘留8日处罚。(3月14日公安部网安局微信公众号)

人工智能(AI)技术发展迅猛,已扩展至各行各业、各个领域,越来越多的人开始接触、认识、使用AI,与此同时,“AI焦虑”也在互联网上蔓延,“AI幻觉”引发社会关切,与AI开发、应用相关的安全、伦理问题同样是各方聚焦的热点,徐某强使用AI捏造谣言受处罚,不啻是提供了一个颇具镜鉴价值的警示案例。

曾几何时,“造谣一张嘴,辟谣跑断腿。”徐某强使用软件“某书”中AI智慧生成功能,输入社会热点词制作标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息,通过互联网平台对外发布,造成谣言迅速传播扩散频繁登上热搜热榜。用AI造谣轻松搞定,既省了“口舌”之劳,还格外“逼真”、“生动”,委实让人见识了AI的“能耐”之大。然而,借助AI造谣虽省心省力,行为成本大大降低,但恶劣影响不容小觑,辟谣成本同样不小,造谣的违法性质更未改变,因此责任成本依旧很沉重,更遑论规避责任、逃避追究。

无独有偶,另据媒体报道,湖北省大冶市人民法院近日审理首例利用人工智能(AI)技术撰写色情小说并牟利案件,被告人柯某因犯制作、贩卖、传播淫秽物品牟利罪被判处有期徒刑十个月,并处罚金人民币五千元、退缴违法所得。承办法官指出,技术应用必须遵守法律法规和公序良俗,利用AI生成、贩卖传播淫秽内容不仅触犯法律,还会对青少年身心健康造成危害,社会危害性较大。短短五个月时间,柯某以牟利为目的,利用AI程序撰写、发布色情小说数十篇,计获利2万余元,最终被绳之以法纯属咎由自取。

互联网不是法外之地,任何新技术的开发应用都必须恪守道德、伦理和法律边界,坚守向上向善底线,更好赋能发展、服务社会、便利生活、造福民众。徐某强和柯某的违法行径可以说大同小异,从事违规违法行为,虽可“信手拈来”“得心应手”,但后果很严重,担责者不能也不可能是AI,而只能是行为人自己。近日,国家网信办、工信部、公安部、广播电视总局联合发布《人工智能生成合成内容标识办法》,剑指生成合成技术滥用、虚假信息传播扩散加剧等乱象,净化、优化AI生态。拿AI工具“当枪使”此路不通,恶意利用AI进行造谣、诈骗等犯规、越界乃至违法行为都要付出相应代价。(高谭)


0