青平:日产文章7000篇警惕AI批量制造的假新闻!如今,网上信息纷繁复杂,尽管很多信息能具体到时间、地点、人物、经过、结果,但却不一定是真的,很有可能是AI创作的产物。近日江西警方披露一起利用人工智能造谣的案件,让新闻专业人士都惊出了一身冷汗ayx爱游戏,其中涉案MCN公司就是通过AI软件生成内容进行文章创作,日产最高可达7000篇。庞大的数量充分展现出AI炮制文章的高效率,而其中一条“西安2024年1月10日发生爆炸导致建筑车辆炸毁、人员伤亡”的虚假消息新闻要素之完善,内容之详细让人不寒而栗。如果不是每个细节都去求证,光靠传统的时间、地点、人物实名等新闻要素来识别已经失效。新闻要素俱全的假新闻该怎么整治?
在智能化迅猛发展的当下,AI技术应用日渐广泛,在为大众的工作生活提供便捷高效服务的同时,也留下不少隐患。特别是随着AI创作工具的泛滥,失实文章的创作变得高效又低成本,几张图片或几个关键词,一条“新闻”马上就能炮制出炉,以假乱真。AI创作工具成为有心人为谋取利益造谣生事的温床,甚至衍生出不少黑灰色产业链。去年“4岁儿童海边走失”事件中,上海警方就侦查出一个借助AI技术,批量制造虚假文章,非法获利的“水军”团伙。
如今,利用AI生成的假新闻越来越泛滥,从娱乐新闻到社会新闻,造谣涉及面广,内容丰富详尽,蒙太奇式的剪裁手法使不实消息难辨真伪,极具迷惑性,严重影响了大众判断力。面对这些有鼻子有眼、新闻要素俱全的假新闻,别说普通大众,就连专业的新闻人士都难以识别。利用AI技术传播虚假信息不仅误导大众,还对城市形象、政务宣传造成影响,严重威胁社会秩序和环境。更可怕的是,AI识别用户喜好后,算精准推送类似假新闻,让用户形成信息茧房。此外,部分软件在进行文章创作时还会设计关键词筛选功能规避监管,进一步伪装其违法外表。AI造谣识别之难、辟谣之难,挑战前所未有,绝不能任其肆意发展。
AI造谣日渐猖獗,但其背后操控者仍然是人或者组织机构。相关部门在对涉案MCN公司和个人进行严厉处罚的同时,还要加大曝光度,给予整个行业警示,提高违法成本,让AI背后的操控者感到造假付出的代价得不偿失。同时修订和完善相关法律法规,推动各大社交平台和MCN机构建立健全行业审核机制,细化平台和机构责任。此外,从完善造谣综合治理体系入手,统筹协调公安、网信、司法等部门建立多部门联动的综合治理,统一谣言处置标准和流程,提高打击效率。AI造谣的智能化也需要治理智能化来对症下药,从技术层面入手,通过对生成内容进行显示或隐式标识,加强AI技术使用的透明性,做好安全提示也便于溯源追责。
AI技术本就是把双刃剑,无论是出台相关政策还是加强行业自律,最重要的是管好AI背后的操纵者。一定能让AI做到为人所用,对社会有益,而不是被别有用心的人利用。
Copyright © 2018-2025 爱游戏(ayx)中国官方网站 版权所有苏ICP备18039491号-1 Xml网站地图 HTML地图 txt地图