灾难发生时，每一秒都是一场生命之战，各种信息牵动着人们的心。但有些人把灾害当作“交通脚本”，利用人工智能工具伪造废墟、综合夸大灾害、编造虚假事件，真假难辨，浪费公共资源，过分损害社会信任。 近日，重庆市公安局依法查处一起网络用户利用人工智能技术编造、传播虚假灾害报道的事件。 揭穿利用人工智能捏造、传播灾难谣言 今年11月，重庆市铜梁区公安局网络安全支队民警在网上巡查时，发现辖区内多名网友发布了题为“铜梁遭重击”的视频。某互联网平台上发布了“水又涨了”、“多座城市被淹”等信息，引发网友热议。 经公安机关核实，该视频含有虚假信息，与现场实际情况明显不符。 涉嫌肇事者： 他：转发他们发布的有关洪水的视频，对其进行编辑，并将其发布到社交媒体上。 重庆市铜梁区公安局网安支队民警梁哲浩：犯罪嫌疑人在网上取证后，在社交网络上搜索与洪水、暴雨、台风等相关的视频，并利用情报软件人工一键生成视频。 AI软件自动捕捉不同地点、不同时间的灾难视频，并将其合成为新图像。事实上，当地并没有发生过相关灾难。盟友。 调查显示，他曾多次利用人工智能技术编造与灾难相关的内容并发布到网上，以提高其社交媒体账户的热度并获取流量。 今年9月，台风“花笠”登陆中国时，他发布虚假视频，声称重庆受台风影响，遭到警方批评和启发。 日前，重庆市铜梁区公安局依法对何先生作出行政处分，并开展法制宣传教育。他主动消除一切虚假信息。 利用人工智能捏造灾难情况，并对相关人员进行调查和处罚。 人工智能技术利用信息制造灾难情况的案例不胜枚举。事实上，近年来，人工智能技术科技越来越多地参与警方调查和回应的众多谣言事件。这种虚假信息在互联网上广泛传播，产生了负面影响。一些散布谣言的人已被追究法律责任。 山西省互联网应急指挥中心通报称，有网友发布视频称：“凌晨3点大同发生地震，人员被疏散。”经山西省地震局核实，大同市至近日凌晨3点未发生地震。网络谣言均为虚假信息。 今年6月，一段有关“山西宣宫寺部分建筑倒塌”的视频在网络疯传，引发公众关注和关注。当地警方随后调查发现，这是三名外国网民利用人工智能技术制作的虚假视频，其目的相同：g 流量和关注度。 当地警方依据相关法律法规，对其中两名严重违法行为人给予行政处分，并对另一人进行了批评教育。 利用人工智能编造虚假灾害情况违反中国多项法律法规 网民滥用人工智能工具编造虚假灾害信息、篡改安全等行为，违反了我国多项法律法规，成为近年来网信、公安等部门整治的重点。 中国人民大学纪检监察学院教授林洪超：日本应对这种紧急情况有一个基本法，就是《中华人民共和国突发事件应对法》。现行第九十七条规定，编造、传播有关紧急情况的虚假信息，或者故意散布有关紧急情况的虚假信息的，构成犯罪。情节严重的，给予处罚、责令改正、警告。如果公务员有这种行为，他也会受到惩罚。 专家介绍，根据《中华人民共和国治安管理处罚法》相关规定，散布虚假谣言、谎报险情、疫情、治安行为或者有其他故意扰乱公共秩序行为的，处五日以上十日以下拘留，并处五百元以下罚款。公民散布严重谣言，违反中华人民共和国刑法有关规定的，也将依法追究刑事责任。 基于AI的谣言传播技术易于使用 专家们要求对表格进行更彻底的审查 专家表示，技术进步降低了谣言传播的门槛，相关AI工具平台应加强内容检测，确保虚构内容不会与真实内容混淆。 记者在网上搜索时发现，“AI写作神器”、“一键自动生成视频”等工具现已商用。测试真实世界实验表明，通过输入简单的文本命令，立即生成洪水、火灾等模拟文字和视频。专家表示，人工智能生成内容的高保真度正在模糊现实与虚构之间的界限。 中国人民大学纪检监察学院教授林洪超：突发事件特别是大规模灾害的虚假信息与一般的虚假信息不同。其公共性震撼了社会心理等，引起社会强烈关注，其影响可以说是极其负面的。如果任其蔓延，影响将是严重的。 专家介绍，《人工智能合成内容标注办法》国家网信办于3月发布并于9月1日起实施的《规定》要求互联网服务提供者人工选择生成文字、图像、音频、视频等合成内容，并在适当的地方提供“显着的识别信息”，以区别于实际内容。同时，服务提供者还必须为防范和打击相关违法犯罪活动提供支持和帮助。 中国人民大学纪检监察学院教授林洪超：AI工具平台一个需要审计，一个需要生产工具。人工智能工具需要技术设置以及它们可以生产什么和不能生产什么的负面清单。在这种情况下，可能会有阻止机制或提醒或警告。该工具的提供者对此负责。 应急管理部公布灾害名誉损害认定办法防、减、救事关人民群众生命财产安全。针对网络谣言新伎俩，应急管理部近日公布了谣言陷阱识别方法，称其为：我装上。呼吁广大网民提高识别网络虚假信息的能力，同时多关注官方信息来源，避免情绪化转发未经证实的内容。 近日，应急管理部发布了如何识别典型灾害谣言的提示。他具体提到，短视频中的“AI灾难”因其强烈的视觉冲击力，成为最容易误传的领域。他还提到了典型的错误信息陷阱，例如群聊中的所谓“内部灾难”、夸大灾难的“自媒体头条”、捏造利用灾难煽动情绪的谣言、伪造政府部门的“紧急通知”等。nts。 应急管理部提醒，公众在甄别谣言时，应关注有关部门发布的可靠信息，关注信息发布时间与事发时间是否吻合，关注涉事地景观是否与当地自然环境相符，警惕夸大内容。 应急管理部新闻宣传部网络处处长 张婷：为了应对网络上有关灾害、事故的不实谣言，防止有关灾害、事故的不实谣言的传播，我们建立了危机管理体系和网络反不实谣言的协作机制。我们也希望广大网民提高识别虚假信息的能力。尤其要警惕掩盖时间、地点等重要因素的“标题党盛宴”，警惕所谓的现场图像，这些图像在视觉上如此引人注目，以至于违背常识，并警惕捏造的阴谋来歪曲真实的人工智能灾难。 应急管理部建议公众警惕涉灾谣言，不相信网络虚假信息，不转发情绪化、未经证实的内容，保持理性不恐慌，不堵塞救援通道。让我们共同努力，打造一个不造谣、不信谣、不传播谣言的透明网络空间。