南平网警
有图未必有真相
AI造谣要警惕
近年来，以大数据、人工智能（AI）等为代表的信息技术日新月异。与此同时，利用AI工具合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今天，网警带你了解AI工具造谣背后的真相！
【AI造谣的定义】
AI造谣指的是利用人工智能技术生成虚假信息，包括文字、图片、音视频等，以此来制造网络谣言。
【AI造谣典型案例】
案例一：利用AI软件编造
“山体滑坡致8人遇难”网络谣言
2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害 已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。
案例二：利用AI软件编造
“喜德县地震”网络谣言
2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。
案例三：利用AI软件编造
“女子电动车被扣后猝死”网络谣言
2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过AI软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。
以上案例均是通过AI软件合成的不实信息，不法分子为了赚取平台奖励或吸引流量，使用AI软件自动生成文章，并与实际图片进行嫁接，发布在网络平台上，造成不良社会影响，严重扰乱社会公共秩序。
素材 | 青海网警
有图未必有真相
AI造谣要警惕
近年来，以大数据、人工智能（AI）等为代表的信息技术日新月异。与此同时，利用AI工具合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今天，网警带你了解AI工具造谣背后的真相！
【AI造谣的定义】
AI造谣指的是利用人工智能技术生成虚假信息，包括文字、图片、音视频等，以此来制造网络谣言。
【AI造谣典型案例】
案例一：利用AI软件编造
“山体滑坡致8人遇难”网络谣言
2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害 已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。
案例二：利用AI软件编造
“喜德县地震”网络谣言
2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。
案例三：利用AI软件编造
“女子电动车被扣后猝死”网络谣言
2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过AI软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。
以上案例均是通过AI软件合成的不实信息，不法分子为了赚取平台奖励或吸引流量，使用AI软件自动生成文章，并与实际图片进行嫁接，发布在网络平台上，造成不良社会影响，严重扰乱社会公共秩序。
素材 | 青海网警
