人民头条:公安部网安局|听说过AI造谣吗?登上网络热搜了

本文转自【公安部网安局】;

随着人工智能(AI)技术的发展,AI在文本生成、图片创作等方面有着广泛应用。

输入几个关键词即可快速生成一张画或一篇文章,一些网民为博眼球、蹭热度将AI技术用以编;伪消息”、造;假新闻”,以此来获得网民关注和点赞量,进而实现流量变现。

今天,我们就来一起学习,面对网上疑似利用AI造谣时,如何增强;免疫力”。

AI网络谣言案例

2024年6月,网络平台上的一条;广东省五华县华阳镇一70多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月”的短视频在互联网平台传播,引发大量网民关注、讨论。公安网安部门迅速开展调查,发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述,这段长达几分钟、声色并茂的视频全是由AI合成的。目前,公安机关已依法对任某追究法律责任。

2024年1月,广西东兴市骆某某为博取流量,使用AI软件自动编辑抗洪、救灾视频,捏造了新疆乌什县发生地震的虚假视频信息,造成该谣言信息在互联网平台大量传播。目前,公安机关已依法对骆某某追究法律责任。

2024年5月,河南一网民在某平台发布《一场惊心动魄的;钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章,引发大量网民关注、讨论。经查,该涉谣文章由AI系统生成并发布,相关言论及照片均为不实信息。目前,公安机关已依法对造谣人员追究法律责任。

AI网络谣言特征

定制化

生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格,只需要输入关键词,AI软件可在网络上抓取素材生成文本,形成定制化的文章、新闻、报告等信息。

门槛低

相比此前造谣者单纯靠人工捏造、散布谣言这一略显;原始”的方式,现在利用AI造谣者只需在AI工具输入关键词即可;一键生成”可以假乱真的文章、图片。

识别难

AI生成的虚假信息在形式上非常逼真,往往新闻要素齐全、内容完整,甚至可能包含图像和视频,这使得公众难以辨别真伪,这种伪装性和欺骗性让谣言更加具有迷惑性。

破坏大

利用AI工具制造谣言能生成极为逼真的图片、音视频,颠覆了;有图有真相”的常规认知,蛊惑性极强,短时间内就能快速传播,易引发社会恐慌,扰乱社会公共秩序。

网络谣言危害

泄露敏感数据

AI对话、文字创作等AI工具可收集并存储用户信息,造成个人隐私数据泄露,甚至可能从一些涉密敏感人员数据中推断出敏感信息。

损害他人名誉

网络谣言往往针对特定个人或群体,散布虚假信息,恶意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。

误导公众认知

网络谣言往往利用人们的认知和心理弱点,制造虚假信息,误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。

扰乱公共秩序

网络谣言可能引发公众恐慌和不安,破坏社会信任和稳定。虚假信息的传播可能引发群体性事件,甚至导致社会动荡。

如何增强;免疫力”

1

保持警惕。仔细分析信息的逻辑性,若存在明显漏洞、矛盾或与常理不符的地方,很可能是虚假信息。比如,一些谣言中事件的发展过程不符合常理,或者数据存在不合理的夸张等。

2

多方验证。不要仅仅依赖单一的信息来源,应从多个权威渠道获取信息进行对比。对于一些热点事件,可以检索官方媒体的报道,以验证信息的真实性。

3

谨慎分享。在确定信息真实可靠之前,不要随意转发,以免无意中成为谣言传播的推手。

4

保护隐私。注意保护个人隐私,不随意泄露个人信息给不可信的网站或应用程序,防止个人信息被用于生成虚假内容。

素材│广西网警

Like (0)
广众网的头像广众网
Previous 2024年11月14日 下午3:57
Next 2024年11月14日 下午4:02

相关推荐

  • 外国玩家备战黑神话悟空有多拼 引发海外玩家深入研究《西游记》

      8月20日,中国自主研发的游戏《黑神话:悟空》正式上线,并迅速在全球范围内登顶多平台销量榜首,成为全球玩家关注的焦点。随着游戏的火爆,其背后的文化元素——《西游记》也在海外引起了广泛的关注和兴趣。   为了更好地理解游戏的深层文化背景和故事,不少外国玩家开始恶补《西游记》原著。他们通过阅读、观看讲解视频、参与讨论组等多种方式,深入学习这部中国古典文学巨著…

    2024年8月20日
    7000
  • 天天滚动:屠宰场排污水致鱼虾死亡?谣言引热议

    近日,有网友称麻旺镇附近的河流因受到屠宰场排放污水污染导致大量鱼虾死亡。官方辟谣:系有人毒鱼。

    2024年11月11日
    1500
  • 男大学生陪爬泰山情绪价值给满了 网友调侃:这钱花的还挺值

      国庆黄金周期间,山东泰安的泰山景区迎来了一年中的旅游高峰,与此同时,一种新兴的兼职方式——大学生陪爬泰山,迅速走红。这些大学生不仅为游客提供体力上的帮助,如背包、送水、劈瓜等,还提供情绪上的支持,他们的背包被形容为“哆啦A梦”的万能口袋,能够满足游客的各种需求,情绪价值被拉满。   这一现象的背后,是大学生对于社会实践的积极探索和对个人能力的锻炼。他们通…

    2024年10月8日
    1300
  • 守好群众“看病钱”“救命钱”

    近年来,医保欺诈行为日益呈现出多样化和隐蔽性的特点,不仅加大了监管难度,也增加了调查和追回资金的复杂性。 医保基金是群众的“救命钱”,绝不允许成为不法分子的“黑心钱”。医保骗保行为涉及主体众多、问题复杂交织,还需持续治理、综合施策。 治理多点冒头的骗保行为,离不开常态化监管。应推进飞行检查、专项整治、日常监管、智能监控和社会监督常态化,同时不断升级技术手段、…

    2024年10月4日
    2500
  • 杭州外卖骑手与保安冲突后下跪?警方凌晨通报:已开展调查 美团回应:将“一管到底”

    8月13日凌晨,杭州市公安局西湖分局发布警情通报。通报称:“2024年8月12日中午,某外卖平台一男性外卖骑手王某某在我区西溪世纪中心园区送外卖过程中将栏杆踩歪,被园区保安拦下,该外卖员因担心影响其他订单派送遂下跪,后引发现场人员聚集。属地派出所接警后立即出警赴现场处置,对涉事人员依法开展调查,后续将依据调查情况依法处理。” 警方发布通报后,美团向《每日经济…

    2024年8月13日
    7000

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信