当前位置:首页 > 网络管理 返回

新华网评:AI技术不应用来造谣生事

2024-12-10 09:38:00来源:新华网

  新华网北京12月9日电 题:AI技术不应用来造谣生事

  新华网记者田中全 张阳

  近期,浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查,该团伙利用AI软件,拼接网络中误导性素材,剪辑成“原创”视频,并在多个平台发布,牟取非法流量返利。

  这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展,AI生成内容比例逐步攀升,但其中也充斥着一些虚假信息,有的足可“以假乱真”,迷惑性极强。

  利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网,可见“伪原创工具”“AI洗稿”等网站和小程序,既可创作文案、帮写稿件,又能生成图片、合成视频。有媒体报道,曾经发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,让人触目惊心。

  AI如果被别有用心之人用以造谣、传播虚假信息,短时间内就可能快速传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。

  对AI造谣违法行为,必须出重拳治理,要“狠打”也要“严防”。

首页
当前位置:网络管理

新华网评:AI技术不应用来造谣生事

2024-12-10来源:新华网

  新华网北京12月9日电 题:AI技术不应用来造谣生事

  新华网记者田中全 张阳

  近期,浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查,该团伙利用AI软件,拼接网络中误导性素材,剪辑成“原创”视频,并在多个平台发布,牟取非法流量返利。

  这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展,AI生成内容比例逐步攀升,但其中也充斥着一些虚假信息,有的足可“以假乱真”,迷惑性极强。

  利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网,可见“伪原创工具”“AI洗稿”等网站和小程序,既可创作文案、帮写稿件,又能生成图片、合成视频。有媒体报道,曾经发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,让人触目惊心。

  AI如果被别有用心之人用以造谣、传播虚假信息,短时间内就可能快速传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。

  对AI造谣违法行为,必须出重拳治理,要“狠打”也要“严防”。