精准定位、惩防结合,实施AI生成内容的全生命周期治理,其意义不止是筑起信息真实性的屏障,也在于划定一条AI内容创作的专用道,充分释放技术的潜能,让内容创作效率翻倍,让内容创意无限拓展。 当然,走上AI专用道的内容创作者,在享受技术红利的同时,也应担起责任。制作图片、视频时,稍有不慎,就可能侵犯他人的肖像权与...

某短视频平台负责人建议,首先,警惕内容特征,如AI生成文本常出现逻辑断层、情感表达单一或事实细节模糊;视频可能存在面部表情不自然、光影异常或声音失真。其次,核查信息来源,优先选择权威媒体或官方渠道。腾讯相关负责人建议,在一些AI生成内容明显缺乏可信度、具有信息误导等特征时,用户可通过评论区互动等形式相互提醒,并通...

微信账号“阿宥游戏解说”、小红书账号“跨界玩家”等,利用AI魔改《三国演义》《西游记》等经典名著,传播含有血腥、恐怖、诡异等画面的“外国山海经”内容,部分视频配有“儿童动画”等标签,侵扰未成年人身心健康。相关账号已被依法依约处置。 四、“金锦澈”等账号炮制发布不实信息,误导公众认知。抖音账号“金锦澈”...

没被“投喂”足够的数据资料、拿不准正确答案,AI也能“急中生智”,推测答案。这一特质让AI显得有“想象力”和“创造力”,但更可能给用户带来麻烦。 比如在医学等专业门槛较高的领域中,如果患者把AI当大夫,轻信幻觉诊疗方案,不仅会影响诊疗进程,还可能危及健康和生命。AI生成的虚假信息传播到网络上,不仅混淆公众...

2023年8月15日起施行的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得生成暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。因此,对AI造谣等的治理要从AI工具开始,应强化服务提供方对素材以及其生成的审核职责。网络平台也该担...

这些通过AI生成的虚假新闻主题集中、风格鲜明,多以险情、灾情、刑事犯罪或其他涉民生、社会热点事件为内容,辅以夸张、猎奇的情节和看似相关却实际无关的图片、视频,并以新闻撰稿人的角度、方向、语气对外发布,普通人难以辨别真伪。以前述事件为例,通过警方的披露我们才知道,相关违法主体不是仅用单一账号发布虚假信息,...

近日,网上接连出现多起虚构突发事件、编造公共政策、捏造社会民生领域谣言等案件,引发社会广泛关注。多地公安机关通报显示,一些不法分子为博眼球蹭热度、吸粉引流,使用AI工具编造虚假信息误导网民甚至引发公众恐慌。 只需要简单输入和调整指令,AI工具就能批量生成谣言视频,视听兼具、图文并茂。迅速迭代的AI技术正被某些不...

某短视频平台负责人建议,首先,警惕内容特征,如AI生成文本常出现逻辑断层、情感表达单一或事实细节模糊;视频可能存在面部表情不自然、光影异常或声音失真。其次,核查信息来源,优先选择权威媒体或官方渠道。腾讯相关负责人建议,在一些AI生成内容明显缺乏可信度、具有信息误导等特征时,用户可通过评论区互动等形式相互提醒,并通...

不久前,某公众号运营者钟某为蹭“海啸预警”热点,利用AI生成“30万居民撤离”等耸人听闻的言论,引发恐慌情绪。从编造“民警离职潮”到“爆炸事故”,从散布涉企谣言到“限制外卖配送”虚假信息,AI造谣已呈黑色产业链之势,给社会治理带来全新挑战。 以谣生利,流量变现。不法者利用AI造谣,牟取互联网内容平台奖励。以某大型内容生产平台为例,