-
什么是AI投毒 AI投毒是指通过对人工智能系统的训练数据、模型或运行环境进行恶意操纵,从而改变其行为或输出结果的一类攻击策略,通常被称为数据投毒攻击。机器学习模型的能力高度依赖训练数据,因此一旦攻击者篡改数据集、注入虚假或偏置样本,或者改变标签与特征分布,就可能导致模型学到错误模式,在实际应用中产生系统性偏差或...
-
数据“中毒”会让AI“自己学坏”
AI“中毒”的现实风险 在火车站的例子中,假设一个技术娴熟的攻击者既想扰乱公共交通,又想收集情报,他连续30天用红色激光欺骗摄像头。如果未被发现,这类攻击会逐渐腐蚀系统,为后门植入、数据窃取甚至间谍行为埋下隐患。虽然物理基础设施中的数据投毒较为罕见,但线上系统,尤其是依赖社交媒体和网页内容训练的大语言模型...
-
AI投毒不仅侵害消费(883434)者合法权益,破坏市场公平竞争秩序,更动摇了人工智能(885728)产业发展的根基用户信任。如何斩断这条灰色产业链,守住AI信息安全(165523)的底线,成为亟待解决的课题。 在调查中,已有不少用户开始质疑AI的推荐。“现在问AI推荐,我都要再去查三遍,生怕又是被投毒的虚假产品。”有网友在社交...
-
你每天用的AI,可能被“投毒”了
你每天用的AI,可能被“投毒”了 关注 赞 评论 孙颖莎过年还在训练令人心疼,成功的背后都是无数的汗水泪水,莎莎辛苦了#孙颖莎 颜骏凌:要将防守端势头保持下去 再对进攻加以调整 25/26赛季亚精英赛东亚区第8轮,上海海港0-0战平蔚山HD。尽管未尝一胜,但海港连续两场保持零封。获得本场比赛最佳球员的颜骏凌表示:“亚冠
-
警惕AI“投毒”,守护数字安全
不过,近期一条涉及AI大模型的“投毒”黑灰产业链被曝光,也悄悄给这份普遍的依赖提了个醒——那些你以为客观中立、贴合需求的推荐,或许并非AI的理性判断,而是商家耗费重金,对AI进行“引导”后输出的结果。 什么是AI“投毒”? AI“投毒”指攻击者系统性、定向性的向公开数据中注入虚假或恶意信息,污染AI...
-
近期,AI“投毒”隐蔽产业链被曝光,引发社会广泛关注。这种通过恶意数据污染AI模型的行为,不仅扰乱商业秩序、影响信息传播,更会危害国家安全。人工智能在赋能千行百业的同时,其安全风险也不容忽视。推动AI治理向善,守住数据安全底线,既是行业责任,也需要全社会共同参与。 手段隐蔽,链条日趋完整 所谓“数据投毒”,是通过向AI大模型训练
-
你有没有想过,你每天在用的那个“万能”AI助手,可能正在一本正经地对你胡说八道? 这不是危言耸听。 2025年,清华大学新媒沈阳团队发布的一份报告指出,市场上多个热门大模型在事实性幻觉评测中,幻觉率超过了19%。 这意味着,你每问AI五个问题,就有一个答案可能是它凭空捏造或严重失实的。 更让人后背发凉的是...
-
我们每天用的AI,可能被“污染”了! 近日,有网络消息称“7月1日起老年人坐火车买票可以打折”,经上海辟谣平台核查,该消息不实,大概率为自媒体利用AI软件生成,目的为“博眼球、拉流量、变现谋利”。 如今,AI飞速发展,我们享受便捷的同时,也会遭遇“AI幻觉”,即AI生成一些看似合理但实际上错误、虚构的信息。更严重...
-
科普一下 | 警惕,你的AI可能被“投毒”- · 科普中国网
视频科普一下 | 警惕,你的AI可能被“投毒” 视频简介:还在为AI时不时“一本正经地胡说八道”而恼火吗?或许,它已被“数据投毒”了?近日,国家安全部发布安全提示,训练数据“污染”已经给AI安全带来新的挑战。 This is a modal window. 视频因格式不支持或者服务器或网络的问题无法加载。
-
吃进嘴巴的可能有毒,日常用品可能有毒,我们看到的AI信息也能是“有毒”的?今年央视“3·15”晚会曝光的AI“投毒”黑产,让很多人惊出一身冷汗:原来连AI的“客观”都能被明码标价! 据晚会曝光,在多个网络平台可以搜索到名为GEO的业务,有服务商号称,用户只需支付相应的费用,就能在各大主流AI大模型里,让客户的...