参考消息

金参考|数据也能“投毒”?它会在不知不觉中威胁我们的安全

2018-11-14 00:15:01 来源:参考消息网 责任编辑:郭庆娜

核心提示:如果数据不完整或相互矛盾,计算机将在运算中出现错误、宕机或系统混乱。“数据投毒”就是主要针对数据的完整性开展攻击,试图通过在数据里“掺沙子”、加入“有毒”数据等方式实施网络攻击行为。

参考消息网11月14日报道 在今年的乌镇互联网大会上,某互联网大佬表示人工智能产业发展需要警惕“数据投毒”的风险。对于普通民众来说,“数据投毒”还是一个新鲜的概念。但是对于网络安全从业者来说,数据投毒已经是一种现实的威胁。一旦数据投毒导致人工智能程序发生了致命性的误判,那么所带来的伤害甚至会带来比现实投毒更大的风险。

对于人类来说,计算机所存储的数据只是一堆难以理解的数字,但对于计算机来说,这是它学习、判断、行动的唯一标准。数据的价值在于其完整性、隐私性和可用性。如果数据不完整或相互矛盾,计算机将在运算中出现错误、宕机或系统混乱。“数据投毒”就是主要针对数据的完整性开展攻击,试图通过在数据里“掺沙子”、加入“有毒”数据等方式实施网络攻击行为。

通常来说,针对人工智能“数据投毒”有以下两种方式:第一种攻击模式是采用“模型倾斜”的方式,主要攻击目标是人工智能的学习训练的数据样本。在这种攻击情况下,黑客会通过对人工智能程序采集的一系列数据和网站展开系统性攻击,篡改相关数据和参数,使得人工智能程序所抓取的数据出现偏差。由于这种偏差,人工智能所依靠的学习模型就会出现“倾斜”,不能得到正确的学习认知结果。这种做法就像是给人观看大量伪造的彩票中奖的案例,从而让这个人误认为这种小概率事件是一种普遍现象。攻击者可通过操纵这种倾斜的方向来实现对人工智能的操弄。

凡注明“来源:参考消息网”的所有作品,未经本网授权,不得转载、摘编或以其他方式使用。

精品推荐

排行榜

  1. 1金参考|如果怎么能挣钱消费模式生变,美国贸易施压
  2. 2怎么能挣钱科技巨头都在扎堆研究这项技术 一旦突破
  3. 3这家怎么能挣钱公司发布全球首款折叠柔性屏手机 韩
  4. 4俄媒:“东风”-21D导弹令美航母束手无策 10
  5. 5俄媒称怎么能挣钱“闷头”发展导弹:数千枚导弹用以
  6. 6特朗普诬怎么能挣钱“插手选举” 被问及“通俄门”
  7. 7美媒:发动机仍是歼-20短板 怎么能挣钱或斥3000亿美
  8. 8两艘美舰穿越台湾海峡 美官员:多艘怎么能挣钱军舰
  9. 9金参考|特朗普急呀,美国制造招商引资还差三
  10. 10涨价!涨价!外媒:对华关税最终将全部转嫁给