您的位置:首页 > 活动

机器学习系统受到攻击怎么办? 6 个月的研究心得告诉你破解方案

时间:2019-08-06
万博买球网址 ?

雷锋网AI科技评论按:机器学习是当下人工智能浪潮的核心脏技术已被业界广泛使用,为社会带来了巨大的工业价值。但是,如果机器学习系统受到攻击。有什么严重的后果?我们如何分析和规避这种风险?下面,本文作者将根据6个月的研究经验,教您正确破解机器学习系统攻击的方法!

1.逃逸攻击(也被称为「对抗性样本」)绝对是最受欢迎的攻击类型。它们在推断时发生,它们利用固有的漏洞(或机器学习的“特征”?有关详细信息,请参阅有关“逃脱攻击”的博客文章:

2.下毒攻击在培训期间发生,可能有两个目标:(1)完整性(2)可用性。攻击者可以在训练数据池中插入一些精心挑选的示例,并在其中构建“后门”(为了完整性);或者他们可以插入大量“坏”数据,以便模型的边界基本上丢失。角色(可用性)。

3.隐私攻击也许研究最少,但这是一个类别及其相关威胁,尤其是今天。在这里,攻击者不希望干扰您及其学习模型的工作,而是从中提取私有的,可能敏感的信息。有关隐私漏洞和相关修复的更多信息,请参阅:

通过雷锋网雷锋网络

NNNNNN。
  • 友情链接:
  • 申搏官网手机版 | 澳门银河网上开户 | 老葡京赌场备用网址 | 信誉老虎机 | 银河娱乐赌场 | 99真人网

    365买球网站 版权所有© www.cnxydlkj.com 技术支持:365买球网站| 网站地图