发布时间:2021-02-23 19:58:22
来源:股票啦
股票啦 www.gupiaola.com 2021年02月23日报道:而且学习的是无标签数据的数据结构或者特性
阿里安全图灵实验室紧紧围绕行业痛点、难点技术问题,涉及文本变异对抗、图像、视频内容风控以及AI小样本钻研的4个团队,分别与中国科学技术大学、浙江大学、华中科技大学等知名高校钻研人员合作,研发包含“内容安全、文本反垃圾、AI模型鲁棒性、营商环境治理(501030)”4项新一代安全架构核心AI安全技术成果,均被国际会议ICASSP(International Conference on Acoustics, Speech and Signal Processing)2021收录。
小样本训练对抗血腥暴力视频
在实际应用场景中,AI安全技术能有效解决数据量大的头部风险,出售美股的投资收益税但对数据量极少或者新增的风险,现有AI模型往往难以胜任。
在2018年“扫黄打非”专项整治中,就隐藏了一波名为“邪典”的风险(软色情、血腥暴力),关键为一些对青少年有不良导向的视频,此类相关内容整理有害信息就多达37万余条。随着短视频火爆进展,变异极快的“儿童邪典视频”极易死灰复燃。
累积此类别的数据供原有模型训练需要肯定时间,而小样本方法恰好能填补“变异-模型未更新”的真空期。阿里安全图灵实验室高级算法工程师雍秦认为,使用小样本方法,可很好地在真空期中覆盖这种新风险,维护网络清朗空间环境。
“之前发表的小样本方法大都聚合于优化小样本元学习阶段,该钻研关键聚合钻研小样本方法中的预训练问题,出售美股的投资收益税人们AI安全团队提出了一种容易有效的方法,使用自监督方法预训练一个更深的网络,具有很好的鲁棒性和泛化性。”雍秦说。
自监督学习的核心理念是对无标签数据的进行学习,而且学习的是无标签数据的数据结构或者特性,因此不需要标签结局,这样打造的AI模型对新奇样本的适应能力较为强。
在医疗、生物等行业安全领域,都普遍存有“样本标注困难”“成本高”问题。雍秦坚信,小样本自监督学习能很好改善这些困境。
阿里&浙大:增强AI对抗垃圾文本变异的稳定性和识别力
李进锋等阿里安全算法专家常常会遇到发送大量垃圾文本的恶意用户,出售美股的投资收益税黑灰产试图通过对抗的手段规避阿里安全内容风控智能A(150311)I系统检测。
以文本内容为例,恶意用户可通过对文本中的违规内容进行变形变异,从而达到绕开模型识别检测的目的。由于文本对抗门槛和成本低,文本内容风控场景中的对抗异样激烈,对抗给智能风控体系带来了庞大挑战。
图:真实应用场景中的对抗文本(红色字体为变异词)
为应对挑战,出售美股的投资收益税解决对抗场景中风控模型性能衰减的问题,阿里安全图灵实验室与浙江大学提出了基于对抗关系图的文本对抗抵御技术。
图:基于对抗关系图的文本对抗抵御框架
与现有技术相比,阿里安全的内容风控系统建模与场景无关,只需训练一次即可应用到各个场景,基于对抗关系图,就可以解决更复杂的多跳变异问题,如微(wei)-威(wei)-崴(wai)。阿里安全团队将抵御框架应用到了手机淘宝、旺旺反垃圾场景,取得了不错的应用效果。
中科大&阿里:构建AI系统“防火墙”
去年,阿里安全图灵实验室公布了一款“AI安全诊断大师”,出售美股的投资收益税对AI模型进行全方位的安全性评估,并针对AI系统的缺陷,提出提升模型抵御能力意见。
这种“AI安全防火墙”的一个关键技术就是对抗样本检测,对抗样本的重大特性之一是人眼无法区分,导致无法通过人工打标进行对抗样本的检测。
2020年,阿里安全图灵实验室提出了一种基于Transformer的对抗样本检测方法,改进了传统对抗样本检测方法只能检测特定攻击,难以泛化到其他攻击的缺陷。
此次钻研解决的是对抗样本检测泛化性的问题,但针对比较小扰动和比较稀疏的对抗样本的检测,仍是目前钻研的难点。为了既能识别扰动大而广的对抗样本,又能识别扰动较为小而稀疏的对抗样本,出售美股的投资收益税中科大和阿里的钻研者提出了基于图像域和梯度域的双流对抗样本检测网络,图像域用于识别扰动大而广的对抗样本,梯度域则用于识别扰动较为小而稀疏的对抗样本。
图 。双流对抗样本检测网络
随着抵御技术不断变强,攻击形态愈来愈多样。在真实应用场景中,阿里安全图灵实验室也发觉了一些没有限制情况下的攻击形态,这类攻击很难应对。阿里安全图灵实验室高级安全专家越丰介绍,目前阿里期望能从攻防两端以及产学研集合的方式来应对这种威胁。阿里安全联合清华大学、UIUC(伊利诺伊大学厄巴纳-香槟分校)举办了CVPR2021的AML-CVworkshop,产学研结合探讨AI安全的问题。其它,三方在workshop上联合天池一起举办了2个比赛:第六期-ImageNet无限制对抗攻击和抵御模型的白盒对抗攻击。
提升商品图像检索能力优化用户搜查体验
电商平台的各种模态商品数据迅速增长,出售美股的投资收益税如何从中快速且精确地找出用户需要的商品是一个艰巨的挑战。基于内容的文本到商品图像的跨模态检索就是缓解这个挑战的关键技术之一。
传统的跨模态检索方法建立在单层次的特征表达和单粒度的相似度度量上,难以有效地解决商品图像检索的问题。
同时,文本到商品图像的跨模态检索任务更复杂,比如单是商品图像中的一类“服饰”已经表现出庞大的差异性,服饰可以穿在模特身上,也可以单独摆放,还可折叠起来展示,服饰图像背景往往也很复杂。不止如此,商品图像包含其它很多丰富的种类,而且一幅图像内往往展现出多种物体,琳琅满目,难辨差异。
在阿里安全图灵实验室实习的浙江大学硕士生马哲介绍,这次钻研在文本-商品图像跨模态检索的场景下,出售美股的投资收益税提出了HSL网络和两种不同粒度的相似性度量方式,可显著提升商品图像检索的性能,并能适应复杂的商品内容检索。
阿里安全图灵实验室资深算法专家华棠强调,这种新钻研不仅致力于提升用户搜查体验,也会用在平台内容治理上,防备黑灰产利用看似合规的商品图片宣传“禁限售”类商品。
“人们期望通过新一代安全架构核心AI技术来守护网络内容安全,净化网络环境,也通过AI来保卫数字资产的学问产权,优化营商环境。同时也致力于通过AI来防范黑灰产的对抗行为,尽最大努力为商家和用户打造更好的互联网平台。”华棠说。
不要踩我尾57342黑龙江七台河炒股越来越注重基本面了
xianming309安徽巢湖明天创投,华赛控格,通江丽产要拉了!
股友bVOUil辽宁庄河机构券商的盛宴!散户的坟墓!一个字:跑!
w枫木云南个旧用屁股来考虑问题的专家,应该出台只有单身人士才能炒股[大笑][大笑][大笑]
张叁水湖北麻城牛:烦死了,整天拿我当幌子,我还没睡醒呢
赌博专用账号新疆阜康钞票不也就是张纸
股友ZypkGX江西樟树困难时凸显投资价值!3000是永远难逾越的顶!
金色时光nrgwyn山东莱西负利率?存钱人还要付出利息?真不是人干的事!狗急跳墙!
HY淮盐股东河北深州想要全球为它买单,梦想
鸡腿小王子新疆阿勒泰收到。
股票啦网 www.gupiaola.com 2023年11月05日报道:正常的卖空包含融券和卖出两个步骤泥沙俱下之际,外资的表现也令韩国股民颇为“扎心”——10月净卖出2.9万亿韩元的股票,不仅是连续第5个月净卖...
股票啦 www.gupiaola.com 2023年11月04日报道:三季度公司总资产下降至10199.33亿美元美东时间周六早上,股神巴菲特旗下伯克希尔哈撒韦公司公布三季报,公司三季度经营利润同比增长超四成。财...
股票啦 www.gupiaola.com 2023年11月04日报道:销售市场预测891.82亿美元伯克希尔哈撒韦A2023年Q3营收932.1亿美元,销售市场预测891.82亿美元,去年同期为769.34亿美元;Q3EPS为亏损8824美元,...
今日股市行情 | 美股行情 | 明日股市预测 | 最新股市消息 | 今日股票推荐 | 今日股市新闻 | 股票入门基础知识