标签: 机器学习

美国 AI 政策组织状告 OpenAI,称其 GPT-4 模型威胁公共安全

美国 AI 政策组织状告 OpenAI,称其 GPT-4 模型威胁公共安全

 2023年4月1日

这个名为 AI 和数字政策中心(CAIDP)的组织今天提交了投诉,认为 OpenAI 推出的 AI 文本生成工具是“有偏见的、欺骗性的和对公共安全有风险的”,违反了消费者保护规则。 IT之家注意到,此前一封备受关注的公开信呼吁暂停大规模的生成式 AI 实验。CAIDP 主席马克・罗滕伯格也是这封信的签署者之一,其他签署者还包括一些 AI 研究人员和 OpenAI 联合创始人埃隆・马斯克。与这封信类...

研究人员将恶意软件藏在人工智能的“神经元”里 效果还好得吓人

研究人员将恶意软件藏在人工智能的“神经元”里 效果还好得吓人

 2021年7月24日

随着神经网络得到更广泛的使用,它可能成为恶意软件活动的下一个前沿阵地。根据周一发布在arXiv预印本网站上的这项研究,恶意软件可以直接嵌入到构成机器学习模型的人工神经元中,从而使它们不被发现,神经网络甚至能够继续正常执行其设定的任务。 来自中国科学院大学的作者写道:"随着神经网络的使用越来越广泛,这种方法在未来将普遍用于传递恶意软件。" 他们的实验发现,使用真实的恶意软件样本,用恶意软件替换Ale...

机器学习赋予主机安全免疫力

 2019年8月8日

企业上云已成趋势,上云后的主机安全则分分秒秒牵扯着企业的神经。黑客入侵屡见不鲜,病毒花式翻新。根据权威机构的统计,全球每天都会出现数量惊人的恶意软件。面对海量涌现的恶意软件,传统基于签名的技术无法跟上恶意软件的变化。加上层出不穷的漏洞,频频爆发的0day漏洞攻击让企业更加不堪其扰。 如何才能减少安全风险,为云主机、终端主机带来全方位的保护呢? 杰思安全认为,机器学习(ML)是抵御当前威胁的一道高效...

解析阻止机器学习的十种网络攻击

 2017年11月22日

即使是瑟曦.兰尼斯特的阴谋诡计或者乔拉.莫尔蒙爵士父亲般的保护(译注:两者都是HBO剧集《权力的游戏》中的人物)也无法阻止攻击者攻破HBO的网络并窃取了1.5TB的数据(包括未播出的《权力的游戏》剧集)。然而,机器学习可能已经为HBO的虚拟要塞提供了更好的防护。 人工智能(AI)和机器学习(ML)是众多辩论的主题,特别是在网络安全社区内更是如此。那么,机器学习会是下一个大的安全趋势吗?人工智能准备...