标签： AI网络安全

让每一句人机对话都安全可信，让每一次智能交互都风险可控——这是属于AI时代的安全承诺。 —— 启明星辰 随着DeepSeek国运级大模型的开源和算力成本的持续下降，大语言模型技术正迅速从少数科技巨头的专利走向大众化应用，企业和个人现在都能以前所未有的低门槛部署和定制自己的大模型服务。然而，这种“大模型平民化”趋势也带来了前所未有的安全挑战：提示词注入、隐私泄露、恶意输出等针对模型的攻击手段层出不穷...

自从生成式人工智能热潮兴起以来，有关数据安全性的争议就始终不断。事实证明，即便是“头部大厂”微软也有数据泄露的风险。据一家网络安全公司的最新研究显示，微软公司的人工智能研究团队数月前就曾意外在软件开发平台GitHub上泄露了大量私人数据，其中涵盖了3万多条微软团队的内部信息。虽然没有涉及用户信息，但正如在上周一场以管理人工智能为主题的闭门论坛上特斯拉CEO马斯克所说，“对我们来说，重要的是要有一个...

骗过人工智能的“眼睛”已经不再是一件难事。 今年美国东北大学和麻省理工大学等大学和研究机构做了一项创新实验，共同研制出了基于“对抗样本”的T恤衫，对抗样本是指一种由攻击者精心设计的特殊样本，科研人员就对T恤上的原图案进行了修改，通过了一定的技术手段将图案生成了有较强干扰性的图案，以此来改变T恤的视觉效果，导致AI人体检测摄像头无法准确地检测出穿着该T恤的行人。 类似的技术戏法如今已被广泛应用，黑客...