标签: 人工智能

AI人工智能还会帮助黑客窃取用户身份信息?

AI人工智能还会帮助黑客窃取用户身份信息?

 2023年4月28日

你的手机和电脑都设置密码了吗?设置密码你的隐私信息就安全了吗?不一定! 近日,研究人员警告说,如果盗窃者开始使用人工智能辅助的热成像技术来确定输入后不久的密码,目前基于密码的安全保护设施情况可能会恶化。格拉斯哥大学的研究人员公布了一种方法,通过对用户手指的热信号进行成像,来猜测键盘和手机屏幕上最近输入的密码,精确度很高。 不过这项技术也不是什么情况都能实施,成功率还会受时间、材料、密码长度等影响,...

数据安全、隐私泄露引担忧,ChatGPT类AI监管“踩刹车”

 2023年4月12日

类似ChatGPT的AI(人工智能)技术合规和安全性备受关注。4月11日,中国国家网信办正式发布《生成式人工智能服务管理办法(征求意见稿)》(下称“意见稿”),促进生成式人工智能技术健康发展和规范应用。 与此同时,美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查。此前,意大利、德国监管机构已发布ChatGPT禁令,法国、爱尔兰、西班牙等国也开始考虑对AI聊天机器人采取更严格的...

美国 AI 政策组织状告 OpenAI,称其 GPT-4 模型威胁公共安全

美国 AI 政策组织状告 OpenAI,称其 GPT-4 模型威胁公共安全

 2023年4月1日

这个名为 AI 和数字政策中心(CAIDP)的组织今天提交了投诉,认为 OpenAI 推出的 AI 文本生成工具是“有偏见的、欺骗性的和对公共安全有风险的”,违反了消费者保护规则。 IT之家注意到,此前一封备受关注的公开信呼吁暂停大规模的生成式 AI 实验。CAIDP 主席马克・罗滕伯格也是这封信的签署者之一,其他签署者还包括一些 AI 研究人员和 OpenAI 联合创始人埃隆・马斯克。与这封信类...

周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类

周鸿祎:ChatGPT可能两三年内就会产生自我意识威胁人类

 2023年2月26日

“从知识来说,它像一个博士生,学识广博但还不会活学活用;从情商来说,它像一个油滑的中年人,说什么都滴水不漏,绝不得罪用户。但是,它实际上真正的能力像一个小孩子,需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。” 360创始人周鸿祎 澎湃新闻记者范佳来 摄2月23日,360创始人周鸿祎在接受澎湃新闻等媒体采访时,再次提到大热的聊天机器人ChatGPT,并分享了他心...

黑客正在出售一项绕过 ChatGPT 对恶意软件限制的服务

黑客正在出售一项绕过 ChatGPT 对恶意软件限制的服务

 2023年2月9日

据称,ChatGPT 对创建非法内容的限制很容易绕过。 研究人员周三表示,黑客已经设计出一种绕过 ChatGPT 限制的方法,并利用它来销售允许人们创建恶意软件和钓鱼电子邮件的服务。 最近大热的 ChatGPT 是一种使用人工智能回答问题,并以模仿人类输出的方式执行任务的聊天机器人。人们可以用它来创建文档,编写基本的计算机代码,以及做其他事情。原则上,该服务会主动阻止产生潜在非法内容的请求。如果要...

OpenAI的ChatGPT能生成恶意软件?如何应对AI系统调教的黑客?

OpenAI的ChatGPT能生成恶意软件?如何应对AI系统调教的黑客?

 2022年12月6日

最近一些分析师发出警告,OpenAI开发的聊天机器人ChatGPT可以生成恶意软件。AI生成的代码可能会给网络安全造成严重威胁,人类编写的防护软件无法抵御。 据Tech Monitor报道,不久前OpenAI正式发布ChatGPT聊天机器人,它是根据OpenAI的GPT-3大语言模型开发的。事实证明ChatGPT可以完成多种任务,比如回答客户提问,生成代码,根据提示撰写复杂且精准的散文。 但是,C...

研究人员将恶意软件藏在人工智能的“神经元”里 效果还好得吓人

研究人员将恶意软件藏在人工智能的“神经元”里 效果还好得吓人

 2021年7月24日

随着神经网络得到更广泛的使用,它可能成为恶意软件活动的下一个前沿阵地。根据周一发布在arXiv预印本网站上的这项研究,恶意软件可以直接嵌入到构成机器学习模型的人工神经元中,从而使它们不被发现,神经网络甚至能够继续正常执行其设定的任务。 来自中国科学院大学的作者写道:"随着神经网络的使用越来越广泛,这种方法在未来将普遍用于传递恶意软件。" 他们的实验发现,使用真实的恶意软件样本,用恶意软件替换Ale...

博智安全与可信人工智能研究所达成战略合作

 2020年6月28日

近日,博智安全科技股份有限公司(以下简称“博智安全”)与可信人工智能研究所(以下简称“研究所”)正式签订战略合作协议,双方基于良好的信任,本着“互惠、互利、稳定、恒久、高效、优质”的合作精神,强强联合,将共同推进人工智能及工业控制系统安全领域长期合作,实现资源共享、优势互补和利益共赢。 ▲ 技术副总裁郑轶讲解 ▲ 人工智能事业部总经理李华讲解 中国科学院院士何积丰与博智安全董事傅德胜代表双方签署了...

黑客窃取新冠成果勒索18万?汇医慧影:不涉及源代码和客户数据

 2020年4月29日

4月27日,据媒体报道,AI医疗公司汇医慧影过去两个月研发的新冠AI辅助系统和积累的“新冠训练数据”被黑客窃取,正在以4比特币的价格公开出售,接近人民币18万元。 据黑客对外发布的帖子声称,此次出售的数据具体包括150MB的新冠病毒实验室研究成果、1GB技术相关内容,以及检测技术源代码,还有1.5 MB用户数据。 4月28日,汇医慧影方面对AI财经社回应称,4月中旬,公司在境外公有云远程部署培训公...

当安全圈人人都在谈AI时,你要小心了

 2019年9月4日

看到任何声称基于AI的安全产品时,务必持怀疑态度。 网络安全解决方案的支出持续快速增长,根据IDC的最新数据,预计今年全球网络安全支出将比2018年增长近9.4%,达到1066.3亿美元 - 其中大型组织占该支出的近三分之二。然而,尽管如此,有人预测到2019年底,网络犯罪的总成本可能超过2万亿美元,这意味着犯罪活动的成本将超出安全支出的20倍左右。 这样的结果是由催生网络罪犯的环境导致。有一个经...

人工智能风靡,隐私数据何去何从?

 2018年10月29日

鱼和熊掌可以兼得。   人工智能是什么? “浅黑科技”史中老湿说得十分形象易懂: “人工智能有点像动物的灵魂,可以依附在你我的身上,也可以依附在阿猫阿狗身上,甚至是花鸟鱼虫身上。 具体来说,一间房子可以容纳一套人工智能,帮你管理家务嘘寒问暖;一座机场也可以容纳一套人工智能,帮它调度飞机引导客流;一块手表也可以容纳一套人工智能,帮它记录数据判断主人的健康状况。”   上几个动图就...

人工智能如何优化法院电子卷宗的归档问题?

 2018年10月25日

 政策引导 现任最高人民法院院长周强曾在2016年提出“智慧法院”这一概念,并于同年纳入了《国家信息化发展战略纲要》和《“十三五”国家信息化规划》。 “智慧法院”的内涵: 充分发挥人工智能作用,以高度信息化方式支持司法审判、诉讼服务和司法管理,实现全业务网上办理、全流程透明化、全方位智能服务的人民法院管理运作模式。 2018年以来,在某市中级人民法院的大力支持下,杭州世平信息科技有限公司以该市某区...

“创新智能辅助办案 推进智慧检务建设” 世平信息亮相全国检察机关科技装备展

 2018年7月9日

7月5日-6日,由最高检相关厅局指导的“2018全国检察机关科技装备展”在北京展览馆隆重举行,来自全国的各级检察机关公诉、案管等办案业务部门和计财、行装、技术信息等信息保障部门检察人员到场参观。 基于此前与宁波市海曙区人民检察院在智能辅助办案领域的深入探索与联合创新,世平信息参与了本次由浙江省人民检察院统一组织的“智涌潮头 浙里精彩”为主题的智慧检务创新成果整体展示。 近年来,浙江检察机关高度重视...

AI教材正式发布 人工智能将进入高中课堂

 2018年6月11日

人工智能即将进入高中课堂。近日,我国第一本面向中学生的AI教材——《人工智能基础(高中版)》正式发布。为什么要在中学开设人工智能课程?这本教材有什么特点?对于中学教师和学生而言,应如何准备才能应对人工智能的教与学?记者对此进行了调查。 全国已有40所学校引入教材 据了解,该教材是华东师范大学慕课中心和商汤科技合作,联合全国多所知名中学教师共同编写,由新闻出版总署批准出版并备案。目前,全国已有40所...

2018美国RSA大会专题 | Early Stage Expo:安全初创企业的专属舞台

 2018年4月18日

本文由世平信息翻译,转载请注明来源“杭州世平信息科技有限公司”,微信公众号:世平信息   RSA会议上的创新沙盒比赛人尽皆知,也是整个会议最大的看点之一,目前比赛已圆满落幕,BigID从十个候选项目中脱颖而出,拔得头筹,Fortanix、Acalvio、Awake Security、BluVector、CyberGRX、Hysolate、Refirm Labs、Shieldx、Stack...