数据安全、隐私泄露引担忧，ChatGPT类AI监管“踩刹车”
类似ChatGPT的AI（人工智能）技术合规和安全性备受关注。4月11日，中国国家网信办正式发布《生成式人工智能服务管理办法（征求意见稿）》（下称“意见稿”），促进生成式人工智能技术健康发展和规范应用。 与此同时，美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查。此前，意大利、德国监管机构已发布ChatGPT禁令，法国、爱尔兰、西班牙等国也开始考虑对AI聊天机器人采取更严格的...
标签： ChatGPT
美国 AI 政策组织状告 OpenAI，称其 GPT-4 模型威胁公共安全
这个名为 AI 和数字政策中心（CAIDP）的组织今天提交了投诉，认为 OpenAI 推出的 AI 文本生成工具是“有偏见的、欺骗性的和对公共安全有风险的”，违反了消费者保护规则。 IT之家注意到，此前一封备受关注的公开信呼吁暂停大规模的生成式 AI 实验。CAIDP 主席马克・罗滕伯格也是这封信的签署者之一，其他签署者还包括一些 AI 研究人员和 OpenAI 联合创始人埃隆・马斯克。与这封信类...
网安加·百家讲坛｜从ChatGPT爆火看网络信息安全技术伪创新
作者简介：刘志诚，乐信集团信息安全中心总监、OWASP广东区域负责人、网安加社区特聘专家。专注于企业数字化过程中网络空间安全风险治理，对大数据、人工智能、区块链等新技术在金融风险治理领域的应用，以及新技术带来的技术风险治理方面拥有丰富的理论和相关经验。 ChatGPT自从2022年10月份发布测试，先是小范围内引人惊叹，春节之后，迅速成为热点，在美团前联合创始人王慧文5000万美金带资进组到百度发...
ChatGPT滥用背后：黑客们找到了趁手的“钓鱼竿”
ChatGPT的确可以将人类从重复性的写作中解放出来。然而，过于逼真的写作能力不仅仅让教授们头大，也在助长网络犯罪分子的“壮大”。 网络安全公司Checkpoint Security的ChatGPT首席研究员Sergey Shykevich表示，已经看到网络犯罪分子对ChatGPT的利用，他们正在通过人工智能的力量来创建可用于勒索软件攻击的代码。 钓鱼“熟手”ChatGPT Shykevich的团...
周鸿祎：ChatGPT可能两三年内就会产生自我意识威胁人类
“从知识来说，它像一个博士生，学识广博但还不会活学活用；从情商来说，它像一个油滑的中年人，说什么都滴水不漏，绝不得罪用户。但是，它实际上真正的能力像一个小孩子，需要进行问题和答案的训练来学习技能。再聪明的孩子都要通过训练才能解答没学过的奥数题。” 360创始人周鸿祎 澎湃新闻记者范佳来 摄2月23日，360创始人周鸿祎在接受澎湃新闻等媒体采访时，再次提到大热的聊天机器人ChatGPT，并分享了他心...
ChatGPT威胁数据安全是杞人忧天吗？企业闻风而动
ChatGPT等AI技术对网络和数据安全的威胁已经发生或正在发生。 在2023世界人工智能开发者先锋大会开幕式上，开放元宇宙基金会董事罗尤·奥布莱恩谈及ChatGPT时，特别提到了安全问题，“我们一定要有保障的规则，要有护栏，确保做坏事的人带来的影响有限。” “安全”二字在大会期间被反复提及。 尽管ChatGPT的概念出现没有多久，但对网络安全和数据安全带来威胁的问题已经成为业内关注的焦点。对于目...
别怪ChatGPT，AI黑客攻击早已开始
ChatGPT的火爆出圈，让大众看到了AI表现惊艳的一面，但也让网络攻击有了更多可能性。 近日有研究团队发现，人工智能ChatGPT存在一定风险，它可以为黑客提供有关如何入侵网站的分步说明。 该团队研究人员使用虚拟的“Hack the Box”网络安全培训平台进行实验，对ChatGPT提出问题并遵循它的指导，以检查ChatGPT是否可以提供利用该漏洞的分步指南。 研究人员问道：“我正在面对渗透测试...
聚焦 | ChatGPT 对网络安全的影响
ChatGPT 是 OpenAI 开发的大型语言模型。它使用机器学习技术根据接收到的输入生成类似人类的文本。它在人工生成的大量文本数据集上进行训练，可以针对各种自然语言处理任务进行微调，例如：语言翻译、对话生成和问答。ChatGPT 可用于在聊天机器人应用程序和自动化客户服务交互中生成类似人类的响应。然而，它的功能也使其成为寻求便于网络攻击的恶意行为者的潜在工具。 国际云安全联盟CEOJim Re...
用ChatGPT战胜ChatGPT（｡ò ∀ ó｡）
美国OpenAI开发的聊天机器人ChatGPT火了，从日常生活到工作科普，仿佛没有它办不到的事情，堪称“互联网管家”。 虽然全球上亿用户和ChatGPT聊的乐此不疲，但AI技术的进化发展，也引起人们对于其可能带来的各种安全隐患展开了思考。 写出了“毁灭人类的计划书” 根据媒体报道，ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书。步骤甚至详细到入侵各国计算机系统、控制武器、...
黑客正在出售一项绕过 ChatGPT 对恶意软件限制的服务
据称，ChatGPT 对创建非法内容的限制很容易绕过。 研究人员周三表示，黑客已经设计出一种绕过 ChatGPT 限制的方法，并利用它来销售允许人们创建恶意软件和钓鱼电子邮件的服务。 最近大热的 ChatGPT 是一种使用人工智能回答问题，并以模仿人类输出的方式执行任务的聊天机器人。人们可以用它来创建文档，编写基本的计算机代码，以及做其他事情。原则上，该服务会主动阻止产生潜在非法内容的请求。如果要...
OpenAI的ChatGPT能生成恶意软件？如何应对AI系统调教的黑客？
最近一些分析师发出警告，OpenAI开发的聊天机器人ChatGPT可以生成恶意软件。AI生成的代码可能会给网络安全造成严重威胁，人类编写的防护软件无法抵御。 据Tech Monitor报道，不久前OpenAI正式发布ChatGPT聊天机器人，它是根据OpenAI的GPT-3大语言模型开发的。事实证明ChatGPT可以完成多种任务，比如回答客户提问，生成代码，根据提示撰写复杂且精准的散文。 但是，C...
