每日速递:专家:ChatGPT也存在网络安全问题
2023-02-15 17:27:04 来源:工人日报客户端
(资料图)
原标题:
专家:ChatGPT也存在网络安全问题
工人日报-中工网记者 车辉
近期,ChatGPT的自然语言交互能力引起了广泛关注。ChatGPT究竟对于网络安全行业会产生怎样的影响?绿盟科技首席创新官刘文懋认为,ChatGPT对网络安全的影响可以从四个方面进行讨论:
攻击方面:ChatGPT具备生成可用于网络攻击的脚本、钓鱼邮件的能力,也能被用来解密一些较易解密的加密数据。然而,ChatGPT的能力仍不能达到或超越具有专业知识和经验的真人黑客,其起到的作用主要是提高黑客的攻击效率。随着内容安全策略的进一步强化,ChatGPT作为攻击武器辅助网络攻击的门槛也会进一步提高。因此相关影响在总体上来说仍处于一个可控范围。在未来,伴随AI生成内容检测技术的发展与ChatGPT自身内容安全策略的演进,ChatGPT武器化造成的不良影响将被进一步压缩。
安全隐私方面:AI应用一般面临的投毒攻击、闪避攻击、推理攻击、模型提取等攻击目前仍未见到在ChatGPT上成功的案例。然而,ChatGPT的高度“智能化”也导致其存在自己独特的安全问题:提示注入。通过提示注入,用户可以绕过OpenAI设置的内容安全策略,从而对ChatGPT进行滥用。在辅助编程这一应用场景上,ChatGPT的应用可能也存在一定的安全隐患,ChatGPT生成的代码可能含有可被利用的已知安全漏洞。对于企业来说,虽然员工使用ChatGPT能够在一些工作上一定程度地提高效率,但由于ChatGPT并没有通过技术手段保障用户数据安全,且会对用户输入进行分析,故对于敏感信息一定要严格保护。
社会影响方面:ChatGPT输出的文本取决于训练语料与其概率分布。故ChatGPT并没有真正的道德观与价值观,在一些涉及价值观、情感的问题上,ChatGPT输出的内容可能会造成非正向的社会影响。对于教育、内容创作等领域,滥用ChatGPT最终还可能会导致劣币驱逐良币。需要通过技术手段对ChatGPT在一些具体场景的使用进行管控与限制。
赋能产品方面:ChatGPT对于网络安全产品的人机交互能够起到明显的推进作用,并且能够用来辅助执行一些网络安全任务。虽然在实际落地ChatGPT到网络安全产品的过程中仍存在许多挑战。
相关阅读
- (2023-02-15)每日速递:专家:ChatGPT也存在网络安全问题
- (2023-02-15)全球信息:北京亦庄打造全球“新药智造”产业高地
- (2023-02-15)节日效应助线下消费再升温 花店爆单 浪漫餐厅一座难求
- (2023-02-15)环球观点:老字号招牌越擦越亮
- (2023-02-15)天天速读:天津宝坻加强新型基础设施建设
- (2023-02-15)银行低利率“揽客” 消费贷市场升温
热点推荐
- (2023-02-15)每日速递:专家:ChatGPT也存在网络安全问题
- (2023-02-15)全球信息:北京亦庄打造全球“新药智造”产业高地
- (2023-02-15)每日动态!被子四件套都有什么
- (2023-02-15)2023珠海个人所得税退税常见问题解答汇总
- (2023-02-15)节日效应助线下消费再升温 花店爆单 浪漫餐厅一座难求
- (2023-02-15)环球观点:老字号招牌越擦越亮
最近更新
- (2023-02-15)每日速递:专家:ChatGPT也存在网络安全问题
- (2023-02-15)全球信息:北京亦庄打造全球“新药智造”产业高地
- (2023-02-15)每日动态!被子四件套都有什么
- (2023-02-15)2023珠海个人所得税退税常见问题解答汇总
- (2023-02-15)节日效应助线下消费再升温 花店爆单 浪漫餐厅一座难求
- (2023-02-15)环球观点:老字号招牌越擦越亮
- (2023-02-15)天天速读:天津宝坻加强新型基础设施建设
- (2023-02-15)银行低利率“揽客” 消费贷市场升温
- (2023-02-15)快播:红酒,为春节添红火,红火靓丽雷盛456
- (2023-02-15)旅游贷款怎么办理?旅游贷款是真的吗?
- (2023-02-15)通证经济是什么?通证的价值是什么?
- (2023-02-15)今日欧元/加元货币走势图分析(2023年2月15日)
- (2023-02-15)【聚看点】今日亚盘、欧盘、美盘重要关注数据回顾及预测(2023年2月15日)
- (2023-02-15)2月14日COMEX黄金库存统计
- (2023-02-15)今日热搜:最大黄金买家出事!暂停部分黄金进口
- (2023-02-15)快资讯丨美原油交易策略:美元上涨+API原油库存大增,关注10日均线支撑
- (2023-02-15)全球速看:领电子消费券,一起“嗨购”吧
- (2023-02-15)全球快讯:为啥扎堆提前还房贷?
- (2023-02-15)全球速讯:2022年深圳市消费投诉分析报告出炉 成人培训、跨境网购成投诉新热点
- (2023-02-15)中消协点名智能电视平台“套娃式”收费引发消费者不满
- (2023-02-15)什么叫主板市场?主板市场包括几个板块?
- (2023-02-15)消费红利是什么意思?红利属于国民收入吗?
- (2023-02-15)什么叫题材股?题材股和权重股有何区别?
- (2023-02-15)纳税人识别号在哪里看?纳税人和负税人有区别吗?
- (2023-02-15)空气币是什么意思?空气币一般多久崩盘?
- (2023-02-15)分红型保险是商业保险吗?商业保险有什么用?
- (2023-02-15)实物交割有什么好处?交割和交易的区别
- (2023-02-15)什么叫买断式回购?回购注销股票什么意思?
- (2023-02-15)市盈率动态高好还是低好?市盈率动态多少合理?
- (2023-02-15)基准汇价是什么?汇价是汇率吗?