服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

ChatGPT爆火背后暗藏安全隐患,ScanV全面识别为安全管控奠基

日期: 来源:知道创宇收集编辑:知道创宇

ChatGPT“横空出世”

与之互动成为潮流


近日,由人工智能实验室OpenAI发布的聊天机器人模型ChatGPT横空出世,迅速在各大中外媒体平台掀起了一阵狂热之风。


ChatGPT能够回答后续问题、理解用户意图、承认错误、挑战质疑不正确的前提、以及拒绝不适当的请求,因此这也引发了网友的一系列“花式整活”。如今,在社交平台展示自己与ChatGPT的对话截图,已经成为了一种潮流。


这些高质量的回答、上瘾式的交互体验,让人们为之沉迷,圈内外纷纷惊呼,ChatGPT的功能是如此强大,以此连马斯克都认为:“我们离强大到危险的 AI 不远了”。




ChatGPT爆火背后暗藏安全隐患

各界对此表示担忧


随着ChatGPT在全球爆火,这项应用所引发的冲击波也“震撼”了多个行业,给人工智能、互联网、学术界等多个行业都带来了巨大的冲击。然而在疯狂过后,各界也冷静下来,并对这项应用背后所衍生出来的安全隐患表示担忧。


●违规、错误内容的使用,严重误导大众认知,影响舆论导向

首先,对于监管行业来说,ChatGPT的出现会使网上信息的监管工作更加难做。2月20日,中央网信办举报中心的官方微博就发出了一项话题:[如果ChatGPT生产出来的错误内容被运用了,该找谁问责?]。

由于ChatGPT会通过用户的反馈改进对话技术,一旦ChatGPT被“花式整活”的网友影响,抓取到违规内容或错误内容并加入自己的语料库中,就有可能因违规或错误内容的使用,出现误导大众认知的情况,从而影响舆论导向,甚至危害社会稳定和生命健康。


●ChatGPT运用不当,引发抄袭、作弊、机密信息泄露等隐患

其次,越来越多人非常规的使用ChatGPT,使之引发抄袭、作弊、机密信息泄露等隐患。ChatGPT具备快速查阅文献、生成答案的能力,许多大学生用它来充当“枪手”,导致多国高校被迫明确“禁用”ChatGPT。

无独有偶,很多互联网大厂码农也使用ChatGPT生成代码,用于解决工作中的问题,极易出现公司代码被竞争对手获取,公司机密信息泄露的情况。


●山寨ChatGPT泛滥,大量用户被诱导消费、泄露隐私

最后,一些与ChatGPT名称、图标、页面高度相似的小程序、APP、及网站如雨后春笋般出现,通过假借ChatGPT的名头,诱骗消费者对其进行流量变现,很多山寨小程序甚至借此违规收集个人信息,导致个人隐私及数据泄露。因此监管单位也需要加强对这些山寨版ChatGPT及其相关服务的识别,严查监管。

从以上ChatGPT背后暗藏的安全隐患以及中央网信办发出的话题来看,未来ChatGPT相关服务及其内容生产,很大可能会面临有关单位的严格监管,防止出现网络乱象。


ScanV现已支持对ChatGPT的相关服务

进行全面识别及监测,以供后续管控


针对上述ChatGPT导致的安全隐患,ScanV可进行针对性的系统化解决。目前,ScanV已能够支持专项ChatGPT服务监测,可对大规模业务系统(包括不限于网站、小程序、APP等)快速全面摸排,对提供了该服务的业务系统进行全面识别

ScanV是基于AI+大数据的下一代网络安全监测治理平台,专为监管、政府、企事业单位网站及业务系统提供7x24h 远程漏洞监测、篡改监测、系统访问异常监测、违规内容监测、IPv6合规监测等服务,实时预警通知,并提供修复建议及加固防护方案,保障客户网站及业务系统平稳运行。

基于汇集全网千亿级情报信息的创宇智脑能力,ScanV支持对业务系统进行页面内容智能分析,全面识别业务系统是否对外提供类似ChatGPT服务,精准找出对应服务链接并提供源码取证,帮助监管单位实时掌握辖区业务系统对外提供的服务状态。



● 实践监测案例

某地市监管单位对其辖区内数千业务系统进行了摸排,以排查其是否使用了类似ChatGPT的服务,2分钟内就将辖区内所有业务系统接入ScanV进行监测,并于10分钟内使用ScanV发现近100个业务系统在对外提供类似ChatGPT的服务。

同时,ScanV可提供详细检测报告,帮助监管单位实时掌握辖区业务系统对外提供的服务状态,为后续对辖区系统安全合规监管工作提供有力支持。


三月重保在即,ScanV现已支持对ChatGPT相关服务进行全面识别及监测,免费接入通道已经开启,帮助您全面识别ChatGPT服务链接,实时监控服务状态!


扫描下方二维码,立即联系我们接入吧!



相关阅读

  • ScanA内容安全监测:3月重保单位接入已超100家

  • 重保在即,内容安全监测先行。知道创宇ScanA内容安全监测立足监管单位、政府、企事业单位客户对内容安全保障的实际需求,依托知道创宇SaaS平台,已于2月中旬启动2023年度3月「清
  • “SO”不平凡的一年|抖音搜索热榜年度回顾

  • 2021我们在抖音搜索看见、参与、创造2022我们通过抖音搜索热榜一起回顾这“SO”不平凡的一年点击观看视频,回顾“SO”不平凡的一年在2021,我们看见平凡英雄我们不止于看见,而是
  • 虎年虎效果 | 你需要的智能工具,玩转春节投放

  • 春节客服放假了?用户咨询无人承接?有【智能咨询】这都不是问题,机器人客服24小时全天候在线,助力高效获取商机!2022年1月20日16点,巨量学直播间为你揭秘扫描下方海报二维码 预约观
  • 巨量学x学浪联合推出,年度直播大课明晚正式开讲

  • 在营销社交化的时代,品牌想要实现全量增长,需要抓住新趋势与新机会去打造全新的营销场景,并将品牌建设、心智种草、销售转化等多方融合,才有机会让品牌实现可持续增长。为此,「巨
  • 厌倦了格子间的“体面”,我宁愿去干体力活!

  • 最近看到一个话题,就是很多的年轻人受够了在格子间的工作,不再沉浸于“体面”的工作,自愿降薪去干体力活!甚至在某瓣上,还有一个叫轻体力活探索联盟。导语是这么说的:社会惯性里,坐

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四

最新文章

  • ScanA内容安全监测:3月重保单位接入已超100家

  • 重保在即,内容安全监测先行。知道创宇ScanA内容安全监测立足监管单位、政府、企事业单位客户对内容安全保障的实际需求,依托知道创宇SaaS平台,已于2月中旬启动2023年度3月「清
  • 申论晨读经典回顾:当中国梦想进入世界坐标

  • 读文章中可以采撷的知识可以明智的道理写文章中可以积累的素材可以模仿的技巧申论晨读(2023省考特别版)【扫码即可了解详情】时评中的申论考点【扫码即可了解详情】内容来源:《
  • 公考面试,这3种心理状态要克服!

  • 笔者曾有过多次公考面试经验,进入体制后,有幸参与过两次招考工作。结合昔日面试经验以及招考过程中的所闻所感,针对3种常见的面试心理,围绕3个“面试关键词”,谈谈自己粗浅的体会
  • 2023公考面试必备20句,拿来就能用!

  • 省考笔试结束了国考出分还会远吗懂事的考生已经开始准!备!面!试!啦!面试表达,掌握好“度”很重要。倘若我们用申论答案文本套用到口头表达上,就容易给面试官机械刻板、照本宣科的印