导读
2023年的科技圈,被ChatGPT卷起了一场龙卷风。
ChatGPT的强大能力无需赘言,诗词歌赋、琴棋书画、文学创作、剧本广告、音乐编曲、项目规划、数据周报……在强大能力的支撑下,ChatGPT在全球引发了一场波及范围极广的全新变革:
去年12月,美国数字媒体巨头BuzzFeed宣布裁掉了12%的员工,决定使用ChatGPT来进行部分内容创作
2月4日,以色列总统艾萨克·赫尔佐格发表了部分由人工智能撰写的演讲稿,为首位公开使用ChatGPT的领导人
2月13日,据多家媒体揭露,ChatGPT通过谷歌面试,年薪突破18.3万美元
近期,百度/腾讯/阿里/美团/京东/网易/科大讯飞/360等国内巨头纷纷展开类ChatGPT布局
就在ChatGPT高歌猛进的同时,纽约教育界打响了反ChatGPT的第一枪,并得到了中美欧教育界的迅速跟进。与此同时,检测AI生成文本的全新算法DetectGPT也应运而生。一时之间,从教育界蔓延至科技届,一场声势浩大的反ChatGPT风暴即将形成。
为什么要反ChatGPT?
《纽约时报》1月16日报道,来自北密歇根大学的教授Antony Aumann在照常批阅世界宗教课的论文时,注意到其中一篇颇具“最佳”论文气质的作业,文章段落整洁、论据有力而且论证严谨。由于文章过于完美,Aumann教授觉 得事有蹊跷,便当面问这个学生是不是自己写的论文。学生无奈承认: 这篇论文是使用ChatGPT写的!
在欧洲,巴黎政治学院(Sciences Po)率先行动。该学院在1月末发出通知,禁止各校区全体学生及教职工利用ChatGPT完成教学任务。院长谢尔盖·古里耶夫(Sergei Guriev)表示:“学术领域严禁在没有透明引用的情况下使用ChatGPT或任何其他使用AI的工具。”如有发现违规,学生可能被学校开除,甚至被法国高等教育体系开除。
在此之后,德国图宾根大学在一封内部邮件中宣布,由于担心ChatGPT软件的使用变得不可控制,学校决定严格限制这款人工智能的使用。由 ChatGPT 生成的文本不得用于学习和考试。
在澳大利亚,新南威尔士州、昆士兰州、西澳洲和塔斯马尼亚州等多个州已宣布禁止在校内使用ChatGPT。西澳州教育部总干事丽莎·罗杰斯(Lisa Rodgers)告诉澳大利亚广播公司珀斯电台,将采用防火墙封锁ChatGPT。
在中国,《暨南学报(哲学社会科学版)》《天津师范大学学报(基础教育版)》也发布相关声明,提出暂不接受任何大型语言模型工具(例如:ChatGPT)单独或联合署名的文章,或建议对使用人工智能写作工具的情况予以说明。
面对教育界的全面“封杀”,OpenAI首席执行官阿尔特曼(Sam Altman)近期表示,OpenAI正在研发帮助学校识别人工智能参与作弊的技术。全球教育界也在是否将ChatGPT彻底从教育领域清除“吵翻了天”。
英国剑桥大学分管教育的副校长巴斯卡尔·维拉(Bhaskar Vira)教授在接受剑桥大学校报(Varsity)采访时表示,人工智能是一种供人们使用的工具,大学禁用像ChatGPT这样的人工智能软件并不“明智”。
北京师范大学教育学部副教授张进宝认为,就教育系统中某些特殊和具体的应用情形,由ChatGPT的使用所引发的不良反映,并不能说明太多问题。
“反ChatGPT”成新热门?
尽管由美国教育界引发了反ChatGPT浪潮,但对ChatGPT的担忧不仅仅体现在教育界。从资本市场上来看,经历了近两周对ChatGPT等人工智能的热炒,2月10日,“反ChatGPT”成为新的热门概念。“数字水印”等提供相关解决方案的公司领涨板块。
相比人工智能,数字水印的发展历史同样悠久。据了解,该行业发展始于上世纪90年代末,当时美国实验室开始从非数字信息中提取数字水印信息。到1997年,英国物理学家已开发出可在多媒体内嵌入的数字水印技术。
2000年以后,数字水印逐渐得到国内外企业的重视,由于其在避免知识产权抄袭、版权保护等方面应用性能非常出色,其应用领域也开始不断扩大,出现了许多新的数字水印应用,其中包括军事保密、防伪标志、网络安全等。
近年来,随着数字技术的快速发展,数字水印技术也开始了新一轮迭代。时至今日,据公开资料,以太坊、Tezos、EOS、Cosmos、Stellar、Hyperledger、Cardano、NEO等区块链网络都可以提供数字水印服务。据相关资料显示,在未来,在智能家居、物联网方面,数字水印都可以提供保护。
受“数字水印”概念影响,截至2月10日收盘,汉邦高科涨停,金运激光、汉仪股份领涨。然而,2月13日,汉邦高科、金运激光、汉仪股份纷纷暴跌3%以上。由此可见,在ChatGPT与“数字水印”的竞争中,ChatGPT无疑更受市场青睐。这一方面是由于ChatGPT的强大技术已经眼见为实,另一方面也是因为数字水印仍然处于概念先行的阶段。
尽管如此,清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正仍然认为,针对目前潜在的风险及监管隐患,加入“数字水印”不失为重要的解决方案之一。
事实上,ChatGPT的开发商Open AI也在考虑对AI系统生成的内容加个水印,来辅助辨别文本是出自AI还是人类之手。然而,在这之前,Open AI率先发布的新产品却是一个 AI 内容检测器。
1月31日,OpenAI官宣了区分人类作品和AI生成文本的识别工具上线,该技术旨在识别自家的 ChatGPT、GPT-3等模型生成的内容。据了解,该检测器会在完成判断后给出「很可能、可能、不清楚、不可能、非常不可能」5 种答案。
然而,检测器目前看起来准确性堪忧:OpenAI 在博客里指出 AI识别AI高置信度正确率约为26%。但该机构认为,当它与其他方法结合使用时,可以有助于防止AI文本生成器被滥用。
知名ML和AI研究人员Sebastian Raschka试用之后,给出了「It does not work」的评价。他使用其 2015 年初版的 Python ML 书籍作为输入文本,结果显示如下。
尽管如此,已经越来越多的学者、实验室、大公司都在行动起来,致力于通过技术手段努力辨别 AI 内容。
例如,普林斯顿的一名大四学生 Edward Tian创建了一款专怼AI作弊的新代码 ——GPTZero(“清零GPT代写”),可以用算法判断一段文字到底是AI还是人写的,该程序在1月初面世以来,引起了众多风投和舆论的关注。
目前,包括来自哈佛大学、耶鲁大学和罗德岛大学等超过6000名教师注册使用了Tian创建的GPTZero程序,可见这一需求的潜在市场之广阔。
除此之外,Google 为了不在人工智能发展中掉队,据称将上架 6 个 AI 相关应用,其中就有检测应用;抄袭检测器Turnitin正在开发自己的 AI 生成文本检测器……
总的来看,反ChatGPT市场不容小觑,正处于快速发展阶段。然而,相较于ChatGPT的火热,反ChatGPT大潮仍然任重道远,并可能最终昙花一现。那么,在ChatGPT的带领下,AI会取代人类吗?
AI能取代人类吗?
尽管各大媒体头版头条连篇报道ChatGPT的强大,很多人都在担心ChatGPT会彻底改变我们的生活,甚至于成为抢走我们工作。然而,这或许是大家多虑了。
中国电信首席专家、美国贝尔实验室院士毕奇日前接受媒体采访时表示,ChatGPT是一个开源的自然语言处理模型。“大家都觉得ChatGPT很神奇,但实际上,它使用的并不是一种有智慧的技术”。
北京师范大学未来教育高精尖创新中心执行主任余胜泉教授指出,ChatGPT转变了一般性的知识生产,但不是原创性的。虽然无法做到原创性的知识发现,但有了海量知识后,对于一般个体不知道的问题,ChatGPT都能给出相对有逻辑的解答。未来两三年,ChatGPT应该还会贯通文本、声音、图片、视频等多模态信息,将推动知识生产效率大幅提升。
事实上,ChatGPT为代表的AI必将取代部分人工。但对于不知道ChatGPT究竟能取代什么的恐惧,才是人们担忧的核心。
———— 关注我们 锐智同行 ————