ChatGPT对它写的内容确定吗？大模型安全吗？抢滩万亿人工智能（AI）赛道，机遇在哪里？生成式人工智能的出现，为深度智能世界揭开序章，人类真的准备好了吗？

在9月7日开幕的2023外滩大会上，近20位“两院”院士、诺贝尔奖和图灵奖得主齐聚，聚焦人工智能、大模型、抗量子密码、隐私计算、图计算、安全智能、区块链、Web3.0等前沿数字科技及产业实践，展开深度探讨交流，为上海科创中心建设建言献策。

上海市副市长解冬在开幕式上表示，金融科技创新发展既是强化全球资源配置能力的核心领域之一，也是科技创新策源的重要领域。上海将以更大力度推动具有全球重要影响力的金融科技中心向更高能级迈进，为上海国际金融中心发展注入新的动力。

给大模型念“紧箍咒”

在深度智能时代，AI会威胁人类，甚至替代人类吗？随着生成式人工智能的涌现，这一问题成为绕不开的议题。“机器学习泰斗”、美国科学院和美国工程院院士迈克尔•乔丹（Michael I.Jordan）不认为有一种所谓的超级电脑会替代人，应该把技术看作是一个工具来赋能人类，建议关注集体的智能体。

“AI的本质是集体，而不是个人。” 迈克尔•乔丹表示，我们需要建立一个协作式、去中心化的系统来实现集体智能，并设计一个机制使之公平、稳定、可扩展。我们在日常生活中经常遇到不确定性，让去中心化的系统能够帮助我们更好、有效地应对日常和世界当中的不确定性，这才是我们亟待解决的问题。

中国科学院院士何积丰认为，模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”，存在安全问题。大模型的安全问题主要是在未经同意的情况下，收集、使用和泄露个人信息。

“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”

何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给模型不同的奖励信号，引导模型的高质量输出；另一种方式，事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐”。

抢滩万亿AI产业赛道

给大模型念“紧箍咒”后，AI和产业融合将解锁万亿级美元赛道。麦肯锡中国区主席、全球资深董事合伙人倪以理指出，今年以来，生成式AI的技术风暴在全球席卷开来，有望开启一场关系到未来8-10年的新一轮技术和产业变革。AI对全球经济的潜在收益将达到25万亿美元，是当前所有企业最重要的赛道之一。

在专家看来，AI、区块链、数字人民币等新技术、新场景的应用，会在实体领域创造很大价值。北京智源人工智能研究院顾问、美国国家工程院外籍院士张宏江说，AI、区块链和数字人民币的结合，会带来未来更加自动化、更加可信、更加有效的金融服务体系。

联合国开发计划署可持续金融中心高级顾问迈克尔•舍伦则指出，物联网和产品本身的互联互通，可以提升信用，新技术的应用，可以促进绿色融资，并降低融资成本，帮助我们创造一个更可持续的世界。

蚂蚁集团董事长兼CEO井贤栋分析，隐私计算的突破，能够实现数据价值的交换，而非数据本身去交换，意义极其巨大。蚂蚁现在有很多商用化的产品，确保数据可用但不可见，可计算但不可识。希望未来有一天，加密计算的成本和今天的明文计算一样，效率比明文计算还高，那个时代会真正迎来数据时代的大爆炸。

中国科学院院士、复旦大学副校长张人禾认为，科学智能已经成为人工智能的重点发展方向，科学智能的发展正在从部分机构的探索变成产学研各界的共识，从点状突破转变为系统布局，科学智能已经成为人工智能的重点发展方向。面对 “AI时代”的来临，“单打独斗”已不适应大科学时代的科技创新，要进行“有组织科研”，最大的优势在于布局建设大平台。

助推上海科创能级提升

院士以及行业专家在外滩大会聚焦前沿数字科技及产业实践，也为上海科创中心建设探查了方向。上海市副市长解冬表示，‍‍‍‍‍‍‍‍‍‍‍‍‍‍上海将以更大力度推动具有全球重要影响力的科技金融中心向更高能级迈进，为上海国际金融中心发展注入新的动力。

一是强化核心技术，创新资源。将紧密围绕金融创新的需求，培育和集聚一批优质金融科技创新企业科研平台和重点项目，支持国内外科研院所、金融机构、金融科技企业、科技企业等开展广泛合作，在沪建立联合实验室等公共研发平台，加强跨界协同攻关，进一步深化大数据、人工智能、区块链、云计算等数字技术的应用，夯实金融科技创新发展的基础。

二是推动金融科技应用示范。上海国家级金融要素市场和金融基础设施集聚，拥有各类中外资持牌金融机构超过1700多家，为上海发展金融科技提供了充足的发展动力、丰富的参与主体、海量的金融数据以及广阔的应用场景。上海将继续在国家金融管理部门的支持指导下，依托金融科技重大试点在沪开展的契机，加速金融领域数字化转型升级，推动金融高质量发展，打造金融科技应用示范城市。

三是聚焦高能级金融科技企业。目前上海已经集聚了一大批国内的重要金融要素市场和重要金融机构的金融科技子公司，以及大批金融科技企业的独角兽和一批技术细分领域的优质科技企业，上海将继续深化制度供给，创新监管方式，培育宽容的生态，努力为各类金融科技企业在沪发展创造良好的生态环境。

四是打造金融科技人才高地。党的二十大报告深刻指出，科技是第一生产力，人才是第一资源，创新是第一动力，为进一步深化上海金融科技中心的建设指明了方向。未来将继续加大人才培养和引进的力度，建设人才实训基地，加快构建全生命周期的人才培育认证体系，努力把上海打造成为金融科技人才向往之城和交流交汇的首选之地。‍‍‍‍‍

（本报记者 余继超）