作者：喻国明（北京师范大学新闻传播学院教授，北京师范大学传播创新与未来媒体实验平台主任，中国新闻史学会传媒经济与管理专业委员会理事长；本刊学术顾问）
来源：《青年记者》2023年第11期
当前网络传播中充斥着认知失序现象。例如，认知超载——用户面对以比特秩序构建与生产的超大型、自涌现信息网络时，失去了“看什么”的秩序判断，陷入注意割裂、认知拥挤的超载境况；认知极化——用户在面对以比特秩序进行关联与分类的多层次信息网络时，失去了“何为公共”的秩序判断，陷入自我认知偏好的茧房中；认知混沌——用户在理解以比特秩序运行的信息时，失去了“何为真”的秩序判断，陷入难辨乃至不辨真假的漩涡中。而AIGC作为潜力巨大的信息内容生产方式，已站在了时代发展的风口浪尖上。
AIGC，全称“AI generated content”，意为人工智能生成内容。可以说，AIGC是数字智能时代一种全新的内容生产工具和生成方式。一方面，从长远看，人类的社会实践边界有多宽，它涉及的内容、范围、逻辑就能延伸到什么地方，极大地扩增了用户在内容生成领域的自由度，在未来必将成为社会生产与内容消费的一种基础形态。但从另一方面看，其大规模的内容生产必定会在相当程度上造成人们“认知混沌” 的问题。本文试图对此展开分析，并就其具有操作性的解决方案进行探讨。
AIGC下的深度合成：一体两面的“双刃剑”
AIGC正在成为继PGC和UGC之后，一种更为高效、便捷的新型内容创作方式，AIGC的技术应用必将成为内容生产的强大引擎。当下，AIGC的内容生成技术已全面覆盖了文本、图像、音视频、代码、游戏、3D以及多模态内容生成，并被融合到toC和toB等商业场景下使用。新技术赋能使传媒和文化创意产业的内容生产效率提升、生产成本下降、更多创意涌现。AIGC的广泛应用引发了一场内容生产变革，让数字内容生产朝着创意更多、效率更高、成本更低的方向发展，同时也带来了新的挑战。从生成内容来看，AIGC中不仅包含基于线索的部分生成，还包括完全自主生成以及基于底稿的优化生成。也就是说，AIGC所生成的内容中不仅包括常见的图像、文本、音频等外显性内容，同样也包括策略、剧情、训练数据等内在逻辑内容，其最为核心的指向是深度合成技术。根据2023年1月10日施行的《互联网信息服务深度合成管理规定》，利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术统称为深度合成技术。2023年4月11日，网信办发布《生成式人工智能服务管理办法（征求意见稿）》采用了近似的定义，将生成式人工智能定义为“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。必须指出，AIGC下的深度合成技术所带来的可能风险不容忽视。前不久海外社交平台发布了特朗普“被警察围捕”的AI生成图片，照片看上去极具真实性，随后引发网友恶搞浪潮。因此，AIGC下的深度合成在各种应用场景下的生成内容中，可能会出现错误信息、虚假信息以及信息客观真实性与内容安全性等问题。技术发展的最终目的仍是服务于人类的发展，如何充分利用好AIGC技术，应对可能存在的风险，应是AI开发者、从业者、信息平台和每个AI技术的使用者共同参与解决的。
AIGC促进AIGC下深度合成产品发展的元问题：来自内容生产的供给侧与消费侧
构建AIGC发展体系，首先必须提出的是其产品的元问题。所谓元问题，是指最基本、最具全局影响的问题。AIGC在国家、社会、私权利三个层面产生的风险，概括为两个元问题：一是内容供给侧，主要指内容版权的确认及收益的分配；二是内容消费侧，主要是指内容认知的认知效应以及由此带来的社会后果。本文兼顾前者，重点讨论后者。一般而言，人们内容消费的主要目的有三：一是对于现实的认知与把握；二是对于艺术的审美与熏陶；三是对于心理的解压与休闲。社会科学中有所谓“角色理论”，即关于人的态度与行为怎样为其在社会中的角色地位及社会角色期望所影响的社会心理学理论，是试图按照人们所处的地位或身份去解释人的行为并揭示其中规律的研究领域，属于从符号相互作用论发展出来的一个分支。具体到内容消费而言，人们对于某个信息有什么样的“角色认知”，便会产生什么样的认知框架及由此产生的认知效应。AIGC的深度合成需要依托于海量的文本数据，通过对数据集进行监督学习、强化学习从而优化输出的内容，为用户塑造全新的“角色认知”。这种塑造一方面在不断碰撞出新的创意，另一方面也会因真伪信息混淆，在传播中产生负面效果。如何从供给侧与消费侧协同解决AIGC可能存在的负面效果，让技术更好地发挥创意作用，是进一步促进AIGC发展的关键。
“信息助推”范式下的内容标记是解决认知失序现象的有效思路
如何解决个人在AIGC背景下认知失序的问题？即如何让处于比特秩序的内容生产与用户的认知惯性相匹配并起到矫正的作用?目前，这一研究议题已吸引了包括传播学、心理学、行为科学等多领域的学者展开探索。Nature于2020年发布的一篇名为《行为科学如何促进在线真理、自主和民主话语》（How behavioural sciences can promote truth, autonomy and democratic discourse online）的文章中，综述了该话题下的现有成果，并提出了“信息助推”（information nudge）的理论议题。具体来说，研究者认为，要让用户在“比特无序”的信息世界中获得认知的秩序感，需要给用户提供超出信息内容的额外认知线索（cognitive cues）来帮助用户理解信息，因为行为科学的“非理性人”假设认为用户的认知秩序是可以被外部信息干预与影响的。据此，Lorenz-Spreen等人进一步提出了“信息助推”的概念——所谓“助推”，即在不干扰用户自由选择权的情况下，通过设计用户的“选择架构”来塑造行为；信息“助推”，即通过设计信息内容的标识来重塑在线信息情境，影响用户的行为与感知。
目前，已有不少涉及传播学议题的信息“助推”研究出现，这些研究均证明了信息“助推”的有效。例如，有研究发现在用户信息消费时提示准确性警告（alert），能够有效提升人们发现虚假信息的能力；还有研究发现给用户提供额外的“众包投票系统”、或是标注有关好友的信息消费情况（如浏览人数、阅读时长、喜爱度）等，可以有效抵消错误共识效应。Garrett Morrow等人（2022）进一步将这些已有的“信息助推”实践与研究概括为一个关于“内容标记”（content labeling）助推的研究范畴——数字时代的“内容标记”是基于算法、通过大数据算力自动生成，它是一段关于信息内容的“附件”（attachment）或一段额外的披露信息（可以是提示、声明等），旨在为用户提供该内容理解的“情境”或“参考”。这些内容标记可以在不干扰用户自由选择权的情况下，通过重塑用户的信息情境来影响用户的行为与感知。
对AIGC下的深度合成产品进行规范化标注：内容生产的供给侧与消费侧兴利除弊的重要举措
对于内容生态的规范化主要分为三个层次：技术可供性规范——功能可供性规范——价值可供性规范。显然，AIGC内容的规范化，需要统筹包括AI从业者、AIGC工具开发者、工具部署者、信息平台、媒体、用户的全员参与。就平台面临的压力和挑战而言，是如何在海量信息和内容中去帮助内容接收者识别AIGC的内容，以及如何通过设置平台规则去引导用户规范生成和使用AIGC的内容，这需通过预防风险，降低虚假错误信息对用户、消费者带来的干扰和侵害。由此，平台在智能化内容生成的浪潮下的重要占位是提供社会治理的功能可供性。而为用户上传自行生成的AIGC内容提供规范化的标识无疑是平台履行社会治理责任的重要举措之一。如何快速分辨AIGC内容和信息？相对简单的办法就是给这些内容打上水印标识。我们欣喜地看到，最近抖音拿出了方案，发布《AIGC平台规范暨行业倡议》及AIGC元数据规范，将提供水印标识方便用户识别AI生成内容，虚拟人直播需有真人实名认证，重点治理侵权造假、违背科学常识等违规内容。这有助于相关行业共同建设AI内容识别标准，值得全行业推广。需要说明的是，除了信息平台的率先探索，还需要包括AIGC工具开发者在内的多产业链主体参与全过程式的打标。从全社会治理成本以及全产业链治理效果考虑，如果AIGC工具开发者从内容生成的源头上就对所生成图片、视频等内容有所标识，是效果最好、成本最低的。抖音等信息平台支持用户打标，已经属于下游阶段，存在大量用户未必自觉配合为AI生成的内容打标，而信息平台难以识别出平台上哪些是AIGC、哪些是现实图片和视频的难题，可能影响对AIGC的辨识、区分效果。
从国际上看，规范AIGC深度合成内容，给深度合成内容打上水印标识、方便用户一眼分辨，也是通行的做法。美国近年来亦提出了一些旨在规范深度伪造的法案，例如2018年美国参议院提出的《2018年恶意伪造禁令法案》（Malicious Deep Fake Prohibition Act of 2018）、2019年美国众议院提出的《深度伪造责任法案》（Deepfakes Accountability Act）、2019年6月美国两党议员分别在众议院、参议院同时提出《2019年深度伪造报告法案》（Deepfakes Report Act of 2019）、2020年《识别生成对抗网络法案》（Identifying Outputs of Generative Adversarial Networks Act）等。这些法案中不乏创新性规定，例如《深度伪造责任法案》提出“任何含移动视觉元素的先进技术虚假内容应包含嵌入的数字水印，清楚地标识含更改的音频或视觉内容”，视听内容要求披露不少于1份的清晰文字陈述，表明该内容包含被更改的视听内容，并简要说明更改程度；在该内容的完整时间内，以清晰可读的文本在图像底部进行书面陈述，标识含更改的音频和视觉内容，并简要说明更改程度。音频内容要求在该内容的开头部分以清晰的口头陈述表明包含更改后的音频内容，并简要说明更改程度；如内容超过两分钟，则此后每两分钟内需要有不少于一条附加的清晰口头陈述和附加的简明描述。
概言之，AIGC行业迅速发展，对接收AIGC讯息的媒介和受众的媒介素养提出了新的要求。AI行业从业者、开发者、信息平台应共同参与，让技术更好地服务于人类，传媒从业人员与受众在信息传播过程中应不断提升媒介素养，共同营造健康的网络信息环境。
（北京师范大学新闻传播学院博士研究生刘彧晗对本文做出了贡献）
本文引用格式参考：
喻国明.生成式内容生产崛起下社会协同治理的一项重要举措——试论全过程式AIGC标识的重要性与必要性[J].青年记者,2023(11):74-76.