编者按: 生成式人工智能在数字内容创作中的深度介入，有效变革了内容生产方式、提高了内容生产力，成为打造高质量数字内容生态的有力抓手。从生成式人工智能与数字内容创作的互构机制来看，人机协同促成头脑风暴与创意涌现，智能应用有效提高内容创作的可拓展性。然而，生成式人工智能用于数字内容创作仍存在现实障碍，面临着技术惯性依赖造成创新阻滞、数据偏见带来价值误导、数据安全风险消解主体互信等突出难题。
以经过大型数据集训练和优化的机器学习模型为内核，生成式人工智能可以为数字内容创作提供全新解决方案。生成式人工智能在数字内容创作方面的突出优势，能够有效提升内容生产效率，一定程度上将人力从内容生产环节解脱出来，进而抽出更多精力投入至创意思考、策略制定，助力打造高质量的数字内容生态。
但生成式人工智能在创意输出、价值引领、数据安全等方面亦面临复杂挑战，必须谨慎对待。据此，有必要厘清生成式人工智能与数字内容创作的耦合机制，继而发掘其中的结构缺陷和认知黑箱，为明确技术应用界限、完善技术赋能机制找寻可能的切口和方法。
一、问题的提出
面对生成式人工智能迅猛发展所带来的新机遇、新风险，围绕如何防范和规避生成式人工智能的潜在陷阱及消极影响，世界各国纷纷制定实施方案，为生成式人工智能治理提供方向参考与遵循。如中国的《生成式人工智能服务管理暂行办法》、欧盟的《人工智能法案（AI Act）》等。聚焦生成式人工智能在数字内容创作领域的应用实践及风险防范，学界主要循着以下三种路径进行探讨。
一是生成式人工智能影响机制的研究路径。此研究路径对于生成式人工智能赋能数字内容创作的探讨，已经跳脱出单纯强调生成式人工智能具体功效的论断，着重从跨学科和人机协同视角出发，思考如何依托生成式人工智能更好激发创新力、提高生产力。
二是生成式人工智能治理机制的研究路径。此研究路径重点关注生成式人工智能在内容创作领域中的风险识别与治理，实证主义色彩凸显，但缺乏对技术应用现实挑战与潜在风险的系统性审视。
三是生成式人工智能应用前景的研究路径。此研究路径侧重关注生成式人工智能未来发展趋向及应用领域，提出了技术应用场景的诸多可能性，然而，对如何推进生成式人工智能健康可持续发展，以及如何有效规避和消除风险挑战，尚未提出系统性的解决方案。
二、生成式人工智能与数字内容创作的互构机制
新一轮科技革命中，生成式人工智能持续解构和重塑数字内容创作生态，其自然语言处理和机器学习算法的不断升级与突破。生成式人工智能与数字内容创作的融合互构，有助于提升技术智能化水平、提高内容生产力、增强用户参与度，二者在逻辑交叉与耦合中共同构筑数字内容创作新景观。
其一，人机协同促成头脑风暴与创意涌现。生成式人工智能的迭代升级推动人机高效协同和适配，为数字内容创作领域带来新一波的创新浪潮。生成式人工智能以人类实践经验和创新提示为基础，助力人类创作者突破自身创新障碍。
其二，智能应用提高内容创作的可扩展性。一方面，生成式人工智能的介入使得规模化的内容生产成为现实，且能保障较高质量和内容多样性，促进内容创作在效率和交互性等方面得以延展。另一方面，生成式人工智能在内容创作过程中能够有效强化与目标受众的交互性，打造个性化交互场景。
其三，全维介入突破内容创作的叙事界限。生成式人工智能通过革新内容创作流程、提供个性化体验、强化受众参与度等重塑数字内容创作环境，其对内容生成的全方位融入，促使内容创作不断突破既有界限，向更广阔视野延展挺进。
其四，自适应动态评估反哺内容生成决策。基于生成式人工智能的内容输出并非总是最理想或最准确的结果，后续仍需要一定程度的人工干预。在人工干预和引导下，生成式人工智能能够对所创作内容进行原创性、标准性和结构性检查，并结合检查结果进行针对性优化，以确保所输出内容符合用户需求。
三、生成式人工智能用于数字内容创作的问题诊断
正如其他创新工具一样，生成式人工智能在初期应用阶段也面临着不少问题，且随着应用逐渐深入，一些挑战愈发凸显。主要表现在以下几方面：
技术使用存在惯性依赖，造成创新阻滞。生成式人工智能的高效率使机器生产内容的比重不断增加，人类创作者对其依赖程度亦有所加深。但生成式人工智能在理解和欣赏人类情感、经验和文化背景的细微差别方面，较之真人仍有较大差异。这就导致生成式人工智能难以复制或替代现实生活中的经验感知及人际互动，一定程度上造成积极情感刺激的匮乏，这对于激发人类创新创造意识无疑是无益的。基于训练数据集和算法模型的生成式人工智能，往往依托现有数据中的创作模式和风格进行内容生成，在为目标群体进行个性化内容供给时，将加速和固化圈层效应，最终导致群体极化和思维固化，从而扼杀人类创造力，于一定范围和时期内造成创新阻滞。
训练数据或存潜在偏见，带来价值误导。在推动生成式人工智能迭代升级的同时，生成式人工智能模型可能无意中延续或放大其训练数据中潜藏的人类偏见，包括关于性别、种族、文化等的刻板印象，潜移默化中将对目标受众形成价值误导，亦容易给社会主流价值带来消解和冲击风险。另外，生成式人工智能在决策制定方面缺乏透明度，从而出现“决策黑箱”。由于人类创作者、目标受众及监管部门等主体难以了解人工智能内容生成方式、算法规则及其所使用的数据源，也就无法审核其内容生成过程，难以验证或识别偏见。
数据安全风险全域多发，消解主体互信。广泛的数据来源与庞大的数据规模也引发各界对数据安全的严重担忧。尤其在模型训练及开展服务过程中，不加限制的数据输入势必会带来安全风险。在生成式人工智能应用过程中，一些看似由人工智能生成的内容会诱骗用户点击，进而会无意中启动恶意软件，且这种恶意软件和网络攻击，较之传统网络安全风险更难检测、识别和应对。生成式人工智能在数字内容创作中出现的“深度伪造”问题亦需引起重视。“深度伪造”内容包括图像、视频等，其中不乏谣言和虚假信息，存在侵蚀公众信任、暗藏商业欺诈、操控舆论等风险。
合成人格凸显价值主张，伪造情感纽带。生成式人工智能可以塑造出具有较好交互性与较强逼真度的合成人格，如数字人主播、虚拟主持人、聊天机器人等，并与用户建立互动关系。合成人格在丰富人机交互多样性的同时，也在一定程度上挑战或冲击人际关系的真实性，其通过营造与用户之间的虚拟情感纽带，容易使用户对其形成依恋，且这种依恋会影响用户在现实世界的社交关系。另外，基于生成式人工智能塑造的合成人格，其与用户的交互过程及方式，将映射至用户的其他人际交往。合成人格的不当言论或建议，可能严重伤害用户身心健康，甚至在社会层面带来连锁性负面影响。
四、生成式人工智能助力数字内容创作的推进策略
生成式人工智能正深刻重塑着数字内容创作方式，以及基于数字内容的人机交互方式，其崛起表征着新时代的重大技术进步与变革。随着各类模型应用在数字世界中广泛出现甚至在部分领域占据主导，其将对数字内容生态建设带来颠覆性影响。但生成式人工智能的具体应用也带来了诸多风险与隐忧，需要积极应对。具体措施如下：
鼓励国际开放创新，促进良性竞合。全球互联互通场景下，挖掘和释放生成式人工智能的发展潜力，在关注和激励本土创新的同时，亦应鼓励国际开放创新。在技术开发环节，鼓励适当程度的开源合作，尤其要同国际头部研发企业或机构在数据、算法与平台方面开展深度交流合作，以开放性研究合作突破技术瓶颈。探索主导或参与生成式人工智能开发及应用的标准制定工作，以确保技术的稳定性、互操作性和可持续性，同时减少和化解非必要的技术竞争与摩擦。围绕数字内容创作，应进一步鼓励国际范围内的跨学科创新合作，将生成式人工智能与社会学、医学、心理学、环境科学等学科相结合，于人类命运共同体视角下推动解决全球性挑战与问题。
优化内容评价机制，增加优质供给。生成式人工智能助力人类创作者更高效地进行内容生成，一定程度上加剧了创作者之间的竞争。而由于内容制作成本的整体下降，数字内容正变得更加商业化，不乏出现同质、低质内容泛滥现象，用户对高质量内容的需求与优质内容供给不足的失衡局面亟待化解。对此，应着重优化内容评价机制，提高优质内容产出及可见度。一方面，注重数字内容的可追溯性，并对内容来源进行确权，为高质量的数字内容创作保驾护航。另一方面，注重强化人的创造力介入，利用机器与人工的双重比较优势，促进发散性思维，发掘新视角、拥抱新想法，从而为目标受众提供高质量的内容服务。
推进多方协同治理，纠偏技术异化。生成式人工智能的深度应用，将引发全球力量平衡与结构的根本性变化。面对技术异化带来的巨大挑战，亟需相关各方加强协同，在平衡好权利与责任的基础上，共同建立技术治理规范性框架，降低或消除其潜在风险。参与主体方面包括政府监管部门、科技研发企业、技术应用平台、数字产业协会、内容策划与创作者等，治理规则方面应坚持模块化、全维化、动态化治理并重，争取治理效能最大化。同时，要结合技术发展趋势，增强治理制度或政策的动态性、灵活性，并着重提升其在技术治理过程中的自适应和自我纠正能力。
强化人本理念引领，回归本质需求。生成式人工智能为数字内容创作带来革命性转变，但这并不意味着其要取代人类。反之，生成式人工智能作为人类进步的工具和阶梯，应始终以人为中心，以满足人的本质性需求为目标。强化生成式人工智能对数字内容创作的赋能作用，需要进一步强化人机协同合作，逐渐将人从机械性、事务性任务中抽脱，使人更加专注于与创造力、专业知识、关系建构等相关的事项。同时，要将目前内容创作的效率导向、规模导向、流量导向，转至面向高质量发展的共创导向、创意导向和价值导向，不断强化人在这场智能化转型大潮中的主导作用。
五、结 语
生成式人工智能应用于数字内容创作，深刻变革和重塑着原创性与想象力的概念本身，其能够显著促进人类的创新创造意识，拓展内容创作的叙事界限。但是作为一把双刃剑，模型应用的背后亦潜藏巨大风险，或对数字内容产业、价值观念、社会秩序等带来挑战和冲击。
克服这些问题的关键在于对技术开发及应用全流程进行系统监测、动态改进和开放对话，有效放大其应用优势，避免落入技术误用的陷阱。此外，健全技术治理框架应作为生成式人工智能未来部署的重点。重点关注生成式人工智能模型中算法的真实性、透明度与公平性，从而防止决策过程及生成结果存在偏见。完善生成式人工智能监管的制度体系，明确技术开发与应用的底线和红线，并建立可追溯机制和问责机制，引导形成负责任的生成式人工智能发展生态，确保生成式人工智能在合理框架内持续向高质量发展挺进。
作者简介：郭海威，中国社会科学院新闻与传播研究所助理研究员
胡正荣，中国社会科学院新闻与传播研究所所长，教授
载《传媒观察》2024年第11期“在场·AI 及社会应用”专栏，原标题为《生成式人工智能赋能数字内容创作：逻辑耦合、实践偏差与规范进路》。原文约14000字，此为节选，注释从略，学术引用请参考原文。“传媒观察杂志”公号全文链接：https://mp.weixin.qq.com/s/hagf6XHyTczHIkk266BBaw。
