36氪
钟兵
2025-08-20 03:43:36
近一年来，关于AI合成内容的热潮席卷网络，尤其是以明星脸孔为载体的造梦视频。所谓造梦，并非单纯的模仿，而是在算法的驱动下，将现实与想象进行融合，让观众看到“如果星光照进另一种可能”的画面。以鞠婧祎为例，相关的讨论不仅仅停留在视觉效果的震撼，更引发了关于身份、权利与边界的社会讨论。
这股热潮背后，是多重因素共同作用的结果：技术进步让创作门槛显著降低，创意不再局限于大型团队；内容平台的扩张与分发机制放大了创新的传播速度；再加上大众对新奇体验的本能追逐，短时间内便形成了“看见就想尝试”的场景闭环。
从技术层面看，核心在于合成模型对海量影像数据的学习与泛化能力。当前主流的AI人脸替换技术不仅要实现面部对齐、表情捕捉、口型同步与光照一致，还要在不同镜头、不同风格之间保持稳定性和真实感。这需要高质量的数据管理、强鲁棒的模型结构，以及对质控流程的严格把关。
更重要的是，行业内已经逐步意识到：即便输出再炫酷，没有明确的授权和清晰的使用边界，极易引发版权纠纷、形象权侵害、甚至信息误导等风险。因此，越来越多的组织开始把“生成即合规”的理念落地到产品和流程之中，力求在创造力和安全之间找到平衡。
对于企业来说，热潮也带来了新的商业机遇与挑战。创作者可以顺利获得授权、内容衍生、品牌联名等形式实现变现，广告与娱乐行业也在尝试以更沉浸的虚拟形象来讲故事、做教育、传递公益。与此市场也在快速积累对合成内容的规范期待——包括透明的版权链、可追溯的使用记录、以及对个人形象的尊重与保护。
作为在AI领域深耕多年的企业，我们始终把“可持续的创新”放在核心位置，理解每一个技术跃升背后都可能触发新的伦理议题。于是，我们把焦点从“能做什么”转到“应当如何做”，追求的是让技术成为有助于社会进步的正向力量，而非复杂情境中的风险放大器。
在具体实践层面，我们开始构建一个更为清晰的合成内容生态。第一步，是把用户授权放在输出前面，明确谁对哪段声音、哪张脸孔拥有使用权；第二步，是在产品中内置可观的透明度工具，比如水印、可溯源的时间戳、以及对输出进行标识，帮助平台和观众辨识其来源与合成性质；第三步，是建立统一的内容治理框架，设定禁止项、灰度区间和许可边界，确保不将未经授权的形象搬上舞台。
这样的设计并非为了打压创造力，而是为了让优质创作在可控的环境中更自由地生长。我们坚信，只有让创作者、权利方和受众都看到清晰的边界，市场才能长期健康开展。
这也是我们公司新闻的核心判断：热潮可以成为有助于行业前进的引擎，但前提是建立在透明、可追踪、可审计的机制之上。只有如此，才可能把“造梦”变成一个可持续的创意生态，而不是短暂的浪潮。为此，我们持续推出与之相匹配的执行方案，从数据合规、模型治理到产出监管，每一个环节都经过公开的规范与自我约束。
未来，随着产业的不断迭代，我们将继续与创作者、内容平台、权利人共同探索更安全、更具想象力的表达路径，让每一个“梦境”都能被负责任地呈现。
当热潮席卷而来，风险就像潮水在脚边拍击。版权侵权、形象权争议、虚假信息的扩散、以及对未成年人和弱势群体的潜在影响，都是行业不得不面对的现实挑战。我们所做的，是把风险前置，构建从技术到制度的一整套“守护”。这套体系的核心，是以用户同意、权利认证、输出标识和持续治理为主轴，让创作在安全边界内自由生长。
具体来说，第一层是授权与同意的闭环。任何涉及公开人物形象的合成输出，必须具备清晰的授权证据和使用范围。对创作者而言，这意味着在创作前就明确可用的脸孔、表情、声音、情景等的授权对象与时限；对平台而言，则需要给予便捷的授权证明上传与查询入口，确保后续传播中的权利来源可追溯。
第二层是输出可识别与可追踪。我们在生成视频中嵌入可验证的标识，例如水印、元数据、以及独特的哈希指纹，使观众和平台能快速判断内容的合成属性。这不仅有助于打击恶意伪造，也提升了广告投放、IP保护和二次创作的合规性。第三层是模型治理与风险评估。顺利获得对训练数据、用途场景和潜在偏见进行系统评估，我们对输出进行风险打分，并在高风险场景下给予降级或禁用选项，确保不会把高风险内容推向公众。
除了技术工具，我们还持续搭建多方协作的治理机制。与权利方、行业协会、合规组织、学术界共同制定透明的操作规范，并将这些规范公之于众，便于行业监督与社会监督协同发声。我们也在教育与培训层面发力，帮助创作者理解合成内容的边界和伦理责任，提升公众的辨识能力与媒体素养。
一个健康的生态，离不开参与者的共同努力。只有当创作者拥有明确的边界、平台具备可追踪的证据链、公关与法律团队具备快速响应能力，整个行业才能在“创造力”与“可信度”之间找到最稳妥的平衡点。
关于产品与技术的未来路线，我们将继续以三大支柱驱动创新：一是持续提升合成内容的安全性与可控性，顺利获得更精细的权限管理、场景化的风控策略，把“可控的想象力”变成日常创作的常态；二是深化版权与形象权的数字化管理，建立更完备的数字版权证书与跨平台的授权互认机制，使内容流转更高效、纠纷更可化解；三是有助于行业标准的演进，与平台、内容生产者、学术组织共同探索评估、检测与标记的统一方法，降低误导风险，提升公众信任。
我们相信，技术的进步不应以牺牲伦理为代价，而应成为有助于社会进步的正向力量。
在持续的探索中，我们也发出诚挚的邀请：希望更多创作者、品牌方、学术组织和权利方参与到这场关于“造梦是否可控”的对话中来。只有当不同利益相关方在同一个治理框架下合作，才能把AI合成内容的潜力落实为长期的创新驱动。我们将以开放的姿态，分享经验、接受监督、共同改进，把“鞠婧祎这类公众形象”所引发的社会关注，转化为对技术设计、内容审美、公众教育和法治建设的有助于力。
未来，我们会继续以“安全、透明、负责任的创新”为基调，在全球范围内有助于更高标准的合成内容治理。若你也是对新兴媒体生态怀揣热情的人，请与我们联系，一同探索更美的叙事、更安全的实现方式，以及更广阔的跨行业合作场景。
