与此同时，同一个人，穿着不同的衣服，“出现”在不同的直播间推销产品，其动作和举止与本人十分相似。这是11月初媒体报道演员温峥嵘遭遇“艾盗版”的场景。 “你是温峥嵘，那我是谁？”他询问，却被直播账号屏蔽。这个案例让公众认识到人工智能也可以成为诈骗的“放大器”。 事实上，这并不是一个孤立的案例。不久前，央视主持人李梓萌的AI形象被利用，进行与事实不符的营销宣传。对此，北京市场监管部门发布了全国首例“人工智能虚假广告案”。这个“首例”的意义并不在于罚款的数量，而是在于揭露了一个迅速扩大的灰色地带——创新与滥用之间的界线需要被拉低。 从“李逵打李鬼”到“眼见为实”，人工智能在释放巨大创新红利的同时，也让社会的基础“信任”受到了前所未有的考验。法律法规和平台政策必须回答同一个问题：当“真实”与“虚假”的界限被算法模糊时，我们如何对真相负责？ 在本次会议厅环节，新华每日电讯思想研究与传播中心邀请法律界和平台嘉宾共同探讨“人工智能改变广告”的法律边界和管理逻辑，试图在多种视角的交锋中找到创新与监管、效率与安全的平衡点。 【本期嘉宾】 张凌瀚 中国政法大学数据法研究所教授 赵景武，北京航空航天大学法学院副教授 李敏 上海汉盛律师事务所 高级合伙人 卢宁gning 化名，短视频平台员工 【主持人】 新华社记者 薛媛 强制标签为何难以阻止“艾力鬼”？ 主持人：公众对于此次盗版事件最大的困惑是：中国网信办、工业和信息化部、公安部、广电总局联合发布的《人工智能生成合成内容标识办法》将于9月1日起实施，明确其中要求对内容进行身份识别。但事实上，为何“艾力鬼”现象仍时有出现？ 赵景武：强制标签制度被寄予厚望，但它不是“万能钥匙”。这只是人工智能管理系统的一个链接。国内大部分AI合规服务实际上都执行了标签要求。真正的问题在于“走弯路”——他们使用泛型利用国外的工具或者私自搭建自己的系统来生成内容，从而避开平台的监管，不受标签机制的约束。 因此，标签制度本质上解决了“可识别的合规来源”，但很难封堵“不可靠的灰色来源”。如果没有全链条的管理，仅仅依靠显性或隐性的识别很难真正构建起信任屏障。 主持人：赵教授指出了标签制度的“回避”问题。李律师，您长期处理前沿案件。从法律执行的角度来看，评分制度的执行难度较大。还有其他原因吗？李敏：主要有三个原因。首先，人工智能技术的特点使得监管监控难度加大。不法商贩花几十块钱几分钟制作出明星带货的视频，然后利用多个账号发布在不同的平台上一遍又一遍地播放它们。不仅传播速度快，还可以通过玻璃翻转、画中画遮挡等方式规避标签要求。 二是平台自我管理的技术和机制上存在局限性。人工智能造假的形式每天都在变化。如今，大多数平台都会事后处理此问题 - 在删除内容之前等待用户投诉和匹配算法。这个速度低于AI作弊速度。 最后一项是目前最困难的：保护权成本太高，违法成本太低。成为假的名人需要聘请律师、公证员和杯子。维权周期长、费用高，赔偿金额往往不足以支付费用。违规者可以通过更改账号来“满血复活”，对违规者的威慑作用不大。 主持人：技术轮换n、平台滞后，维权成本高。陆宁宁女士，从平台的角度来看，真的像外界想象的那样“被动”、“落后”吗？ 鲁宁宁：这不仅是技术挑战，更是信任危机。恶意滥用AI技术能力获取流量和营销牟利，一直是我们平台所反对的不正之风。 平台持续强化显式和隐式AI水印识别检测体系，开发遗忘深度识别模型，对假冒作品进行聚类分析和算法拦截。今年以来，我平台已清理涉及截断滥用AI技术的虚假明星视频10万余条，处理非法账号1400余个。我们知道，人工智能的挑战必须用人工智能来应对。平台管理的目的不仅仅是“封杀”非法视频，而是为了让技术防御比造假快了一步。 “安全港”或“危险信号”：平台责任的限制 主持人：刚才我们提到人工智能造假带来的问题已经从“能不能检测出来”转向“谁来负责”。仅一个平台就屏蔽了超过10万个非法视频。这个数字不小，但公众仍然感觉AI造假似乎是“烧不完的野火”。这背后的争议非常现实：平台只需要遵循“安全港原则”在matconsider报告后删除内容并完成事后补救，还是需要遵循“红旗原则”，即在风险出现之前利用技术提前识别和防范？这两个角色对平台的职责完全不同，直接影响管理的效果。 李敏：“通报-删除”机制是法律规定的最低标准，基本逻辑是被动回应东南。然而，随着人工智能识别溯源技术的普及，“技术不能”的理由变得难以成立。 如果平台在技术上具备识别和筛查能力，但未能采取必要措施，则可能被视为未履行“合理注意义务”。尤其是当平台不仅仅是一个存储空间，而是可以识别算法推荐和内容分发时，更应该承担更多的义务。 在我看来，平台的责任不应该只是“等别人提醒你”，更应该主动、主动。动态预防——从被动的“避风港”到主动的“安全舵手”。 主持人：我们注意到，在实践中，违法行为的判断并不总是非黑即白的。比如，如果生成的AI不是温峥嵘本人，而是一个与他“长得很像”的人，那么平台应该如何定义？ 李敏：这个问题很现实。我的观点是——只要是“可识别的”，就可以构成侵权。 民法典下判断肖像权的关键不在于该人是否“再创造”，而在于能否指向某一自然人。所谓“识别”不仅包括喜欢的面部特征，还包括声纹、身体姿态、妆容、场景风格等综合特征。只要这些特征能让公众误认为是某个人，违规的红线就被跨越了。换句话说，重要的不是“看起来”，而是让人“思考”。 主持人：李律师强调了“前置义务”。赵教授长期研究数字化管理。这个技术问题能解决吗？ 赵景武：数字水印是书写“比特流中的真相”的可行方式。问题在于，一些平台始终以“技术难度大、成本高”为由推迟落地。这与早些年一些网络平台面对涉嫌违法信息时的态度如出一辙。从法律角度来看，标签规定明确了平台的标签义务。未来可能会通过立法或行业标准来监管，迫使各大平台在生产过程中嵌入追溯标识。 张凌瀚：我同意。内容生成过程的“可追溯”是关键。在高风险场景下，必须通过强制性标准明确“做什么”的底线。管理层必须关注技术事实和合规结果。 主持人：这也意味着平台有更重的责任——判断真假“误识”的风险。平台也会处理这种“相似”的问题吗？ 鲁宁宁：这种灰色地带是管理中最难的部分。我们的方法是使用sit评价和意图作为判断的标准。如果AI生成的内容具有误导性，例如冒充名人推销商品，或者使用虚假身份带货，我们将在AI滥用管理范围内进行处理。 与此同时，我们还发现了另一个类似的问题——“假角色”。有些账号包装成“情感导师”、“教育专家”，通过制造焦虑来推销产品和课程。这与“名人相似”问题非常相似，即使用虚假身份来获取信任。我们采用“人工智能审核+人工审核”的双重机制，对此类账号进行morerusa评分，多次违规的直接封禁。在平台管理上，我们希望注重“误导”而非“千篇一律”，让边界既灵活又底线。 主持人：张凌瀚教授，您长期以来一直在研究管理系统。您认为“安全”之间是否存在平衡点？考虑到变化和责任的“e Haven”和“Red Flag”？ 张凌瀚：我不同意将平台责任问题解读为“要么放任，要么封锁”的选择。 AI管理更合理的方向是“放手、温柔、整理、整理”。 明确了可识别的对社会和技术有害的高风险应用——例如未标记的名人假货——必须有明确的红线并严格执行，包括已知的标签义务、监控机制、虚假禁令和综合跨平台处罚。对低风险、以公共利益为导向的情景应滚动评估和调整。 我常说：“用可控性换取可用性”——通过经过验证的技术方法和可执行的制度安排来换取有用创新的自由。法律的目的不是阻止技术的发展，而是让变革继续下去很明显。 从“九龙防洪”到“协同管理” 主持人：张教授，“风险分级”的想法确实可行。但实际上，还有另一个问题——熊猫事件这样的人工智能策略实际上涉及管理广告、管理内容和调查涉嫌欺诈行为。市场管理部门负责广告，网信部门负责内容，公安部门负责处理涉嫌诈骗的线索。我们目前的去中心化治理结构在处理这种新型问题时会遇到挑战吗？ 张凌瀚：是的，这种分散的结构实际上会造成执法空白，推卸责任。解决办法不在于简单的机构合并，而在于把系统治理纳入机制。 短期内应建立高效的跨部门协调机制例如，互联网信息管理内容的生成、广告经营者的市场监督管理职责、公安等必须形成闭环、协同处置诈骗链条。长远来看，应通过更高层次的人工智能立法，明确“谁负责、何时介入、如何衔接”的通用标准，弥补各自为政、缺乏协调的短板。 主持人：在国家级人工智能法规出台之前，我们看到北京、上海等地积极推动地方立法。李律师，您如何看待“本土优先”？ 李敏：地方法律绝对可以成为国家人工智能管理的“压力试验场”。北京、上海、深圳都在探索人工智能治理法规，比如建立人工智能产品清单、审查机制等。汉主义。这些做法可以使国家法律更具可操作性，避免停留在原则层面。地方立法先行，可以及时应对风险，为国家立法积累样本，减少制度设计的试错成本。 张凌瀚：我支持地方政府“先行先试”的做法。地方试点可以“暴露”现实问题，为中层顶层设计提供经过验证的样本。关键是打通反馈链：地方政府明确情况、评估风险，中央据此进行比例分析，完善规则大学。 主持人：除了部门协作之外，还包括“共治”吗？当公众面对真假难辨的人工智能内容时，他们是被动的“受害者”，还是主动的“共治者”？ 赵景武：“AI素养”不仅是识别能力，更是社交能力l 合理运用AI的能力。我们需要告知公众，人工智能生成的内容本身并不是有害的，而是对这项技术的滥用。比如，如果AI换脸用于自保，没有问题，但如果用于虚假推销商品，那就涉及了。它接近非法。因此，识字教育需要融入学校教育体系，也需要通过媒体传播不断向公众普及。 张凌瀚：这是一个伟大的升华。等级制度是“他律”，识字是“自律”。教育传播和媒体必须共同努力。同时，伦理机制也应该在制度不完善的情况下进行“引领预防”。比如“AI复活死者”，获得近亲明确同意是最低标准；未经同意“复活”涉及人的尊严，因此“技术可行性”不应用“合法性”来代替“合法性”。 主持人：当然这种“协同管理”也离不开平台。平台在整个管理体系中扮演什么角色？ 鲁宁宁：我们认为“管理”不是一种管理方法，而是监管部门、平台、用户、社会的共同管理。我们正在探索如何在用户端提高“AI对信号的识别”，让公众在面对可能的AI生成内容时更容易做出判断。未来，平台将继续用更高的标准、更精准的技术、更开放的态度，打破“有害信息利益链”，守护网络空间的真实性和清晰度。 主持人：感谢四位嘉宾的精彩分享。今天的讨论让我们再次认识到，人工智能技术如浪潮般前进，法律、伦理和行政也必须及时有效地跟进。e方式。事实上，这带来了真正的管理挑战。 当真正的需求被证明时，信任本身或成为社会的成本。未来的人工智能治理必须在一个有机的网络中运行——法律提供方向，平台承担责任，技术掌握底线，公众学会认知和共同治理。 在AI越来越聪明的时代，一定是系统有温度、技术有边界、大众有判断力的时代。 我国研制的微观世界“超级相机”已成功验收。这种高能非弹性光谱仪的独特之处在于它利用中子的随机性和强穿透性来直接探测物质内部的微观运动。 2025-11-17 08:56 构建天地监控网络，保护国家公园“智慧” 建立和完善国家公园监控网络系统是重要实践我国生态建设领域的新举措，是现代人与自然和谐共生理念的具体体现。 2025-11-17 04:30 用科研保护生物多样性 浙江清凉峰国家级自然保护区是我国重要的生物多样性聚集地之一，也是长三角地区重要的物种基因库。 2025-11-17 04:30 月球磁异常可能是由“碰撞”引起的。近日，中国科研团队在嫦娥六号月球背面样本中首次发现了由大撞击事件形成的微米级赤铁矿和磁赤铁矿晶体。它揭示了一种全新的月牛反应机制，为南极-艾特肯盆地周围磁异常的影响提供了样本证据。 2025-11-17 04:30 生物圈保护区——创建人与自然和谐相处的典范。国际库尔近日，“人与生物圈计划”理事会第37次会议批准内蒙古大青山国家级自然保护区、陕西周至国家级自然保护区为“世界生物圈保护区网络”成员。 2025-11-17 04:30 开源Euler社区将于年底推出超级节点操作系统。以“智跃无界，开源高斯”为主题的操作系统大会2025（以下简称“大会”）在北京召开。 2025-11-14 17:08 科技让古老文化传统恢复了光彩。我国已成功保护修复4个国家6处文物古迹，49个中外联合考古项目，涉及28个国家和地区。以实际行动践行全球文明倡议，不断丰富世界文明花园。 2025-11-13 07:07 2025世界动力电池大会开幕伦斯。由四川省人民政府主办的2025世界动力电池大会12日在宜宾市开幕。 2025-11-13 04:55 “人造太阳”离我们还有多远？据估算，太阳每秒释放的能量可供全人类使用约70万年。模拟太阳产生取之不尽的清洁能源也因此成为“人类的终极梦想”。 2025-11-13 04:55 我国智能养殖装备及工程应用取得重大成果。近日，中国科学院合肥物质科学研究院智能机械研究所、合肥智能育种加速器创新研究院联合发布重要成果：全链条机器人育种机“小海”与“海坝设施”小麦快速育种商业化平台并同步上线，标志着我国应用取得重要成果。 2025-11-1304:55 湖北十堰：近万枚恐龙蛋化石都有“身份证”。近日，记者从全球最大的恐龙蛋化石遗址——湖北青龙山恐龙蛋化石群国家级自然保护区获悉，数字档案建设团队为图书馆提供了每一个完整的恐龙蛋化石，都有一个由“保护名称-化石来源名称-存放盒编号-标本编号”组成的唯一“ID”。这标志着保护区首次对恐龙蛋化石鉴定实行专属管理。 2025-11-13 04:55 关于睡眠的科学盛宴：CCTV-9播出纪录片《失眠》。困扰无数人的睡眠问题终于通过一部纪录片解释清楚了！ 2025-11-13 08:55 高原脑卒中中心建设取得阶段性进展。国家卫健委百万减免工程专家委员会主任委员、国家卫生计生委主席纪训明中国医学科学院、北京协和医学院表示，目前全国已有20个省份成立了降费工程专门委员会，另有8个省份正在积极推进。 2025-11-12 07:24 彭焕武：一生践行“科学报国”誓言的典范。 2025年，中国科学院院士、我国理论物理学奠基人、“两弹一星功勋章”获得者彭焕武诞辰110周年。 2025-11-12 07:23 长臂猿为何拥有长臂之谜被解开 中国科学院昆明动物研究所牵头，国内外多家科研机构组成的研究团队，通过对现存和灭绝长臂猿进行大规模基因组测序和对比分析，系统阐明了长臂猿的进化历史、种群动态和长臂猿的长臂特征。标志性长臂猿表型的遗传基础，为长臂猿保护的全球行动提供了新的科学视角。相关研究成果近日发表在国际期刊《Cell》上。 2025-11-12 05:10 唱八夭夭五号火箭成功完成转移。 11月11日，长征八号遥遥五号运载火箭成功转运至海南商业航天发射场，计划择日发射。 2025-11-12 05:10 我国磁量热技术实现“零的突破”。近日，中核集团中国原子能研究院牵头的量子放射性测量实验室和电离辐射测量级装备“一线多用”产学研平台正式落地，成功填补了我国低温量子磁量热仪领域的空白。 2025-11-12 05:10 十部门全力做好舞会注重数据开放，降低物流成本。在数据管理和使用方面，《实施方案》提出对物流公共数据实行分类分级管理，规范数据授权操作，扩大路网、轨迹、业务、人员等基础数据供给。 2025-11-11 10:03 我国科技期刊总数已达5325种。中国科协发布的《中国科技期刊发展蓝皮书(2025年)》显示，我国科技期刊总数持续增长，从2023年的5211种增至2024年的5325种，整体影响力持续提升。 2025-11-11 10:04 天地一体化网络开启新的国家信息化征程。航空航天集团作为国家信息化的重要基础设施综合网络具有远远超出普通通信技术范围的战略意义。这不仅是我国实现全球信息覆盖和自主创新的必由之路，也是抢占数字时代发展主动权的基本布局。 2025-11-11 10:02 加载更多