AI自作主张，未经授权行为频发！专访中国信通院何波：治理核心在于落地现有制度

　　从“互联网+”到“人工智能+”，技术的每一次跃进都对治理提出了更高要求。技术前进一小步，治理难度或许增加一大步。人工智能技术快速发展，安全风险也加速累积。

　　环球网援引报道称，英国人工智能安全研究所8月4日披露，在对美国人工智能公司Anthropic和OpenAI模型进行安全测试时，发现AI智能体作出多项未经授权的行为。其中，最严重的一起事件涉及编写恶意代码，并创建虚假网络身份，试图诱导人类批准相关代码。

　　在测试中，最严重的一起事件是AI智能体“试图直接联系真人，通过在线文件传输服务发送消息和文件，说服他们或其使用的AI编程工具运行恶意代码”。英国人工智能安全研究所表示，这是该机构“首次发现如此严重的欺骗行为，而且是在现实世界中针对真人、未经提示自发发生的”。

　　这将技术迭代与监管滞后的矛盾推向台前。监管既要让AI这匹“千里马”跑得快，又要确保它跑得稳。监管应何时出手、如何出手？

　　中国信息通信研究院互联网法律研究中心主任、国际电信联盟人工智能向善全球峰会学者何波在接受时代周报记者采访时表示，我国人工智能法律制度基本框架已经初步形成，制度建设与技术创新同步推进，基本能确保AI在安全可控的范围内有序发展。AI治理核心在于已有制度如何有效实施。

　　制度框架已初步形成

　　国家发改委7月31日披露，2026年上半年，人工智能相关行业保持30%以上的高速增长，国产大模型全球总下载量突破100亿次。

　　中国人工智能加速加速发展，监管框架也在同步推进。何波认为，中国已初步建成涵盖法律、行政法规、部门规章及地方性法规等多层级，涉及算法、数据、应用等多维度的人工智能法律制度框架。《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等互联网领域的综合性基础立法，为AI面临的共性法律问题提供了底层支撑。针对生成式人工智能、人脸识别技术应用、拟人化互动服务等具体场景，监管层也出台了专门的部门规章和管理规定。

　　2023年7月，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，这是我国首个、也是全球首部针对生成式人工智能的专门法律文件。此后，针对合成内容标识、拟人化互动服务等具体场景的管理规定相继出台，监管层的反应周期正在不断缩短。

　　何波向时代周报记者指出，以美国商务部近期对Anthropic两款前沿大模型的出口管制为例，“即便是长期鼓励创新的美国，也已开始加强对前沿AI的管制。这表明目前对于可能影响国家安全和战略平衡的前沿人工智能，监管介入的时点正在大幅提前，甚至可能直接介入产品的发布和运营”。

　　何波分析认为，AI产业正处于“科林格里奇困境”（Collingridge Dilemma）的临界点。“科林格里奇困境”由英国学者大卫·科林格里奇提出，指技术发展早期难以预测由此产生的社会影响，而一旦技术成熟并广泛应用后，又难以控制负面后果的两难局面。

　　在WAIC 2026的人工智能国际标准化论坛上，中国电子技术标准化研究院信息技术研究中心副主任张士宗认为，目前人工智能大模型每3至6个月能力翻番，具身智能大模型甚至加快到每48小时发布一个新版本。这也导致法律天然的滞后性，在AI领域尤为突出。

　　何波坦言，人工智能的发展依赖具体应用场景，法律本身具有滞后性，立法者很难在技术尚未定型时就给出精准的法律回应。中国在人工智能领域的立法速度已是全球范围内较快的了。他还表示，监管落地的最大难点在于已有制度如何有效实施，“如果各方主体能落实现有的法律法规要求，很多问题都不会发生。”

　　AI侵权，企业自证？

　　动漫电影《千与千寻》中的无脸男吞下谁，就能获得对方的声音、性格、习性，能轻易看穿他人内心的欲望，通过造物能力变出金子等物品，但创造出来的东西最终都会变回泥浆。

　　无脸男“咕咚”一口吞下神明，AI则“咕咚”一口吞下智慧。在近两年的报道中，AI吞噬了人类的作品、面容、声音甚至人格特征，生成足以以假乱真的内容，但当侵权发生时，追责远比想象的复杂。

　　“比如《生成式人工智能服务管理暂行办法》强调要尊重知识产权，但如何界定AI的合理使用和侵权责任，这在短时间内是很难解决的。”何波解释，相关规定原则上要求尊重知识产权，这意味着至少不能有明显的违法行为。但如何界定违法，可能涉及整个知识产权一系列相关制度的调整，最终可能还是要通过修改著作权法、扩大合理使用范围来解决问题。

　　AI侵权首先面临的问题就是民事主体责任缺失。2025年杭州互联网法院审理的全国首例生成式AI“幻觉”侵权纠纷案中，法院作出标志性认定：人工智能不具备民事主体资格，其承诺无效。那么，谁来承担行为后果？

　　“目前在理论和实践中都还没有形成普遍的共识。”何波说。

元股证券:ygzq.hk

　　以自动驾驶为例，如果发生事故，车主认为是系统判断失误，厂商认为是车主未及时接管，双方各执一词，实践中举证极为困难。“这也是为什么目前真正进入司法审判的AI侵权案件样本很少的原因。”何波向时代周报记者介绍，业界和法律界正在讨论一个方向：对于人工智能的侵权行为，能否实行举证责任倒置，也就是将举证责任转移给AI服务提供者，由企业证明自身系统没有过错；若证明不了，AI服务提供者则需承担责任。

　　尺度不统一或是AI监管和治理的另一难题。

　　2024年，围绕AI平台生成奥特曼形象引发的著作权侵权纠纷，广州互联网法院与杭州互联网法院先后作出了两份判决，原告系同一主体，侵权行为高度相似，裁判结论却大相径庭。广州案认定被告提供的AI生成服务侵犯原告IP“奥特曼”，构成著作权侵权，这是全球范围内首例生成式AI服务侵犯他人著作权的生效判决；杭州案则认为被告未直接实施受信息网络传播权控制的行为，不构成直接侵权，而是构成侵害信息网络传播权的帮助侵权行为。

　　何波称，现在国内AI相关案件还没有形成统一的裁判标准，更多是通过个案裁判来解决。判定侵权不能只看一端，既要核查输入内容是否合规，也要考量输出内容是否侵权。若输入素材本身没有问题，但AI产出内容和已有作品高度相似，这种情形能不能认定侵权，尚存争议。整套判定逻辑十分复杂，目前大多争议还是依靠企业自发通过市场机制去协调处理。

　　监管需要“小快灵”

　　尽管上述广州“奥特曼”案判定构成了著作权侵权，但在判决书结尾处，有这样一句话：考虑到生成式人工智能产业正处于发展的初期，需要同时兼顾权利保障和产业发展，不宜过度加重服务提供者的义务。

　　国内对人工智能发展的基本原则非常明确——坚持发展和安全并重，促进创新和依法治理相结合。何波向时代周报记者表示，目前我国对人工智能的监管是有法可依的，鼓励企业依法开展相关发展工作。对于现有法律法规已明确的要求，相当于已经告诉企业边界在哪里，企业按照合规路径去做即可；对于法律尚未明确规定的地带，法不禁止皆可为，企业仍有较大探索空间。

　　在产业目标上，国务院发布的《关于深入实施“人工智能+”行动的意见》明确提出，到2027年，新一代智能终端、智能体等应用普及率超过70%；到2030年要达90%。何波认为，AI已成为大众生活的重要组成部分，在发展初期就必须进行安全管控和风险预防。今年国家发布了智能体创新发展的指导意见，相关部门也针对各应用场景出台了规章办法，制度建设正在跟技术创新同步推进，基本能确保AI在安全可控范围内发展。

　　何波介绍，我国目前的立法思路是“小快灵”模式，即切口小、效率高、形式活，通过部门规章发布，迅速回应AI技术发展和应用带来的法律问题。同时也鼓励“以技制技”，利用人工智能技术进行网络安全创新，推动技术与治理的双向赋能。