上海在人工智能安全治理领域又有新动作。

4月28日，在上海市互联网协会第五届四次会员大会暨五届六次理事会、监事会会议上，上海市互联网协会人工智能工作委员会成立，“人工智能赋能安全监管”试点正式启动。上海谋乐网络科技有限公司出任人工智能工作委员会副主任委员单位，参与试点启动及专题交流环节。在当前人工智能加速进入产业与公共治理领域的背景下，这一系列动作的意义，不仅在于相关平台和试点项目的落地，更在于上海正围绕网络数据安全治理同步推进与探索一条更贴近现实场景的治理路径。

从产业发展走向安全治理协同

人工智能工作委员会的成立，是此次大会释放出的一个重要信号。根据会议议程，工作委员会将围绕人工智能产业创新、规范应用、安全治理和生态共建等方向展开工作。对地方产业发展而言，这意味着围绕人工智能的协同机制正在进一步细化；而对安全治理而言，则意味着AI不再只是技术议题或产业议题，而是开始被纳入更系统的治理框架。

在这一过程中，企业的角色也在发生变化。过去，企业更多是技术供给方；而在新的协同机制下，企业正逐步成为规则共建、场景参与和能力支撑的重要一环。谋乐科技此次出任副主任委员单位，也折射出AI安全企业正被吸纳进更具体的协同体系之中。对相关企业来说，这不仅是参与行业建设的一个新接口，也意味着技术能力与实践经验正在进入更高层级的共建框架。

试点落实到监管一线

与机制建设相比，更受关注的是“人工智能赋能安全监管”试点的正式启动。会上，上海市通信管理局联合中国移动通信集团上海有限公司、东方有线网络有限公司、中国电信股份有限公司、中国联通网络通信有限公司上海市分公司、上海谋乐网络科技有限公司共同参与启动仪式。

对于AI安全治理而言，这一动作的意义在于人工智能技术的应用已不再停留于概念验证，而是开始面向监管实际需求展开探索。在人工智能加快渗透各行业的背景下，风险暴露方式和治理要求都在发生变化。如何更早发现问题、更快验证风险、以更智能的方式提升监管效率，正成为现实命题。此次试点启动，正是对此类问题的直接回应。

技术能力对应现实需求

大会现场，谋乐科技展示了AI红队智能体Elliot。作为谋乐科技面向AI安全攻防的重要技术成果，Elliot具备自主决策、自主执行、自主验证和自主进化能力，可应用于自动化漏洞挖掘、攻击路径分析、风险识别、攻防验证和证据生成等关键环节。

这类能力与监管场景之间具有高度匹配性。在传统监管模式下，安全风险发现往往依赖抽样检查、人工研判和事后处置；而AI红队智能体的价值，在于能够以更自动化、更连续化、更接近真实攻击视角的方式，对目标系统进行风险发现和验证。它不仅能够发现“有没有问题”，更重要的是能够帮助判断“问题是否可被真实利用”“影响范围有多大”“是否能够形成可验证证据”。

这也正是谋乐科技参与此次试点的特殊意义所在：公司并不是单纯提供一款安全产品，而是将AI红队能力嵌入到监管治理链条之中，为监管部门提升风险发现、验证和处置效率提供技术支撑。Elliot的技术展示，也因此不只是一次产品亮相，更直接回应了“AI进入安全监管场景后具体能做什么”这一现实问题。

攻防变化看治理升级

专题讲座环节，也从另一个侧面回应了这一趋势。谋乐科技CEO罗清篮以《未来攻击者》为题，围绕AI驱动下的攻防格局变化及安全治理挑战进行了分享。他提到，随着AI能力持续演进，网络攻击可能表现出更强的自动化、隐蔽性与持续性，这意味着传统依赖边界防护、静态检测和人工响应的安全体系，正在承受新的压力。

这一判断的意义在于，它把此次试点放回到更大的变化背景中去理解。今天讨论AI安全，已经不只是讨论某一项新技术是否可用，而是在讨论当攻击方式、风险结构和对抗节奏都发生变化后，安全治理体系应如何重构。无论是工作委员会的成立，还是监管试点的推进，背后都指向同一个方向，即安全能力建设正在从静态防守，转向更强调智能化的动态识别、实时响应与持续验证。

从工作机制完善，到监管场景试点，再到企业技术展示和行业观察集中呈现，此次大会显示出，上海围绕人工智能安全治理的探索正在进入更具体、更务实的阶段。对于企业而言，能否将技术能力转化为真实场景中的治理支撑；对于城市治理而言，能否在创新发展与安全保障之间形成更有效的协同机制，或将成为下一阶段更值得关注的方向。