7月13日，由香港数码港主办的首届“Web4.0与人工智能创新峰会暨数码港OPC Hub 启动仪式”在香港举行。本次活动聚焦Web4.0时代人工智能驱动的创业新范式，并正式启动全港首个专为一人公司（OPC）打造的创新创业基地——OPC Hub。活动同场宣布成立“Web4.0与智能体安全联盟”，为香港创科生态圈揭开可信 Web4.0 及智能体应用发展的新篇章。英伟达、联想、亚马逊、阿里云、戴尔、BytePlus等科技企业代表出席活动。
作为联盟成员单位，永信至诚受邀参加本次峰会。公司副总裁付磊出席圆桌讨论环节，围绕“当人工智能开始自主决策，如何应对风险和安全挑战”这一主题，分享AI智能体安全治理实践。
付磊（左三）分享AI Agent安全建设思考
AI智能体安全治理
先把“它是谁、能做什么”理清楚
随着AI智能体开始参与企业开发、运维和业务流程，其安全问题已经不只是模型输出是否准确，还包括它拥有哪些权限、能够访问哪些数据、可以调用哪些工具，以及出现异常时能否被及时发现和处置。
付磊指出，“在Agentic AI时代，AI智能体不但是一个超级系统，也是一个超级用户，同时还是一个拥有权限的超级管理员。”过去企业面临的系统、数据、网络、人员，以及接口、中间件和供应链等风险，在AI智能体时代依然存在。但攻击者可以借助智能体的上下文、工具调用和自动化流程，将原本分散的风险串联起来。经测试，使用70B本地模型构建的自动化攻击智能体，已经具备持续开展攻击模拟与渗透检查的能力，可围绕暴露面分析、攻击路径规划及业务上下文理解，辅助企业开展持续安全验证。
与此同时，AI智能体本身没有善恶好坏之分，“它是一个命令执行者”。攻击者可能针对智能体的上下文、Skill或MCP等内容实施恶意诱导，使其执行越权操作或错误操作。
对于OPC等员工数量较少、更多依赖AI完成开发和检查工作的组织而言，供应链风险同样值得关注。付磊谈到，AI在开发过程中会获取和使用公开的开源组件。一旦这些常用组件的供应链遭到攻击，可能导致相关系统在运行过程中出现密钥、凭证和配置文件泄露等问题。
因此，企业需要把AI智能体纳入IT运维过程中的全生命周期安全治理，建立清晰的智能体台账，明确其归属部门、岗位职责、权限范围、可访问的数据以及最终责任人。
谈到AI智能体安全防御，付磊介绍，在攻防实践方面，永信至诚正在探索将红队能力与防御能力结合起来，形成AI紫队。AI紫队可以自动收集资产信息、识别暴露面并设计攻击思路，同时结合企业业务上下文，判断漏洞可能影响的系统以及攻击者可能采取的横向路径。
经测试，使用70B本地模型构建的自动化攻击智能体，已经具备持续开展攻击模拟与渗透检查的能力，可围绕暴露面分析、攻击路径规划及业务上下文理解，辅助企业开展持续安全验证。
「数字风洞」智能体安全测评平台亮相香港
为AI智能体上线前安全检查提供支撑
活动现场，永信至诚携「数字风洞」智能体安全测评平台亮相展区，展示面向AI智能体应用场景的安全测试评估能力。
「数字风洞」智能体安全测评平台
平台面向AI智能体、AI编程助手、MCP工具及组件等应用场景，提供覆盖“摸排—检查—验固—渡证”的安全测试评估能力，帮助用户梳理智能体及相关组件的依赖关系，分析行为链路与权限边界，识别工具调用和敏感资源访问过程中的潜在风险。
在智能体上线前，企业可以通过平台对其组件构成、工具调用、权限配置及相关风险进行系统检查，进一步了解智能体能够访问哪些资源、可以执行哪些操作，以及运行过程中是否存在需要关注的安全问题。
平台通过形成相应的测评结果和支撑材料，为企业开展AI智能体上线前安全检查、风险处置和后续治理提供参考，帮助用户将原本难以看清、难以管理的智能体，转化为可以摸排、可以检查、可以验证的安全治理对象。
从“能用”走向“可控”
推动AI智能体全生命周期安全治理
当AI智能体成为企业系统中的智能中枢，人的误判、错误操作和权限管理问题，都可能以新的方式在AI智能体身上呈现，并借助自动化能力进一步扩大影响。
AI智能体能否真正进入生产环境，关键不只是它能完成多少任务，更在于企业是否清楚它是谁、能做什么、拥有哪些权限、由谁负责，以及出现问题后能否及时发现和处置。
从把AI当作工具，到把AI作为数字员工纳入治理，企业需要将安全要求落实到智能体的身份、权限、供应链、运行行为和责任关系中，推动安全工作从单点防御转向全生命周期治理。
作为数字安全测试评估赛道领跑者、网络靶场和人才建设领军者、AI「原生安全」倡导者，永信至诚将持续依托「数字风洞」产品体系，围绕AI Agent全生命周期安全治理，为Web4.0时代AI智能体安全治理提供测试评估支撑，助力构建可信、安全、可持续的AI创新生态，保障数字健康，带给世界安全感。