AI赋能 安全先行 | 中国工程院院士吴世忠莅临安讯调研指导

发布时间 2024-09-27

9月26日,中国工程院院士吴世忠莅临安讯调研指导,安讯集团董事长魏冰、首席执行官林佩铃、总裁严立全程陪同,并围绕“人工智能安全研究的现状与展望”主题举行了专题讲座。



吴世忠院士指出,人工智能作为当今热门话题,备受各界广泛关注,在赋能百业千行创新发展同时,其安全问题呈现出前所未有的复杂性。因此,加强相应的安全研究,有效管控重大风险和安全隐患至关重要。


吴世忠院士首先从文献分析的角度出发,对人工智能安全发展的总体态势、关键内容、技术要点进行了详细阐述,接着围绕“理论研究、技术研究、伦理研究、应用研究”四大方向,系统化剖析了每个方向的关键研究问题;面向安全风险(检)、安全防护(防)、安全攻击(攻)、安全测评(测)、安全治理(治),深入分析技术难点和学术界的解决方案,以主动应对安全新挑战,统筹好发展与安全,实现高质量发展。



最后,吴世忠院士表示,科技创新永无止境,人工智能方兴未艾,安全风险如影相随。通过对安全研究的梳理分析,可以得到以下四点启示:


一是安全认知,日见清晰。人工智能的应用极大地改变了安全问题的内涵和外延,日渐呈现Security(既有安全),Safety(新兴安全)和Ethics(伦理安全)相互交融的全新安全图景。这一全新的图景下,人工智能安全研究便是要构建人工智能自身的可信安全、人工智能攻防安全以及治理负责任的人工智能伦理安全。


二是安全研究,路阻且长。在大模型安全研究方面,存在大模型的解释性和透明性不足、安全保障技术的复杂性和多样性、伦理和道德问题的复杂性、安全测试和风险评估的复杂性等诸多难题,因此,大模型安全研究任重道远且困难重重。


三是安全事业,大有可为。在AI驱动的新时代,人工智能赋能百业千行,自然会给安全行业注入强大的发展动能,更及时的威胁感知、更深入的行为分析、更精确的漏洞管理、更便捷的情报共享、更迅速的应急响应、更智能的风险管控是未来安全的基本走向和市场刚需,必将为安全行业提供管控用武之地。


四是紧跟创新,保障发展。无论是安全研究还是安全产业,都必须紧跟科技创新,才能服务好发展,保障好发展。具体而言,安全研究要紧扣人工智能进化中的新型安全风险,研究成果要更好地支撑社会应用或促进发展、治理政策的制定,研究路径要更多地采用多学科、跨学科的研究方法。



安讯作为中国移动专责网信安全专业子公司,多年来持续深耕人工智能安全领域,通过基于中国移动九天大模型的底座支撑,融合安讯丰富的安全数据资源,推出安全行业垂直大模型——九天·泰合安全大模型;通过结合大小模型技术构建了安星智能体,作为九天·泰合安全大模型在L2层应用场景的核心,全面提升安全检测、分析、响应和自动化处置全流程的智能化安全运营水平。


未来,安讯将继续秉持自主创新的理念,不断加大在人工智能等新兴领域的研发投入,加快核心技术攻关,推出更多专业的网络安全方案及服务,助力用户全面应对网络安全领域的新挑战,持续推动国家网络安全产业高质量发展。