9月26日，中国工程院院士吴世忠莅临启明星辰调研指导，启明星辰集团董事长魏冰、首席执行官严望佳、总裁严立全程陪同，并围绕“人工智能安全研究的现状与展望”主题举行了专题讲座。
吴世忠院士指出，人工智能作为当今热门话题，备受各界广泛关注，在赋能百业千行创新发展同时，其安全问题呈现出前所未有的复杂性。因此，加强相应的安全研究，有效管控重大风险和安全隐患至关重要。
吴世忠院士首先从文献分析的角度出发，对人工智能安全发展的总体态势、关键内容、技术要点进行了详细阐述，接着围绕“理论研究、技术研究、伦理研究、应用研究”四大方向，系统化剖析了每个方向的关键研究问题；面向安全风险（检）、安全防护（防）、安全攻击（攻）、安全测评（测）、安全治理（治），深入分析技术难点和学术界的解决方案，以主动应对安全新挑战，统筹好发展与安全，实现高质量发展。
最后，吴世忠院士表示，科技创新永无止境，人工智能方兴未艾，安全风险如影相随。通过对安全研究的梳理分析，可以得到以下四点启示：
一是安全认知，日见清晰。人工智能的应用极大地改变了安全问题的内涵和外延，日渐呈现Security（既有安全），Safety（新兴安全）和Ethics（伦理安全）相互交融的全新安全图景。这一全新的图景下，人工智能安全研究便是要构建人工智能自身的可信安全、人工智能攻防安全以及治理负责任的人工智能伦理安全。
二是安全研究，路阻且长。在大模型安全研究方面，存在大模型的解释性和透明性不足、安全保障技术的复杂性和多样性、伦理和道德问题的复杂性、安全测试和风险评估的复杂性等诸多难题，因此，大模型安全研究任重道远且困难重重。
三是安全事业，大有可为。在AI驱动的新时代，人工智能赋能百业千行，自然会给安全行业注入强大的发展动能，更及时的威胁感知、更深入的行为分析、更精确的漏洞管理、更便捷的情报共享、更迅速的应急响应、更智能的风险管控是未来安全的基本走向和市场刚需，必将为安全行业提供管控用武之地。
四是紧跟创新，保障发展。无论是安全研究还是安全产业，都必须紧跟科技创新，才能服务好发展，保障好发展。具体而言，安全研究要紧扣人工智能进化中的新型安全风险，研究成果要更好地支撑社会应用或促进发展、治理政策的制定，研究路径要更多地采用多学科、跨学科的研究方法。
启明星辰作为中国移动专责网信安全专业子公司，多年来持续深耕人工智能安全领域，通过基于中国移动九天大模型的底座支撑，融合启明星辰丰富的安全数据资源，推出安全行业垂直大模型——九天·泰合安全大模型；通过结合大小模型技术构建了安星智能体，作为九天·泰合安全大模型在L2层应用场景的核心，全面提升安全检测、分析、响应和自动化处置全流程的智能化安全运营水平。
未来，启明星辰将继续秉持自主创新的理念，不断加大在人工智能等新兴领域的研发投入，加快核心技术攻关，推出更多专业的网络安全方案及服务，助力用户全面应对网络安全领域的新挑战，持续推动国家网络安全产业高质量发展。
•
（转自：启明星辰集团）
