“大数据+AI”安全协同创新团队:筑牢安全防线

作者:mile官网 日期:2025-11-20 浏览: 来源:mile米乐集团

“大数据+AI”安全协同创新团队:筑牢安全防线“护航”网络强国建设

“大数据+AI”安全协同创新团队是360旗下北京奇虎科技有限公司在科技创新中坚力量,是国家级研发平台的重要载体。长期围绕国家战略,团队不断学习新业态、新方向和新成果,始终走在大数据安全与AI安全的科研前沿。

在大数据时代,安全何以保障?团队以数据为纽带、以技术为驱动,聚焦国家信息安全的关键环节。AI安全负责人指出,人工智能模型结构复杂、参数众多,带来多样化安全风险,一旦遭遇攻击,将波及千万级别的开发者与用户。面对挑战,团队成员不仅不退缩,反而以强烈的探索热情投身其中。

团队按人工智能系统安全的核心任务,设立算法安全与漏洞挖掘两个小组,紧密协作开展研究。最新推出的人工智能系统安全检测平台,国内首个实现系统化安全检测与风险提示的平台,覆盖图像识别、人脸识别、目标检测、生成式AI等多场景。该平台能够监控检测厂商AI系统的漏洞,协助修复,输出安全评分与分析报告,并提供安全加固方案,保障开发者和用户的安全与产业健康发展。此外,团队发布了全球首份大模型提示注入攻击安全风险分析报告,给出自动化评测数据集构建方法,提升大模型安全能力的内置与外部防护水平,以及多家主流大模型的安全评测结果。

通过持续研究,团队在国际国内均取得领先成果。研发出基于污点分析的代码约束提取、约束导向的模糊测试等技术,发现谷歌、华为、百度等厂商AI框架的漏洞超过200个,在谷歌TensorFlow漏洞发现方面的质量与数量居全球前列。部分成果入选政府与行业学会的AI安全优秀案例。

在数据安全治理方面,团队聚焦数字经济时代数据全生命周期的安全保障,提出基于数据安全能力成熟度模型(DSMM)的治理体系,推动大数据平台的一体化管理、数据流通共享的安全,以及监测和监管审计等关键技术突破。研发出了DSMM测评支撑平台、数据分类分级系统与大数据安全监管审计平台等产品,提供数据安全咨询、测评、培训等服务,服务对象涵盖政府、金融、电力与通信等领域,解决数据采集、汇聚、流通、开发利用各环节的安全保护与监管难题。

未来,团队将继续以“大数据+AI”协同提升网络安全能力。通过将安全大数据与AI攻击检测模型相结合,提升APT检测、线索关联与画像分析的效率,使各行业形成互联互通的安全数据基础库,从而显著提升国家应对复杂网络威胁的能力。

在平台建设方面,团队打造了可广泛协同产学研的综合平台体系mile米乐。2021年以来,依托国家层面的工程研究中心与开放创新平台,推动平台建设、成果验证与评价,获得权威机构的高度评价,参与进入国家工程研究中心序列与国家级安全大脑开放创新平台建设。通过这些平台,实现云端能力输出、大数据赋能、AI安全模型与训练数据的开放共享,促进产业链与创新链的协同发展,并推动高校与科研机构的成果转化。

为政府与企事业单位培养专业数据安全人才,团队推出数据安全官与数据安全工程师认证培训,从管理到技术层面提升组织的安全意识与能力,并建设数据安全在线教育平台与元宇宙空间,线上线下结合,至今培训覆盖来自各行业的千余名数据安全相关岗位人员。

团队还与学术机构建立长期协作,推进博士联合培养计划,共同推动人才成长与学术生态建设。通过“数据安全公开赛”等赛事,结合大数据与AI在真实安全场景中的应用,吸引大量团队参赛并推动技术落地。

团队文化强调传帮带与共同成长。新进入团队的成员在资深专家的培训与分享中快速获得归属感,遇到跨方向难题时,前辈们会毫无保留地提供帮助与经验。

面对日益复杂的网络安全态势,团队将继续以创新驱动为核心,以国家数字安全为使命,携手同伴共同筑牢网络空间的防线,为数字强国建设提供坚实支撑。