​中国互联网大会召开，360智脑带来大模型应用安全解决方案

7月9日,2024(第二十三届)中国互联网大会在北京国际会议中心开幕。360智脑总裁张向征受邀出席，并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。  
会上，张向征明确指出，大模型不仅是数智化时代的重要基础设施，安全是大模型应用的基石，大模型的发展要遵循的“安全、向善、可信、可控”四大原则。此外，360集团在实践中也提出“以模制模”的理念，用专业知识训练的大模型做大模型的安全识别、评估和管控。  
具体而言，大模型生态链安全检测系统，可以确保模型环境安全。值得一提的是AISE人工智能系统安全检测平台，作为国内首个支持系统化安全检测、首个支持提示注入风险检测的平台，不仅支持针对多种安全风险测评，更能覆盖图像识别、人脸识别、目标检测、生成式AI等多场景，输出安全评分及分析报告，并提供相应的安全加固方案。智脑风控引擎，为大模型内容安全保驾护航。在使用安全工具的辅助下，大模型风控能力的迭代效率也将提升。基于安全工具增强，360红蓝对抗团队仅需输入风险主题和目标大模型，即可对线上大模型的风险自动巡查。而微调和强化学习技术的引入，也有效提升大模型回复安全。另外，基于幻觉检测Agent，大模型输出可信度也得到进一步的提升。这一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云多种部署或交付方式，满足企业对便捷、成本、安全等多种因素的个性化需求。
 
在大模型安全解决方案上，360集团从未停歇。从技术创新到举办大模型攻防竞赛，再到参与大模型国家标准的编写，360集团始终致力于为AI大模型的安全发展贡献力量，护航大模型应用，助力数智化转型。

(本文不涉密)
责任编辑：路沙

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处。