您现在的位置是:首页 > 特别推荐 >

​中国互联网大会召开,360智脑带来大模型应用安全解决方案

2024-07-10 21:01:24作者:来源:信息主管网

摘要7月9日,2024(第二十三届)中国互联网大会在北京国际会议中心开幕。360智脑总裁张向征受邀出席,并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。 ...

7月9日,2024(第二十三届)中国互联网大会在北京国际会议中心开幕。360智脑总裁张向征受邀出席,并就大模型安全的重要性以及在落地应用过程中的四大原则和“以模制模”理念进行了全面分享。
 
会上,张向征明确指出,大模型不仅是数智化时代的重要基础设施,安全是大模型应用的基石,大模型的发展要遵循的“安全、向善、可信、可控”四大原则。此外,360集团在实践中也提出“以模制模”的理念,用专业知识训练的大模型做大模型的安全识别、评估和管控。
 
具体而言,大模型生态链安全检测系统,可以确保模型环境安全。值得一提的是AISE人工智能系统安全检测平台,作为国内首个支持系统化安全检测、首个支持提示注入风险检测的平台,不仅支持针对多种安全风险测评,更能覆盖图像识别、人脸识别、目标检测、生成式AI等多场景,输出安全评分及分析报告,并提供相应的安全加固方案。智脑风控引擎,为大模型内容安全保驾护航。在使用安全工具的辅助下,大模型风控能力的迭代效率也将提升。基于安全工具增强,360红蓝对抗团队仅需输入风险主题和目标大模型,即可对线上大模型的风险自动巡查。而微调和强化学习技术的引入,也有效提升大模型回复安全。另外,基于幻觉检测Agent,大模型输出可信度也得到进一步的提升。这一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云多种部署或交付方式,满足企业对便捷、成本、安全等多种因素的个性化需求。
 
在大模型安全解决方案上,360集团从未停歇。从技术创新到举办大模型攻防竞赛,再到参与大模型国家标准的编写,360集团始终致力于为AI大模型的安全发展贡献力量,护航大模型应用,助力数智化转型。

(本文不涉密)
责任编辑:路沙

站点信息

  • 运营主体:中国信息化周报
  • 商务合作:赵瑞华 010-88559646
  • 微信公众号:扫描二维码,关注我们