360集团智脑总裁张向征：大模型发展既要依靠具体场景 又要做到坚持特定优势

　　在以文生图片、文生视频为代表的“生成式人工智能技术”迅猛发展的同时，技术安全风险也“如影随形”。面对AI大模型引发的全新安全挑战，传统的安全工具、经验、策略正逐渐式微，需要探索新形势下的安全解决方案予以快速应对。

　　360集团智脑总裁张向征表示，大模型在实际应用中仍然面临诸多安全问题，例如，模型训练阶段的数据隐私保护，模型运营部署阶段存在的漏洞风险、内容可信、AI幻觉、合规向善等，以及在Agent框架中存在的操作失控问题。基于这些潜在风险和问题，360集团围绕“安全、向善、可信、可控”安全四原则，发布了系统化的大模型安全解决方案，可以根据任何一种安全问题提出针对性的解决方案。

　　据了解，该解决方案包含国内首个支持系统化安全检测、提示注入风险检测的人工智能系统安全检测平台“AISE”，能够对大模型乃至全生态链安全进行检测，确保大模型训练工具与部署环境安全。同时，智脑风控引擎实现了内容加固和风险过滤，同时引入自动化攻防工具，大幅提升风控效率。此外，通过AI Agent可控框架对大模型的场景进行统一编排调用，设置安全措施确保大模型的“手”和“脚”可控，保证人在决策链路，从而有效避免Agent流程失控问题。

在实践中持续打磨大模型能力

　　其实和很多解决方案在应用中所面临的问题类似，大模型安全解决方案同样面临来自不同行业或不同机构的多元化需求挑战。例如，政府机构最关心数据安全问题，所以为了保障基础训练数据安全，就需要提供一些私有化的部署方案。同时，所有的微调、增量训练都必须在政府机构内部网络环境中完成。在儿童教育场景下，需要针对儿童的对话特点实施更严格的过滤策略，要去除一些偏向成人的问答口吻和内容。在医疗场景下，对抽取数据的准确率和可信度，以及用户隐私数据保护的要求更高。

　　张向征坦言，目前的大模型安全解决方案，还不能彻底地解决所有安全问题。一方面，因为不同行业面临的具体问题不同，因此针对某一特定安全问题的选择就会呈现出明显差异。另一方面，从模型原理上来看，AI幻觉问题依然没有被很好地解决。此外，现在部分企业基于Agent框架提供了一些智能体平台或流程调度机制，但平台调用链路在与企业内部系统交互过程中，受网关和接口环境不同的影响，可能会产生相应的网络安全风险。

　　对此，张向征表示，大模型安全解决方案必须紧密与特定业务场景相结合，以确保其有效性和适应性。这意味着安全措施需要根据行业特性、数据敏感度、操作环境和潜在威胁等因素进行定制化设计。通过深入理解业务流程和用户需求，可以为大模型开发出更加精准的安全防护策略，实现对数据泄露、模型篡改、算法偏差等风险的实时监控和主动防御。同时，这也要求安全解决方案具备灵活性和扩展性，以适应业务发展和技术迭代，确保大模型在不断变化的实际应用中保持稳定和安全。

大模型重塑搜索体验

　　之前，360集团创始人周鸿祎表示，2024年大模型必须跟场景结合，否则永远都是大公司不断秀自己技术实力的一个“玩具”。所以，360推出了AI搜索和AI浏览器两款AI驱动的新产品：第一，试图重塑搜索的体验，让用户直接通过对话找到答案。第二，把浏览器定位成学习、生产力工具，帮助用户快速阅读长视频、万字论文、大部头书籍和长网页。

　　对比传统搜索引擎和大模型，360AI搜索有四大特点：针对模糊问题，可通过反问和几轮交互理解问题，给出答案;能够搜索全网上万条相关内容，深度阅读20+网页;对比大模型产品特别是聊天机器人，回答更具时效性;通过主动追问帮助用户延展学习，了解更多周边信息。

　　张向征表示，做好AI搜索关键在于提供实时性、准确性的高质量数据。而与传统搜索相比，AI搜索能够把复杂问题做拆解，然后分步骤的、自动化的进行多步推理或多个关键词搜索，最后再交由大模型去做融合。“然而，这个过程并不是要用AI搜索方式再把传统搜索重新做一遍。如果AI搜索能力越来越强，用户的习惯也会迁移到这种问法上来，所以这并不是一个完全新的产品形态，而是由用户的使用习惯所决定的。未来，用户想解决的问题以及对产品的预期将决定AI搜索的发展方向。”张向征强调。

引领大模型生态建设

　　在ISC.AI 2024第十二届互联网安全大会期间，360宣布与智谱AI、商汤科技、百川智能、火山引擎、百度智能云、腾讯、科大讯飞、华为云、MiniMAX、零一万物、面壁智能等15家大模型厂商合作，通过将这些大模型全面内置到 360入口产品中，可以使用户不需要安装插件就能获取所需场景。

　　张向征表示，目前，这些合作伙伴的大模型API，基本上已经统一到360内部的API平台上。这样做的最大好处是，当不同业务场景需要切换的时候，不需要做对应接口的适配，规避了接口差异和兼容性问题的影响。“通过意图识别和技能映射等技术，在场景分配上会根据各种评估和用户反馈进行自动化的调整，因为在不同业务场景下不同模型的表现也会存在差异。”张向征解释道。

　　在张向征看来，360之所以要引领构建这样一个生态，是因为任何一个模型想在所有技能上都做到最优是不太现实的。尽管GPT已经被认为是一个“六边形战士”，但在国内尤其是在很多中文业务场景上，国内大模型可以比GPT做的更好。此外，另外一个原因可能是，企业选择模型的考量维度不同，有的倾向于更便宜，有的倾向于速度更快或技能表现更好，某一个大模型还无法提供全栈性能。

　　“在该平台上，希望能够充分发挥每一个模型的优势，而不是提供大众化、标准化的解决方案。例如，360智脑就会聚焦AI安全、AI搜索、阅读以及翻译等优势场景去做特定优化，其他模型也会有自己的数据优势、品牌优势或客户群体优势等，然后针对自己的优势方向去做持续深耕。”张向征进一步解释道。

(本文不涉密)
责任编辑：路沙

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处。