您现在的位置是:首页 > 特别推荐 >

360胡振泉出席2024数博会:应对大模型数据安全风险要“以模制模”

2024-08-28 21:00:05作者:来源:信息主管网

摘要随着大模型在各行各业的广泛应用,其在提升效能的同时,也带来了数据安全和隐私保护的担忧。对此,360数字安全集团总裁胡振泉指出,数据安全风险主要源于两个方面:一是数据收集和处理阶段的不规范操作,可能导致隐私数据的泄露;二是大模型的内部机制像一个“黑匣子”,生成的内容难以预测,增加了隐私泄露的可能性。 ...

8月28日,2024中国国际大数据产业博览会在贵阳国际生态会议中心隆重召开,一场以“人工智能时代数据安全风险和应对策略”为主题的数据安全交流活动吸引了众多行业专家和企业代表。该活动由国家数据局指导,贵州省大数据发展管理局、贵阳市人民政府主办,中国互联网协会承办,贵州省互联网协会协办,旨在深入探讨数据安全最新热点、技术和产业发展动向,提升数据安全治理和保障能力。

随着大模型在各行各业的广泛应用,其在提升效能的同时,也带来了数据安全和隐私保护的担忧。对此,360数字安全集团总裁胡振泉指出,数据安全风险主要源于两个方面:一是数据收集和处理阶段的不规范操作,可能导致隐私数据的泄露;二是大模型的内部机制像一个“黑匣子”,生成的内容难以预测,增加了隐私泄露的可能性。

为了应对大模型带来的一系列数据安全挑战,胡振泉提出,首先,需要对大模型训练数据的全生命周期进行严格的监控和管理,对数据语料进行更严格的智能治理。其次,他提倡通过“以模制模”的方法,即利用人工智能技术来解决人工智能带来的数据安全问题。具体而言,要构建专用的、规模较小的专业大模型,对大模型的输入输出内容进行双向安全监测。

对于未来的大模型数据安全趋势,胡振泉建议企业应根据自身业务情况,采取“小切口、大纵深”的策略,精准定位业务场景,逐步提升数字化水平,以小步快跑的方式实现企业的全面AI化。

作为国内唯一兼具安全能力和AI技术双重优势的厂商,360针对攻击检测、运营处置、追踪溯源、知识管理、数据保护和代码安全等六个关键安全场景,开发了六个专家级别的子模型。这些子模型共同构成了360安全大模型,并已在终端安全、安全运营、安全服务等多个业务场景中得到实际应用。

未来,360将继续秉持“上山下海助小微”的企业使命,以数字安全和人工智能双主线,为数字化转型和创新提供坚实保障。

(本文不涉密)
责任编辑:路沙

站点信息

  • 运营主体:中国信息化周报
  • 商务合作:赵瑞华 010-88559646
  • 微信公众号:扫描二维码,关注我们