应对大模型数据安全风险要“以模制模”(干货满满)

转自:贵州日报

8月28日下午,2024中国国际大数据产业博览会“数据安全”交流活动在贵阳国际生态会议中心举行。360数字安全集团总裁胡振泉在出席“人工智能时代数据安全风险和应对策略”主题对话时表示,在应对大模型数据安全风险过程中,要让人工智能去解决人工智能安全的问题,实现“以模制模”。

2023年出现的“百模大战”中,解决了大模型“从无到有”的问题。2024年是大模型应用场景之年,随着大模型在各行各业的广泛应用,其在提升效能的同时,也带来了数据安全和隐私保护的担忧。

为了应对大模型带来的一系列数据安全挑战,胡振泉提出,首先,需要对大模型训练数据的全生命周期进行严格的监控和管理,对数据语料进行更严格的智能治理;其次,通过“以模制模”的方法,即利用人工智能技术来解决人工智能带来的数据安全问题,具体而言,要构建专用的、规模较小的专业大模型,对大模型的输入输出内容进行双向安全监测。

胡振泉表示,模型不是产品,模型只是能力,大模型只有结合场景才能真正地发挥作用,使用大模型的关键问题是找到“明星场景”,然后根据场景设计功能,根据功能需求对大模型进行专项训练。以360安全大模型为例,360基于攻击检测、运营处置、追踪溯源、知识管理、数据保护、代码安全这六个场景训练了六个专有的专家子模型,共同构建成360安全大模型,每个子模型只做一件事,最终在安全能力上实现了对GPT-4的全面超越。

对于未来的大模型数据安全趋势,胡振泉建议企业应根据自身业务情况,采取“小切口、大纵深”的策略,精准定位业务场景,逐步提升数字化水平,以小步快跑的方式实现企业的全面AI化。

海量资讯、精准解读,尽在新浪财经APP

相关阅读

添加新评论