大模型如何重塑数据安全防线？

本篇文章的部分核心观点、图表及数据，出自信通院于2024年9月28日发布的报告《大模型安全研究报告（2024年）》，如需获得原文，请前往文末下载。

随着数字化转型的加速，数据已成为企业的核心资产。数据安全问题也随之日益突出，包括数据泄露、非法访问、数据篡改等风险。传统的数据安全技术在应对复杂多变的安全威胁时显得力不从心，特别是在非结构化数据的识别、分类和保护方面。大模型技术以其强大的数据处理和学习能力，为数据安全领域带来了新的解决方案。

关键词：大模型、数据安全、自动化分类、智能检测、内容安全

大模型技术在数据安全领域的应用前景

大模型技术以其卓越的数据处理和学习能力，正在重塑数据安全防线。在数据分类分级方面，大模型通过自动化学习行业数据安全标准及已有分类分级的样例数据，能够从海量非结构化数据源中准确识别并提取关键特征，实现数据的自动化分类分级。例如，通过对医疗数据的学习，大模型能够自动化学习到应将患者病历归类为“健康信息 - 极高敏感”，医生处方归类为“医疗处方 - 高敏感”，患者满意度调查问卷归类为“非诊断数据 - 低敏感”。这种能力大幅提升了数据分类分级的准确性和效率。

在自动化APP（SDK）违规处理个人信息检测方面，大模型技术展现出巨大潜力。通过智能问答、个人信息识别、隐私政策分析、潜在问题发现及检测报告生成等方面，大模型为APP（SDK）违规处理个人信息检测提供有力支持。这不仅帮助开发者更好地遵循个人信息保护原则，而且通过自动化检测报告生成，明确列出问题、问题类型、严重程度以及建议的解决方案等，帮助开发者快速识别并解决APP中的隐私问题。

大模型技术提升数据安全智能化水平

大模型技术在数据安全领域的另一个重要应用是提升安全事件处理的效率和准确性。得益于大模型在数据理解、意图识别、任务编排等方面的能力，在安全问答、安全运营、数据分类分级、违规处理个人信息检测、音视图文内容安全检测等关键网络安全场景中，大模型能够在大幅减少人工参与的同时，有效提升安全事件处理的效率和准确性。

例如，在智能问答服务方面，大模型通过学习大量法律法规和标准规范文能够提供易于理解的法规解读，针对个人信息保护相关的政策疑问提供指导，促进合规开发。在个人信息识别方面，大模型利用其在文本、图像和音频中识别个人信息的能力，能够快速扫描APP、SDK和小程序，准确定位并提示存在个人信息。这些应用不仅提高了数据安全的智能化水平，也为数据安全领域带来了新的发展方向。

大模型技术引领数据安全工作模式变革

长期来看，大模型技术有潜力成为数据安全防护的核心，从而改变数据安全的工作模式。当前，大模型主要扮演数据安全从业人员的辅助工具，用于提高他们的工作效率和效能。未来，随着大模型在自主研判和决策能力方面的提升，它们预期将进化为数据安全从业人员的合作伙伴，共同应对数据安全风险的识别、防御、检测、响应和恢复等一系列复杂工作。

大模型在数据安全、内容安全等领域也将发挥关键作用。大模型预计将引领数据安全工作模式的变革，从依赖安全人员调度和使用安全工具，转变为以大模型为核心调度并智能化使用安全工具。这种变革不仅能够提升数据安全防护的效率，还能够在面对新型安全威胁时，提供更为精准和及时的响应。