随着信息技术的飞速发展,数字政府建设已成为推动国家治理体系和治理能力现代化的重要途径。在这一进程中,DeepSeek等前沿的生成式人工智能(GAI)技术凭借卓越的自然语言处理、知识图谱构建及机器学习算法性能,正以前所未有的速度深度重构政务服务模式。这些技术不仅提升了政务数据分析的效率与精度,使政府能够更加精准地把握社会经济发展的脉搏,还推动了政府决策的科学化与服务的智能化,为公众提供了更加便捷、高效的服务体验。
然而,政务数据的敏感性与特殊性不容忽视。政务数据涉及敏感信息、个人隐私及社会经济活动的方方面面,一旦泄露或被不当使用,将可能对国家安全、社会稳定和公众权益造成不可估量的损害。同时,人工智能(AI)技术本身的复杂性与不确定性也为政务应用带来了新的挑战。模型的不透明性、数据的偏见性及潜在的隐私泄露风险等问题,都使得GAI技术在政务应用中的安全治理成为亟待解决的关键问题。本文将从技术和人员层面,提出防护建议。
一、技术防护
技术防护是GAI技术政务应用防护体系的基础,它直接关系政务数据的安全性和合规性。
一是倡导本地化部署的原则。通过采用安全可控的智能算力节点、操作系统和数据库,确保技术的自主可控性,降低对外部技术的依赖风险。同时,将GAI大模型部署在政务云或本地服务器上,实现数据的不出域,确保政务数据在政务体系内的安全流转。
二是加强数据安全与隐私保护。对政务数据进行全生命周期的加密处理,包括采集、传输、存储、处理和使用等各个环节,确保数据在各个环节的安全性。同时,要实施严格的访问控制和身份认证机制,限制敏感数据的访问权限,防止数据的非法访问和泄露。此外,还可以利用隐私计算技术对敏感数据进行脱敏处理,降低数据泄露的风险。
三是注重模型的训练与优化。可通过利用本地政务知识库对GAI大模型进行深度训练,提升模型的准确性和适应性。同时,根据实际应用场景的反馈,不断调整和优化模型性能,引入最新的AI技术和算法,推动模型的持续迭代升级。
四是逐步建立数据全生命周期管理技术体系。在数据采集阶段,确保数据的来源可靠、合规,对采集到的原始数据进行清洗和整理,提高数据质量。在数据存储阶段,采用安全可靠的数据存储方案,确保数据的安全性和可恢复性。在数据处理与分析阶段,对数据进行清洗、转换、分析等操作,以提取有用信息和形成有用的结果,同时确保处理和分析过程中的安全性和合规性。在数据共享与销毁阶段,制定数据共享策略,规范数据的共享行为,对于不再需要的数据,按照相关规定进行安全销毁。
二、人员防护
人员防护是GAI技术政务应用防护体系中不可或缺的一环,它直接关系政务人员的使用行为和决策能力。
一是加强政务人员的信息安全意识培训和教育,提高他们的安全意识和防范能力。制定规范的操作流程和标准,指导政务人员正确使用GAI技术政务应用,防止因操作不当导致的安全事件。
二是鼓励政务人员保持独立思考能力,对AI给出的结果进行认真的分析和验证,确保决策的科学性和合理性。推动人机协同工作模式,让AI成为政务人员的辅助工具,提高工作效率和服务质量。
三是鼓励政务人员主动学习AI相关知识,提升自己的AI素养。探索GAI技术政务应用的新场景和新方法,推动政务服务的创新和发展。通过提升政务人员的AI素养和创新能力,为GAI技术政务应用的广泛应用和发展提供有力的人才保障。
(信息来源:“保密科学技术”微信公众号)