网站首页
产品中心
解决方案
客户案例
新闻资讯
伙伴合作
服务与支持
关于敏捷
行业资讯
警惕AI工具引发数据泄露,AI时代呼唤数据安全新底座
发布时间:2025-03-04    作者:敏捷科技

在DeepSeek、ChatGPT、豆包等各类AI工具日益普及的今天,员工在日常办公中频繁使用AI工具在提升效率、优化流程的同时,也为企业带来了全新的数据安全风险,如何在享受技术红利的同时保障数据安全,已成为企业必须面对的重要课题。

图片


>> 数据安全提供商Cyberhaven公司曾统计不同行业160万名员工使用ChatGPT的情况,发现约有3.1%的员工会将企业内部数据直接输入给ChatGPT进行分析,这部分敏感数据可能占员工输入到ChatGPT所有数据的11%,造成敏感数据不当使用和泄露风险。


>> 韩国三星公司在引入ChatGPT之初就曾连续发生3起内部数据泄露事件,员工误将重要半导体设备测量资料和产品良率等信息输入ChatGPT之中,迫使三星公司不得不调整AI工具使用管理措施,并开始考虑研发内部AI服务。


越来越多的企业依赖AI工具进行办公,如智能客服、自动化文档处理、数据分析等。然而,这些工具往往涉及敏感数据的传输与处理,使得安全边界变得模糊,也为企业带来了全新的数据安全风险:

1


员工可能无意中将企业敏感数据(如客户信息、财务数据、商业计划等)输入到AI工具中,导致数据被第三方平台存储或滥用。

2


企业在训练AI模型时使用的数据可能包含敏感信息,若未进行脱敏或加密处理,可能被攻击者窃取或滥用。

3


安全审计与监控机制不完善,内部缺乏对数据库脆弱性与操作行为的实时监控,未能及时发现并预警非法访问行为。


AI技术的发展必须以数据安全为前提。企业在拥抱AI技术的同时,必须构建与之相适应的安全防护体系,确保数据资产的安全与合规。敏捷科技建议企业从以下几个方面着手,提升AI办公场景下的数据安全防护能力: 


强化员工安全意识:严禁在处理涉及国家秘密、工作秘密时使用AI工具,在AI工具使用过程中严禁输入或上传涉密或单位内部敏感信息、数据、图表,对涉及个人隐私的内容也应当采取相应处理避免隐私泄露。


强化数据安全技术:在引入AI工具时,企业需对其安全性进行全面评估,包括数据加密、传输安全、权限控制等方面。同时,定期对AI工具进行安全审计,及时发现并修复潜在漏洞。   

建立内部管理体系: 严格控制员工的访问权限,定期审计使用记录;制定数据泄露应急预案,确保在事件发生时能够快速响应和处理;与专业的安全机构合作,借助其技术优势与经验,构建多层次、立体化的数据安全防护体系。  


敏捷科技作为数据安全领域的先行者,将持续关注AI与数据安全领域的最新动态,为企业提供专业的安全解决方案,助力企业在数字化浪潮中行稳致远。


电话:18120179909