数字浪潮下的安全挑战与对策

引言

2023年初，ChatGPT的问世，如同一股飓风，激起了人工智能技术前所未有的发展与应用热潮，同时也带来了复杂的安全挑战。从网络威胁、数据安全、隐私保护、伦理考量到监管影响，AI技术的应用在带来革新性变革的同时，也暴露了多重安全风险。

数字风险大会：AI时代的挑战与应对

11月2日，中国内部审计协会、ISACA中国、谷安天下联合主办的第三届数字风险大会在北京盛大开幕，聚焦“AI时代的数字风险挑战与应对”。这场盛会汇集了网络安全与数字风险领域的专家学者、产业精英，共同探讨AI技术应用带来的机遇与风险。

增强使命感与正确方法论

• 内部审计的角色：中国内部审计协会副会长兼秘书长沈立强在开幕式上强调，AI技术的迅猛发展正成为驱动数字时代前行的新引擎。内部审计作为确保组织高质量发展的关键环节，肩负着推动数字化转型的重任。沈立强提出，企业应明确使命感，采用系统性、整体性、协同性和时效性的方法，强化内部审计的数字化建设。

数字信任与AI安全

• ISACA的战略视角：ISACA全球首席战略官Chris Dimitriadis通过视频演讲，指出AI技术在各行业中的应用正加速商业模式的革新，为新产品和服务的诞生铺路。尽管AI技术引入风险，但其在数字信任领域的应用潜力巨大。Dimitriadis强调，在IT审计中融入AI技术，能够实现对完整数据集的实时审计，替代传统审计方式，提升效率与精准度。

审计智能与智能审计

• 秦荣生的见解：中国内部审计协会副会长、北京国家会计学院教授秦荣生在演讲中阐述，生成式AI正在重塑数据生成模式与规律，颠覆数据库结构与数据分析方法。秦荣生呼吁，生成式AI产业应持续创新与推广，同时重视审计生成数据的真实性和可信度，探索构建审计生成式AI数据的途径。智能审计体系的构建将促进人机协作，成为未来数智化审计的常态。

银行数字化转型的实践

• 金磐石的分享：中国建设银行首席信息官金磐石围绕AI技术在银行数字化转型中的应用与挑战进行深入探讨。金磐石介绍了基于企业级人工智能平台的AI模型服务与业务场景建设，展示了AI技术如何赋能中国建设银行的数字化进程，实现高效敏捷的场景建设和产品化建设。

人工智能安全与治理

• 陈钟的论述：北京大学计算机学院教授陈钟提出，随着互联网技术的演进，人工智能、人脸识别、生成式预训练大模型等新技术不断涌现，我国应高度重视AI产业发展与治理。构建面向数字经济时代的新型数字信任体系，依托密码技术、区块链、大数据、人工智能等手段，为政府与企业的数字化转型提供数字安全基础，推动经济发展与智慧城市构建。

数智风险管控的探索

• 张国宏的观点：中国移动通信集团内部审计部武汉分部总经理张国宏分享了运用AI技术开展数字化审计的经验与实践。张国宏强调，简化审计思维，利用AI技术构建“AI+审计”整体架构，实现通用平台与场景应用的结合，为AI审计能力的构建与应用提供坚实支撑。

新时期数智风险管控的思考

• 陈伟的见解：谷安天下董事长陈伟围绕新时期数智化风险特点、AI安全伦理、风险控制框架与管理思路进行了深入分析。陈伟建议，针对AI应用带来的风险，应遵循国际通用规则与国内科技伦理要求，开展风险评估，构建适应性的风险控制框架，推动AI安全措施的有效实施。

大模型安全分析与防护

• 郭建新的讲解：火山引擎大模型安全平台产品负责人郭建新详细介绍了大模型在业务、安全、架构、业务安全及基于云原生的安全防护方面的考量。郭建新指出，面对大模型应用中的挑战，组织需从防御视角出发，实施数据质量审查、端到端模型增强和流程优化，以增强安全性。

结语

第三届数字风险大会不仅揭示了AI时代下数字风险的复杂性与紧迫性，也为行业提供了宝贵的思想碰撞与经验交流平台。大会的成功举办，标志着数字风险管理和网络安全领域迈出了重要一步，为推动行业向更加安全、可持续的未来发展奠定了坚实基础。随着数字风险大会的成功举办，预计未来将会有更多行业领导者汇聚于此，共同探索和解决数字风险领域的关键问题，促进技术和政策的创新发展。