风起于青萍之末,浪成于微澜之间!2023年初ChatGPT的推出,让AI技术掀起了一波前所未有的发展与应用热潮,同时也不可避免地带来的许多新的安全风险,这些安全风险涵盖了从网络威胁、数据安全、隐私保护、伦理关切和监管影响等各个方面。

2023年11月2日,由中国内部审计协会、ISACA中国、谷安天下公司联合举办的第三届数字风险大会于在北京隆重开幕。本次大会主题聚焦于“AI时代的数字风险挑战与应对”,邀请了众多网络安全与数字风险领域的研究学者、产业专家、用户代表聚集一堂,从安全科技、风险控制和IT审计等多维度视角,全面探讨了AI技术应用的发展机遇和新型数字风险管理。

中国内部审计协会副会长兼秘书长沈立强

在本次大会的主论坛上,中国内部审计协会副会长兼秘书长沈立强代表大会主办方致辞,他表示:AI技术的突破性进展成为引领数字时代发展的新引擎。内部审计作为组织内部经济决策科学化、管理规范化,风险防控常态化的一项重要制度设计,承担着为各个组织实现高质量发展保驾护航的重要使命。为进一步推动内部审计的数字化转型,企业组织应该做好以下方面:一是要增强使命感,充分认识到数字化转型是实现高质量发展的必然要求;二是要坚持正确方法论,注重数字化转型的系统性、整体性、协同性和时效性;三是要勇于自我革命,着力加强内部审计数字化转型的能力建设。

ISACA全球首席战略官Chris Dimitriadis

ISACA全球首席战略官Chris Dimitriadis以远程方式为大会发表了主题为《数字信任护航AI安全》的视频演讲。他指出:AI正在改变各个行业的发展模式并支持业务创新,为新产品和新的服务模式的推出铺平道路。AI技术应用虽然存在风险,但也可以使数字信任行业收益。在IT审计工作中应用AI,能够实时审计完整的数据集,取代传统的抽样或定时审计。数字信任可以支持网络安全识别、保护、检测、响应和恢复,而AI监控和增强技术运营作为一个整体,其实现方法将会更智能、更快捷、更全面。

中国内部审计协会副会长、北京国家会计学院教授 秦荣生

中国内部审计协会副会长、北京国家会计学院教授秦荣生发表了主题为《审计智能与智能审计》的演讲,他指出:生成式AI改变了数据生成方式和数据生成规律,并颠覆数据库的结构以及数据分析方式。生成式AI产业应该在继续加强技术创新和应用推广的同时,也要注重加强对生成式 AI 生成数据的审计,保障生成式AI生成数据的真实和可信,研究审计生成式AI生成数据的实现路径。随着智能审计体系的构建,人机共生将成为未来数智化审计工作的一部分。

中国建设银行首席信息官金磐石

中国建设银行首席信息官金磐石发表了主题为《AI 技术在银行业数字化转型中的应用与挑战》的主旨演讲,并围绕AI技术赋能建行数字化转型和建行应用AI技术的挑战及应对措施两大方面展开详细说明。据金磐石介绍:基于企业级人工智能平台,中国建设银行已发布400多个模型服务,支撑800多个业务场景。目前,中国建设银行对AI技术应用需求旺盛,实现了业技融合多维分析,能够通过差异化推进场景建设以及产品化建设敏捷赋能。

北京大学计算机学院教授博士生导师 陈钟

北京大学计算机学院教授博士生导师陈钟发表了《人工智能安全挑战与治理》的主题演讲。他表示:随着互联网技术演进到赛博空间,涌现出更多的技术创新,比如人脸识别、生成式预训练大模型GPT、AI作画、AI创作等。我国应高度重视人工智能产业的发展与治理,只有数字信任才能加快新兴技术的创新应用、弥合国际/区域数字鸿沟。当前亟需从可信数字身份出发,借助密码技术、区块链、大数据、人工智能等技术,打造面向数字经济时代的新型数字信任体系,为政府和企业的数字化转型奠定数字安全基础设施,赋能数字经济发展和智慧城市建设。

中国移动通信集团内部审计部武汉分部总经理张国宏

中国移动通信集团内部审计部武汉分部总经理张国宏在《运用AI技术开展数字化审计的探索与实践》演讲中表示:大道至简,审计思维也需要化繁为简。中国移动集团内部审计部充分利用公司在人工智能、云计算、大数据等方面的先进技术储备设计了覆盖底座层、平台层、工具层、产品层四个层次的“Al+审计”整体技术架构,实现“通用平台+场景应用”模式在审计领域的落地,为AI审计能力的快速构建、高效运行、深入应用提供坚实保障。

谷安天下董事长陈伟

谷安天下董事长陈伟发表了题为《新时期数智风险管控的思路与方法》的主题演讲,并就新时期数智化风险的特点、AI安全与伦理的重要性、AI风险管理框架分析对比和适用AI风险管控思路方法展开了详细阐释。陈伟指出,各类机构在面对新型AI应用带来的风险时,可根据国际上AI安全与伦理通用规则及国内主管部门对科技伦理和AI安全的基本要求,开展针对AI的安全风险评估,并在此基础上建立适宜的AI安全风险控制框架,逐步推进AI安全控制措施的落地实施。

火山引擎大模型安全平台产品负责人 郭建新

火山引擎大模型安全平台产品负责人郭建新发表了题为《基于云原生的大模型安全分析》的主题演讲,对大模型的业务分析、安全需求、安全架构、业务安全以及基于云原生的安全防护等内容进行了详细介绍。郭建新表示:大模型技术在具体应用时面临模型输出异常、对话机制异常、数据安全、大模型系统漏洞检测等问题。为了增强大模型的安全性,组织需要从防御者权限角度出发,开展数据质量审查、基于端到端的模型增强、基于流程的模型增强。

在本次大会上,还发布了网络安全和数字风险领域的多项研究成果,分别是由中国内部审计协会、谷安天下联合编写的《数智化审计调研报告》,由ISACA编写发布的《生成式AI应用现状及政策建议报告》和《2023年网络安全现状 ——劳动力、资源和网络运营的全球发展新态势报告》,以及安全牛调研编写的《AI时代的安全风险与能力创新》研究报告。这些报告涵盖了企业组织的IT审计、网络安全、人才培养和AI应用等热点领域,对相关行业和领域的发展具有重要的指导和参考价值。

为了从应用实践角度关注AI技术的应用风险和价值,本次大会特别设置了“数智化风险控制与IT审计”和“AI引领数字风险防护创新”两场主题分论坛,一众行业大咖针对各自主题发表了一系列精彩演讲,以自身见解和深度经验分享引发了现场观众的热烈讨论。

第三届数字风险大会的举办,为行业搭建了一个思想碰撞和经验分享的多层次平台,提出了在AI时代数字进行风险管理的重要性和迫切性,引领行业走向更加安全和可持续的未来。据介绍,数字风险大会目前已经成功举办了三届,该会议旨在让数字风险和网络安全领域的思想领袖、行业主管、业内学者、企业高层、技术专家聚集在一起,共同面对和探讨当下业界紧迫的数字风险问题,同时推动行业各方紧密合作,共同开发全面的策略和前沿的解决方案,以有效地管理各种数字风险。


关键词：