通往可操作的人工智能治理路线图的途径

梅根·Maneval
作者: ISACA现在
发表日期: 2024年5月8日

编者按: ISACA正在推出新的人工智能培训课程, 包括关于人工智能治理的课程. 梅根·Maneval, 他是人工智能专家,为《澳门赌场官方软件》做出了贡献, 战略和业务一致性课程, 最近访问了ISACA现在博客,分享了她对人工智能治理的看法以及课程的一些主要内容. 请看下面对Maneval的采访, 并了解更多关于ISACA关于治理的新人工智能课程, 人工智能要素和审计生成人工智能 在这里.

ISACA现在:关于人工智能治理,您最感兴趣的是什么?

我对人工智能的兴趣始于许多年前,当时我开始探索过程自动化在网络安全中的应用. 就像许多, 从触发器和工作流开始, 已经在生活的大多数方面发展成为无数的生成智能和机器学习机会. 随着人工智能的使用在整个组织中蔓延,与新技术相关的恐慌开始出现. 但作为一个自称“风险乐观主义者”,“相反,我开始寻找现有框架与人工智能系统构成的独特威胁之间的重叠. 

目前,关于人工智能治理的指导意见并不多. 而这正是我最感兴趣的——有机会定义它! 这是一个全新的世界,我们每天都在学习新的可能性和新的威胁. 作为一个行业,我们有机会为未来的道德建立指导原则, 值得信赖的, 和安全的人工智能系统. 我觉得这听起来很棒!

ISACA现在:您如何看待人工智能治理与审计等专业领域的交叉, 风险, 隐私和安全?

关于人工智能治理,要记住的最重要的一点是,它不是一个独立的过程. 要想成功, 它必须嵌入到组织更大的安全性和遵从性生态系统中. 具体地说, 包括人工智能风险管理作为软件开发的一部分, 项目管理和变更管理过程确保及早和经常评估风险, 并减轻到可接受的程度. 

从隐私和数据治理的角度来看, 确保资产合理, 数据和模型跟踪提供了人工智能使用的整体视图. 进一步, 确保您的第三方风险管理流程可以跟踪哪些供应商使用人工智能以及他们如何保护它,从而提供更大的风险监督. 除了, 将人工智能控制添加到内部审计日程中,并将更新内容作为董事会会议或管理审查会议的一部分,确保每个人都了解情况,并可以对人工智能治理策略进行调整, 根据需要, 及时地. 简而言之,人工智能治理涉及审计、风险、隐私和安全的各个方面. 人工智能治理对GRC的所有分支都很重要. 

ISACA现在:对于那些没有优先考虑人工智能治理的组织来说,后果会是什么?

不接受人工智能治理的公司可能还能撑一段时间, 但我们开始看到人工智能相关的漏洞只是时间问题, 这反过来又会导致强制性规定. 我的预测是,它很可能是被第三方供应商攻破的大型组织, 类似于家得宝臭名昭著的暖通空调系统漏洞. 人工智能的使用方式不够透明,许多组织在不知情的情况下通过他们的供应商承担了人工智能风险. 如果组织没有优先考虑第三方人工智能评估, 他们可能会成为第三方违规行为的受害者. 

此外,组织也可能因为没有优先考虑人工智能治理而开始失去业务. 我们对人工智能了解得越多, 了解它的作用就越重要, 它访问什么以及如何保护它. 没有实现这些流程的组织将无法向客户展示值得信赖的人工智能使用.

ISACA现在:在ISACA关于这一主题的新课程中,您认为学习者会觉得特别有价值的是什么?

该课程提供了对人工智能治理原理的深入研究, 包括设计, 发展中, 实施和监控安全可靠的人工智能系统. 该课程还探讨了实施人工智能治理的好处和挑战, 为向利益相关者传达人工智能风险提供最佳实践. 但学习者会发现特别有价值的是可操作的四步人工智能治理路线图. 在完成, 他们将拥有工具和专业知识,开始在他们的组织中部署强大的人工智能治理计划.

ISACA现在:人工智能治理知识将如何帮助个人在澳门赌场官方下载或未来雇主中脱颖而出?

人工智能治理本质上是一个新的研究领域. 尽管与现有的GRC原则有一些重叠, 理解细微差别, 人工智能治理特有的挑战和好处将使个人成为人工智能主题专家. 鉴于这些概念的新颖性, 学习者将站在人工智能治理的最前沿,对重视人工智能使用的公司有很高的需求. 学习者将成为人工智能管理的少数大师之一,他们可以将这种技能运用到未来的任何角色或组织中.

额外的资源