如何管理人工智能风险和安全?
时间:2023-03-30 18:22:06

大型、敏感的数据集经常被用于训练AI模型,从而产生隐私和数据泄露风险。人工智能的使用增加了组织的威胁向量,并扩大了其攻击面。人工智能进一步为良性错误创造了新的机会,对模式和业务结果产生不利影响。

不了解的风险无法减轻。Gartner最近对首席信息安全官的一项调查显示,大多数组织没有考虑到人工智能带来的新的安全和业务风险,或者他们必须采取新的控制措施来降低这些风险。人工智能需要新型风险和安全管理措施以及缓解框架。

以下是安全和风险领导者应该关注的五大优先事项,以有效管理其组织内的人工智能风险和安全:

1、捕捉AI暴露程度

机器学习模型对大多数用户来说是不透明的,并且与一般的软件系统不同,它们的内部工作原理甚至连最熟练的专家都不知道。数据科学家和模型开发人员通常理解他们的机器学习模型试图做什么,但他们不能总是破译模型处理数据的内部结构或算法手段。

这种理解能力的缺乏严重限制了组织管理AI风险的能力。人工智能风险管理的第一步是列出组织中使用的所有人工智能模型,无论它们是第三方软件的组件、内部开发或通过软件即服务应用程序访问。这应该包括识别各种模型之间的相互依赖关系。然后根据运营影响对模型进行排序,并考虑到风险管理控制可以根据确定的优先级逐步应用。

一旦模型被列出,下一步就是使它们尽可能的可解释或可解释性。“可解释性”意味着产生细节、原因或解释的能力,为特定的受众阐明模型的功能。这将为风险和安全管理者提供管理和减轻由模型结果带来的业务、社会、责任和安全风险的环境。

2、通过人工智能风险教育活动提高员工意识

员工意识是人工智能风险管理的一个重要组成部分。首先,让所有参与者,包括CISO、首席隐私官、首席数据官以及法律和合规官,重新调整他们对AI的心态。他们应该明白,人工智能“不像任何其他应用程序”——它会带来独特的风险,需要特定的控制来减轻此类风险。然后,与业务利益相关者联系,以扩大对需要管理的AI风险的认识。

与这些利益相关者一起,确定跨团队和随着时间的推移构建AI知识的最佳方式。例如,看看是否可以在企业的学习管理系统中添加一门关于基本AI概念的课程。与应用程序和数据安全部门合作,帮助在所有组织成员中培养AI知识。

3、通过隐私计划消除人工智能数据暴露

根据Gartner最近的一项调查,隐私和安全一直被视为人工智能实现的主要障碍。采用数据保护和隐私程序可以有效地消除AI内部和共享数据的暴露。

有一系列方法可以用于访问和共享基本数据,同时仍然满足隐私和数据保护要求。确定哪种数据隐私技术或技术组合,对组织的特定用例最有意义。例如,调查诸如数据屏蔽、合成数据生成或差分隐私等技术。

在向外部组织导出或导入数据时,应满足数据隐私要求。在这些场景中,像完全同态加密和安全多方计算等技术,应该比保护数据不受内部用户和数据科学家的影响更有用。

4、将风险管理纳入模型运营

AI模型需要特殊用途的流程作为模型操作或ModelOps的一部分,以使人工智能可靠且高效。随着环境因素的不断变化,AI模型必须持续监测业务价值泄漏和不可预测的(有时是不利的)结果。

有效的监控需要对AI模型的理解。专门的风险管理流程必须成为ModelOps的一个组成部分,以使AI更值得信任、准确、公平,并对对抗性攻击或良性错误更有弹性。

控制措施应该持续应用——例如,贯穿模型开发、测试和部署以及持续运营的整个过程。有效的控制将检测到恶意行为、良性错误和AI数据或模型的意外变化,这些变化会导致不公平、损坏、不准确、模型性能和预测不佳,以及其他意想不到的后果。

5、采用人工智能安全措施应对对抗性攻击

检测和阻止对人工智能的攻击需要新的技术。对AI的恶意攻击可能导致重大的组织损害和损失,包括财务、声誉或与知识产权、敏感客户数据或专有数据相关的数据。与安全部门合作的应用程序负责人必须在他们的AI应用程序中添加控制,以检测异常数据输入、恶意攻击和良性输入错误。

围绕AI模型和数据实施一整套传统的企业安全控制,以及针对AI的全新完整性措施,如容忍对抗性AI的训练模型。最后,使用欺诈、异常检测和机器人检测技术,防止AI数据中毒或输入错误检测。

标签:

生活指南
  • 【世界报资讯】2022年国内协作机器人品牌有哪些?

    近年来,协作机器人以其操作效率高、灵活性强等优点越来越受到人们的关注,广泛应用于自动化集成生产线、装配、拣选、焊接、打磨、涂装等工

  • 【天天快播报】皮尔磁:双手按钮只有用对了,才能实现“真安全”

    在工业设备中,对于一些单人操作的设备,往往会采用双手操作按扭作为安全防护装置,以防止作业人员在驱动机器时,接触到危险的运动部件,造

  • 焦点快播:皮尔磁:myPNOZ的成功之路

    (资料图片)皮尔磁的模块化安全继电器myPNOZ 于去年2月初在市场上“露面”后,便获得了客户与各类奖项评审的广泛认可:myPNOZ可以根据用户

  • 今日最新!人物专访 | 基于 PC 的控制技术在娱乐设备行业中的应用

    总部位于匈牙利多瑙凯西市的 Rigging in Motion 公司主要从事各类舞台机械以及舞台自动控制系统的设计和制作。公司生产的桁架和索具平

  • 环球观察:ABB Smart Sensor智能传感器始终在线“守护”厦顺热扎车间数字化安全转型

    近年来,伴随着各行各业数字化转型进程的逐步推进,带来的不仅是数字经济、数字技术的蓬勃发展,更带来了能源的大量消耗。在此背景下,各行

  • 天天头条:互联网医疗生态正加速形成

    (相关资料图)中国医疗服务逐步迈入3 0阶段,互联网医疗生态正加速形成,在线医疗健康服务平台正处于用户加速渗透与需求深度挖掘两方面共同

  • 环球视点!通过人工智能和物联网的深入融合,让物理世界变得更美好

    人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的

  • 环球关注:喜报 | 智创电机荣获深圳市“专精特新” 企业称号

    (资料图片仅供参考)今年6月,深圳市工业和信息化局公示了关于2021年度深圳市“专精特新”中小企业名单的通知,根据《深圳市工业和信息化局

  • 热头条丨“建筑电气品牌十强”出炉 台达位列2席

    图一:台达获建筑电气品牌十强称号经过216万+次线上访问量(相关资料图)30万+张线上投票数以及全国七大地区30个城市共计224家设计院(所)617

  • 世界今热点:改用刀片电池,比亚迪新储能系统即将上市

    (相关资料图)目前,比亚迪储能的当家产品,是其于2020年发布的电网级Cube储能系统。Cube储能系统占地仅16 66平方米,电池容量2800KWh,相较

  • 民生
    • 建行沈阳铁西支行开展消保宣传沙龙活动 提升公众风险防范意识

    • 苹果测量尺在哪里 苹果测量尺具体该如何使用?

    • qq图标怎么隐藏和显示 具体设置方法是怎样的?

    • ipad截长图怎么截 具体操作步骤是怎样的?