生成式人工智能:未来就是现在，而且有风险

生成式人工智能(AI)正在成为头条新闻，并将在可预见的未来继续如此. 我们生活在一个永远敬畏小工具、工作/生活小窍门或众所周知的简单按钮的社会. 从我的角度来看, 太多的用户被人工智能的能力冲昏了头脑，这给澳门赌场官方下载带来了巨大的风险. 俗话说:“如果一件事听起来好得令人难以置信，那它往往是真的。.”¹ 与许多技术进步一样，生成式人工智能也并非没有问题. 有影响力的领导人已经要求暂停开发. 至少在美国，这一要求似乎被置若罔闻.² 在一个完美的世界, 如果所有开发商都同意暂停，就会出现暂停, 但我们生活在一个由竞争优势推动的不完美世界. 尚未解决这一日益增长的威胁的澳门赌场官方下载已经落后了.

尚未解决这一日益增长的威胁的澳门赌场官方下载已经落后了.

虽然很多人都过度关注ChatGPT, 需要注意的是，这只是目前市场上众多生成式人工智能工具之一. 还会有更多. 对现代威胁形势的风险评估间隔时间较短，³ 所有规模的澳门赌场官方下载都明智地禁止生成式人工智能，哪怕只是暂时的——在彻底的风险评估和随后的正式指导发布之前. 行政控制可以帮助澳门赌场官方下载提高运营效率, 效率和遵守法规和管理政策.⁴ 当然，管理控制(例如.g., 政策, 安全教育和意识培训)本身并不能保护知识产权或其他敏感数据. 有效地使用技术控制也是解决这个难题的关键，需要了解所收集的数据, 分类, 加工和储存.

应对AI的不确定性

旨在提高任何it相关解决方案可用性的图形用户界面(GUI)改进可以加速采用, 尽管数字信托行业以外的用户缺乏对这些工具内部工作原理的理解. 生成的人工智能, 另一方面, 不同而且风险更大，因为许多从业者本身缺乏足够的知识来做出明智的决定. 如果没有别的，那就模型卡片吧⁵ 如GPT-4系统卡⁶ 有助于提高训练模型的透明度. 当你考虑到黑盒模型有自己的想法和无法解释的算法时，风险就会被放大.

如果我听起来很受压迫，那我就是. 抛开健康的怀疑, 我鄙视恐惧, 不确定性和怀疑(FUD)会引发下意识的决策, 但在生成式人工智能的情况下, FUD是有保证的. 毫无疑问，工程师们多年来一直在努力工作，以达到像GPT-4这样的产品发布的水平, 但人工智能军备竞赛在这些创造者中引起了相当大的焦虑. 人工智能先驱杰弗里·辛顿(Geoffrey Hinton)离开b谷歌很有趣，似乎与其他人的警告一致，即人工智能缺乏足够的安全使用护栏.⁷

人的因素

人类是会犯错的. 有趣的是，之前的ISACA^® 研究数据显示，诚实和同理心是最不重要的两项软技能⁸ 考虑到那些负责设计的人以保护为导向的性质，这一点令人担忧吗, 操作, 资讯科技相关系统的保安及保障. 此外，43%的受访者认为，即使组织被要求这样做，网络犯罪也被低估了. 当与it相关的领域是最需要遵守行为准则的职业时，这是值得关注的. 再加上一系列道德问题, 人们有理由对人工智能的公平性和透明度感到悲观, 尤其是当人工智能算法已经对人们的生活产生负面影响的时候.⁹

隐私和公平仍然是涉及人工智能的讨论的核心, 而其他人则试图利用人工智能的力量来改变各国开展军事行动的方式.¹⁰ 可以说，偏见永远无法完全消除, 考虑到人工智能模型只和训练输入一样好，并且可能会引起不良行为者的注意，这是令人担忧的. 在讨论澳门赌场官方下载中的生成式人工智能时, 有6条信息可能有助于关于人工智能机遇和风险的对话:

1. 增加的技术能力本身就带有风险. 虽然许多GPT风险领域已被记录在案，但鉴于GPT-4的出现，无疑会有更多风险领域. 有意或无意地滥用技术是不可避免的. 先发制人的规划、治理、风险管理和持续的研究是必不可少的.
2. 语言模型会放大偏见，使刻板印象永久化. 许多重点仍然放在计算因素上.g., 代表数据和公平)，但它未能解决人类和系统偏见以及社会因素. 在很多情况下, 用户提供的生成人工智能工具的信息将用于塑造未来的产出, 所以输入已经有偏差了.
3. 长期以来，立法跟不上技术进步的步伐. 生成式人工智能的爆炸产生了一系列围绕知识产权的问题，并强调了有影响力的隐私立法(特别是在美国)和监督的必要性.
4. 自动化系统存在风险——不仅仅是在加工过程中, 但当它们设计得很差时也是如此, 实施和操作, 或者缺乏适当的监督. 清晰的, 向用户提供关于整个系统功能和自动化扮演的角色的一般可访问的简单语言文档的简明通知是至关重要的, 人类的替代品也是如此. 进一步, 澳门赌场官方下载有责任为在工作场所使用技术提供明确的指导方针.
5. 从历史上看，技术人才的供需失衡催生了大量声称可以解决任何澳门赌场官方下载问题的供应商解决方案. 在这一点上，GPT-4在网络安全中的作用是有限的. GPT-4有望提高网络钓鱼邮件的可信度, 哪些因素会给社会工程缓解带来压力，需要加强网络安全教育和意识培训.
6. 关于人工智能取代人类工作的争论并不新鲜, 但目前的重点似乎是增加人力资本, 这可能并不总是如此. 的重要性, 人工智能的好坏取决于它所训练的数据, 因此，人类对情境化仍然至关重要, 创造力和沟通能力. 人工智能有可能取代某些角色, 这增加了全球和个别国家决策的重要性. 在it相关领域, 更有可能的是，像GPT-4这样的技术爆炸将导致对工作的重新想象和某些工作功能的重新分配，而不是工人的流离失所.

在it相关领域, 更有可能的是，像GPT-4这样的技术爆炸将导致对工作的重新想象和某些工作功能的重新分配，而不是工人的流离失所.

生成式人工智能与数字信任

上述人工智能洞察的基础是数字信任. 人工智能的最新进展使数字信任更加难以实现. 数字可信度是数字化转型的演变，也是现代社会的当务之急. 人工智能技术也不能幸免于漏洞和漏洞. 数字信任必须赢得并维持——它不是可有可无的，也不是免费给予的. 技术开发缺乏透明度, 操作和保护只会导致严重的问题，从操作问题到不可挽回的品牌损害. 今天, 消费者在很大程度上被迫在隐私方面做出妥协，以换取全有或全无的服务. 可悲的是, 我们已经变得严重依赖立法来遏制利用不注意或不知情的人的商业行为.

结论

选择授权或阻止生成AI是一个不同的决定，不应该掉以轻心. 在所有情况下, 该技术需要仔细考虑和风险评估，才能被认为是值得信赖的数字技术.

最后一个重要提示:澳门赌场官方下载领导者应该假设员工已经自由地将知识产权或其他敏感信息上传到为生成式人工智能培训模型提供输入的网站. 这是有问题的，原因有很多. 第一个, 人工智能使用背景下的知识产权保护并不是非黑即白的, 至少在美国是这样, 现在法院也介入了.¹¹ 其次，不同的法律使问题复杂化，并可能最终影响人工智能澳门赌场官方下载的运营地点.¹² 第三, 版权侵权并不便宜——前提是知识产权得到正确保护.

生成式人工智能正在以比任何人想象的更多、更广泛的方式改变着世界, 我敢断言，商业的任何部分都不例外. 所有迹象都表明，需要更频繁地进行风险评估，并更广泛地参与澳门赌场官方下载风险管理活动.

尾注

¹ 《澳门赌场官方下载》如果某件事听起来好得令人难以置信，那它很可能是真的”
² 荷兰,米.; “华盛顿试图暂停人工智能发展,” TechTarget， 2023年3月31日
³ ISACA^® 今年早些时候进行了一项风险脉动调查，发现绝大多数受访者每年都进行风险评估，而他们认为评估应该更频繁地进行.
⁴ ISACA, 术语表
⁵ 鲁伊斯,.; “人工智能名片101:关键概念和术语介绍， 2023年2月28日
⁶ OpenAI, GPT-4系统卡， 2023年3月23日
⁷ 路透社报道,“人工智能先驱表示，他辞职是为了自由地谈论技术的“危险”，2023年5月2日
⁸ ISACA, 2022年网络安全状况2022年，美国
⁹ 么,M.; “荷兰丑闻警示欧洲使用算法的风险,” 政治报2022年3月29日
¹⁰ 瘾科技”,Palantir展示了一个可以参战的AI2023年4月26日
¹¹ 文森特,我.; “Getty Images起诉美国AI艺术生成器Stable Diffusion侵犯版权,” 边缘， 2023年2月6日
¹² Maisel, J.; “美国和英国版权法的分歧会影响人工智能公司在哪里开展业务吗?,” JD上2022年9月8日

Jonathan Brandt, CISM, CDPSE, CCISO, CISSP, PMP

是ISACA内容开发和服务团队的专业实践和创新总监. 在这个角色中, he leads audit; emerging technology; governance, risk and compliance (GRC); IT; information security and privacy thought leadership initiatives relevant to ISACA^® 成分. 他为其他ISACA团队提供信息安全方面的专业知识, 影响创新的劳动力准备解决方案并领导绩效评估的发展. 勃兰特是一名非常有成就的美国海军老兵，拥有30年的多学科安全经验, 网络操作和技术人员的发展.