人工智能系统训练暂停寻求

比阿特丽斯·内波蒂和克里斯蒂亚诺·帕瑟里尼
Author: 比阿特丽斯Nepoti和Cristiano Passerini, CGEIT, CDPSE
发表日期: 2023年6月13日

亲爱的ChatGPT用户, 我们很遗憾地通知您,应意大利担保人的要求,我们已经禁用了意大利用户的ChatGPT.

今年早些时候,这条信息欢迎用户访问OpenAI网站1 当从意大利ip地址连接时. 该声明简要解释了地理封锁OpenAI连接的原因, 这意味着用户无法在意大利访问ChatGPT. ChatGPT是OpenAI开发的GPT大型语言模型的人工智能聊天机器人前端. GPT代表生成预训练变压器, 这是一个首字母缩略词,描述了OpenAI衍生的神经网络可以开发的创新文本, 在OpenAI训练数据集的基础上进行训练.

意大利数据保护局 (Garante per la protezione dei dati personali) (GPDP)是负责意大利196/2003法令软法规的国家机构, 在物质和保护方面的法典是关于个人数据的. 该法律经历了重大更新,以制定欧盟通用数据保护条例(GDPR)。, 现在是GDPR的意大利版 (《澳门赌场官方下载》).

2023年3月30日, GPDP向OpenAI发出命令,要求其停止在本地处理个人数据,并立即生效.2 尽管就在两天前,一封公开信呼吁暂停开发更强大的生成式人工智能模型,以便监管机构能够赶上ChatGPT等工具, 这两件事之间找不出因果关系. And, indeed, 把这种联系起来无助于进一步理解意大利的做法, which, 目前, 一直是独一无二的.

成为第一个禁止使用ChatGPT的欧洲国家, 意大利开创了其他国家可以效仿的先例. 作为更广泛的互联网审查努力的一部分,伊朗、朝鲜和俄罗斯已经禁止了ChatGPT.3 此外,OpenAI的服务在中国被地理封锁,包括ChatGPT和DALL·E.4 但意大利的案例是相关的,因为GPDP是在OpenAI可能侵犯个人数据使用的假设下实施的禁令. 因此,OpenAI主动停止向意大利客户提供服务. 警方停止调查后,公安部门展开了调查. 这项调查的目的是更好地强调OpenAI在意大利可能违反GDPR的任何行为,并加以纠正.

GPDP决定抑制基于生成式人工智能的创新工具的使用, 比如ChatGPT, 似乎有问题,也许对创新和竞争的自然欲望有害. 人们对这一决定提出了质疑.5 因此,理解gdp提供的动机是很重要的.

gdp之争

GPDP考虑的主要因素是担心侵犯隐私以及个人和敏感数据的激增,这会增加对用户的监视和控制. GPDP在与平台交互之前注意到了这一点, OpenAI没有披露其隐私政策,也没有告知用户他们的数据是如何被使用的. 这与GDPR的默认隐私概念背道而驰. 基于这种缺乏披露, 可以假设该软件无限制地使用用户的对话, 保护或用户自己修改的可能性,或者平台旨在用用户的输入训练底层算法.

GPDP考虑的主要因素是担心侵犯隐私以及个人和敏感数据的激增,这会增加对用户的监视和控制.

根据对gdp的理解,第二种训练方案可能是最不令人放心的. 虽然生成式人工智能模型对用户来说是有用的和创造性的, 生成式人工智能的实施消除了对潜在风险的感知,即在提供的输入与事实不符的情况下,个人数据的处理是不准确的. This, in turn, 如果对数据处理的结果进行自动化处理,可能会产生不可预见的结果.

ChatGPT是在意大利国内生产总值(gdp)最初提出担忧的几年之后出现的,即根据用户的要求自动处理数据以创建原始文本,同时也从别人的文本开始,这会增加混乱和社会不平等,助长专制回归,而不是加强和造福社会福祉.6, 7

在考虑这些条件时,暂停的请求有了更坚实的基础. 就最新的技术发展而言,欧洲的立法无疑是过时和模糊的. 为了跟上这些新进展的步伐,正在起草进一步的条例.g., 《澳门赌场官方下载》, 这有助于展示欧洲在监管问题上的领导地位,并可能在欧盟以外被用作监管或法律路线图. 不过, 以遏制目前对生成式人工智能的潜在开发, GPDP认为,规范个人数据处理的基本原则不能被忽略(即使是为了防止用户分析)。. 这些基本原则本质上是适用的.

基于这些信息, GPDP决策可以被解释为为评估与GDPR相关的澳门赌场官方下载中生成式人工智能的使用提供了一些建议. GPDP关注的潜在隐私侵犯包括:

  • 缺乏提供给用户的信息.
  • 缺乏收集和储存个人资料的法律依据.
  • 13岁以下儿童没有过滤器, 让他们接触不适合他们发展程度和自我意识的反应.

为了遵守GDPR,数据控制者(i.e., OpenAI)必须在处理用户输入之前向相关方提供GDPR要求的信息. 该需求通过数据策略来满足, 使处理合法化并告知各方这些数据的命运.

数据控制者有责任从一开始就确保数据处理和使用的透明度和正确性, 并且能够在任何时候证明默认隐私过程正在发生.

gpdp发起的调查是预防性的, 临时的,独立于欧盟的合作程序.

为什么这很重要??

只要对国内生产总值的关注点有初步的了解就可以分享, 有必要进行调查,因为在某些情况下,人工智能系统会产生不准确的、扭曲个人身份的内容. 据预测,GPDP的干预是对生成式人工智能安全使用的关注增加的开始.

评估澳门赌场官方下载的数据管理和符合GDPR, 没有明确的标准规则. GPDP决策对设计隐私模型和c级高管——主要是首席执行官(CEO)有重大影响。, 首席信息官(CIO)和数据保护官(DPO)——他们负责理解GPDP决策的逻辑和推理. 结果是未知的. 其他国家政府如何处理意大利决定确定的主题,将有助于理解今后的做法. However, 这种不确定性不应妨碍澳门赌场官方下载就风险和正确映射数据和数据流程做出知情选择,以便快速识别, 恢复或纠正错误,以遵守任何法律框架.

结论

与美国物理学家、诺贝尔奖得主理查德·费曼(Richard Feynman)的说法类似, 我们不能指望人工智能能模仿人类的思维方式.8 因此, 应用当前的数据影响评估和管理实践来保护人工智能处理的敏感内容,可能不是指示人造产品执行以实现类似结果的方式. GDPR处理数据隐私的方法可能不适用于生成式人工智能, 建立一个新的法律框架可能是必要的. 这一尚未制定的框架的成果将需要很长时间才能产生实质性成果. 不过, GDPD和OpenAI已经朝着这个方向迈出了第一步, 2023年4月30日, ChatGPT提供给意大利用户. GDPD在其网站上指出了所采取的干预措施,并澄清说:“[…]OpenAI解释说,它已将信息扩展到欧洲用户和非用户, 它修正和澄清了若干机制, 并部署了可修改的解决方案,使用户和非用户能够行使他们的权利.”9 对非用户的关注在GDPD建模的框架中是非常相关的.

一个不可避免的过程已经开始, 隐私部门将在很长一段时间内承受其后果, 远在投诉被提出之前, 给出的回答. 明智的谨慎似乎是最合适的方法.

尾注

1 OpenAI。”引入ChatGPT
2 意大利数据保护局,"个人资料保障守则
3 马丁代尔J.; “这些是目前禁止聊天的国家,” Digital Trends, 2023年4月12日
4 Wodecki B.; “中国严厉打击聊天系统接入,” 人工智能的业务, 2023年2月23日
5 Bathgate R.; “专家称意大利的ChatGPT禁令是“反应过度”,” ITPro, 2023年4月4日
6 意大利数据保护局,"AI-Artificial情报
7 欧洲委员会, 针对法规2016/679目的的自动个人决策和分析指南2018年2月6日,比利时
8 费曼,R.; “理查德·费曼:机器会思考吗?YouTube, 1985年9月26日
9 意大利数据保护局,"ChatGPT: OpenAI在意大利恢复服务,增强欧洲用户和非用户的透明度和权利, 2023年4月28日

比阿特丽斯Nepoti

是LepidaScpA的行政主管和数据保护官吗. 她在公共部门的隐私和安全问题方面有丰富的经验,并对采购程序有深入的了解.

Cristiano Passerini, CGEIT, CDPSE

就职于LepidaScpA,领导数字创新中心(DIH) -艾米利亚-罗马涅项目, 这是一项旨在传播知识和数字化转型利益的倡议,遵循欧洲DIH模式. 帕萨利尼有隐私, 在网络和公共安全领域有安全和风险管理经验.