OpenAI被举报,AI安全风险再引关注

来源 | 财经E法 文| 樊朔 编辑 | 郭丽琴  

2024年07月17日 21:21  

本文2191字,约3分钟

如果信件属实,OpenAI的做法确实涉嫌违反美国法律。根据情节严重程度,美国政府可以选择调查甚至起诉OpenAI,要求其进行整改或者罚款。

因涉嫌非法阻止员工披露AI安全风险,OpenAI再次处在风口浪尖。

据媒体报道,近日有知情人士向美国证券交易委员会(Securities and Exchange Commission, 下称“SEC”)举报OpenAI,指控OpenAI要求员工签署过于严苛的保密协议,例如要求员工放弃获得举报人补偿的联邦权利等,并请求SEC立即批准对OpenAI保密协议的调查,向OpenAI索要包含保密协议的每份合同以供检查,包括雇佣协议、遣散协议和投资者协议。

一封由该知情人士(又称“吹哨人”)代理律师发给SEC主席加里·根斯勒 (Gary Gensler)的信件显示,OpenAI涉及四项违规行为,分别为:

一、未能免除向美国证券交易委员会披露证券违规行为的非贬损条款;

二、向美国联邦当局披露机密信息时需要取得公司事先同意;

三、涉及包含证券违规行为的协议的保密要求;

四、要求员工放弃国会为激励报告和为“吹哨人”提供财务救济而设定的赔偿。

信件显示,举报者已于2024年6月向 SEC正式提交投诉。举报者的代理律师斯蒂芬·科恩 (Stephen Kohn)表示,SEC已对投诉做出回应。但目前仍无法确定SEC是否已展开调查。SEC也尚未对此进行正式回应。

在美法律学者孙远钊表示,目前举报事件还在非常初步的阶段,根据“侦查不公开”原则,SEC不会就是否调查对外表态。就信件内容而言,OpenAI员工在签署保密协议时并非在完全自愿的情况下,这一行为违反了美国有关证券交易的行政规定。孙远钊认为,举报人代理律师在信件中的言外之意是OpenAI的行为阻碍司法,这往往比其本身想掩盖的事实更加严重。但是否开展调查、具体的调查情况还需要看进一步收集的证据。

德恒律师事务所硅谷办公室负责人朱可亮告诉我们,如果信件属实,OpenAI的做法确实涉嫌违反美国法律。根据情节严重程度,美国政府可以选择调查甚至起诉OpenAI,要求其进行整改或者罚款。

但朱可亮同时提醒,SEC是不是合适的调查机构仍然未知。美国最高法院在几周前的一个重大判决中表示,联邦政府机构在执法时需要有明确的法律授权,目前SEC是否这个权力仍然存疑。

前述媒体报道称,一位举报人认为这些合同条款传递了OpenAI不希望员工与联邦监管机构对话,如果AI公司屏蔽审查和异议,就无法构建安全且符合公众利益的技术。

AI的快速发展正引发全球监管者的担忧。该媒体认为,在美国,AI公司基本上在法律真空地带运营,美国的监管者也认为,如果没有这些“吹哨人”的帮助,他们不能有效地制定AI相关的政策。这些了解内情的人士能够让各方了解,快速发展的AI技术可能会带来的安全威胁。

根据此前文章(详见:ChatGPT爆火的冷思考:盈利难题与治理挑战),ChatGPT已经开始冲击全球教育业等行业,并可能带来法律、安全、伦理风险,甚至滋生犯罪。

对外经济贸易大学数字经济与法律创新研究中心执行主任张欣曾指出,ChatGPT训练的数据具有极高智能化和出色的泛化能力。它不仅可以翻译、识别语法错误或者撰写论文,还可以创造程序。因此可能滋生网络犯罪,例如创建暗网市场脚本,为非法交易提供自动交易平台等。而在这一过程中,其更具隐秘性,速度更快,效率更高,跨域性也更加明显。

北京师范大学互联网发展研究院院长助理吴沈括认为,ChatGPT在实际应用层面将面临三种风险:第一种是在更巨量数据汇聚的过程中,可能会产生法律和安全风险;第二种是在模型和算法设计的过程中,可能产生伦理和违法风险;第三种是在实际应用过程中,可能被用于违法行为,进而带来社会风险。

“与以往的AI产品相比,ChatGPT带来风险的程度和广度更高。”吴沈括说。

美国参议院查克·格拉斯利(Chuck Grassley)告诉媒体,OpenAI的政策和做法似乎对举报人披露违规行为的权利及其获得赔偿的权利产生了寒蝉效应。

这并非OpenAI保密协议第一次引发争议。今年5月,OpenAI核心安全团队——超级对齐团队两位负责人接连离职。其中,包括OpenAI联合创始人、首席科学家伊利亚·苏茨克维尔(Ilya Sutskever),以及该团队的负责人简·雷克(Jan Leike)。此后,有离职员工透露,OpenAI要求员工在离职时签署带有“不贬损承诺”的离职协议,如果拒绝签署就得放弃公司股权。这也就意味着,OpenAI的员工必须在数百万美元的股权和同意不批评公司之间做出选择,且这一协议是永久性的。

新闻网站Vox获得的一封内部邮件显示,OpenAI 首席战略官 Jason Kwon 承认,该规定自 2019 年以来就已实施。此外,OpenAI的离职协议就规定员工必须在60天内签署保密协议,才能保留其既得股权。该文件由OpenAI前副总裁Diane Yoon(已离职)和总法律顾问兼首席战略官Jason Kwon签署。

OpenAI首席执行官萨姆·奥特曼(Sam Altman)对此回应称,OpenAI从未收回任何人的既得权益,如果员工不签署不贬损协议,“我们也不会这样做”。