Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  每经记者 蔡鼎    每经实习记者 岳楚鹏    每经编辑 兰素英    

  一直被外界寄予极高期望的OpenAI文生视频AI模型Sora自今年2月首次展示以来,就没有任何关于何时正式发布的消息了。当地时间11月26日,一些据称参与了Sora测试的艺术家泄露了该模型的访问权限(API),以抗议OpenAI对他们的压榨行为。

  当日,公共AI模型社区Hugging Face突然出现了一个文生视频的项目。项目团队使用他们的身份验证令牌(可能来自早期访问系统)创建了一个前端,让所有Hugging Face的用户可以使用Sora生成视频。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  通过这一前端,用户可以通过输入简短的文字描述来生成分辨率高达1080p的10秒视频。但项目创建三个小时后,OpenAI就关闭了所有艺术家对Sora的早期访问权限。目前该项目已无法使用。在短短的三小时内,用户通过这一项目生成了87个视频并发布了出来。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  目前OpenAI并没有公开确认所谓的Sora泄露是否属实。但是OpenAI强调,参与其“研究预览”是“自愿的,没有义务提供反馈或使用该工具”。

  OpenAI暂停Sora访问权限这一举动也暴露出AI行业的透明度问题。随后,该艺术家团体发布了一个公开信网站,鼓励任何与他们有相同观点的人签署这封公开信。截至发稿,这封信已经收到550个签名,包括马斯克。 

  当地时间11月26日,一小群参与Sora测试的艺术家在Hugging Face泄露了Sora的访问权限,以表达对OpenAI的不满。项目团队使用他们的身份验证令牌(可能来自早期访问系统)创建了一个前端,让所有Hugging Face的用户可以使用Sora生成视频。

  此前,OpenAI向数百名艺术家开放了Sora的早期使用权,以测试这款新的AI视频生成器。但部分艺术家认为,OpenAI利用了他们的无偿劳动,并利用他们来提升公司形象。

  为引起外界对OpenAI这一行为的关注,他们在公共AI模型社区Hugging Face上发布了一个在线项目,允许公众使用Sora生成视频。

  随项目同时发布的还有一封言辞激烈的公开信。在信中,艺术家们将OpenAI比作“中世纪的封建领主”,谴责他们利用了艺术家的无私贡献,却并没有给出合理的报酬。“我们获得了Sora的使用权,并承诺成为早期测试者、红队成员和创意合作伙伴。然而,我们认为,我们被引诱进行‘艺术洗白’,以告诉世界Sora对艺术家来说是一个有用的工具。”

  这封信充斥着对OpenAI的不满,艺术家们写道:“我们不是你的无偿研发人员。我们不是你的:免费错误测试人员、PR(公关)傀儡、训练数据和验证令牌。”

  尽管参与模型测试的艺术家有数百名,但只有少数作品进行展映,而且报酬极为有限,与OpenAI获得的巨大公关和营销价值相比,简直是微不足道。更让这些艺术家们愤怒的是,“每个影片都需要OpenAI团队的批准才能分享。这个早期访问计划似乎更多关注的是公关和广告,而不是创作表达和批评。”

  他们在信中强调,“我们并不反对将AI技术作为艺术工具使用(如果我们反对,可能就不会参加这个项目)。我们不同意的是艺术家项目的推出方式,以及该工具在可能公开发布之前的呈现方式。我们发布这个声明,希望OpenAI能变得更加开放,对艺术家更加友好,并在支持艺术方面不只是公关作秀。”

  他们还呼吁其他艺术家们使用开源的视频生成工具来抵制OpenAI这种闭源公司。“开源视频生成工具让艺术家能够在没有门槛、商业利益或服务于任何公司的公关目的下,探索前卫艺术。我们也鼓励艺术家使用自己的数据集来训练自己的模型。”

  但在艺术家们上线Sora API项目后三小时,OpenAI迅速切断了访问权限。OpenAI发言人Niko Felix称,公司将暂停所有用户对Sora的访问,同时调查情况。但是他拒绝说明这个项目是不是真的链接到了Sora模型。“Sora仍处于研究预览阶段,我们正努力在创造力与更广泛的强大安全措施之间取得平衡。”

  Felix同时说道:“我们alpha版本的数百名艺术家塑造了Sora的发展,帮助确定新功能和保障措施的优先级。参与是自愿的,没有提供反馈或使用该工具的义务。我们很高兴为这些艺术家提供免费访问权限,并将继续通过赠款、活动和其他计划为他们提供支持。我们相信AI可以成为一种强大的创意工具,并致力于让Sora既实用又安全。”

  在OpenAI暂停Sora访问权限后,该艺术家团体发布了一个公开信网站,鼓励任何与他们有相同观点的人签署这封公开信。

  截至发稿,这封信已经收到550个签名,与OpenAI极其不对付的马斯克也在其中。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  这次事件在AI行业中并不常见,因为早期测试人员的反馈受到公司的严格控制,而且严厉的批评很少公开。通常,公司会亲自挑选哪些外部人员可以提前访问系统,在某些情况下,公司会要求这些用户签署保密协议或获得批准,然后才能公开分享系统生成的任何图像、视频或文本响应。

  但最近,越来越多的AI安全专家批评这种做法对独立研究产生了寒蝉效应,降低了透明度,并阻碍了对公司行为的问责。斯坦福大学的基础模型透明度指数显示,没有一家主要的基础模型开发商能够提供足够的透明度(最高得分54分,满分100分),这揭示了AI行业缺乏透明度。

  OpenAI的员工此前也指责公司强迫员工签署“封口协议”,不允许离职员工发表对公司负面言论,否则公司可以收回员工已有股权。离职员工也不得对外公开这些协议内容。

  为此,今年六月,OpenAI和谷歌DeepMind的一批员工联合发布了一份名为《对AI发出警告》的公开信。

  公开信预警,AI技术存在加剧不平等,操纵和误导信息,失去控制并威胁人类的风险。AI公司技术迭代的同时产生了大量安全相关的非公开信息,它们没有主动披露的动机。监管部门对此难以形成有效制约,只能由现任或前任员工要求它们向公众负责。

  上述员工在公开信中对包括OpenAI在内的AI公司提出了四点呼吁:其一,不强迫员工签订禁止批评公司的协议;其二,为公司现任和前任员工提供匿名的安全反馈机制;其三,允许现任和前任员工向董事会、监管机构、其他安全机构提出对公司技术安全的担忧;其四,公司不对公开分享风险相关机密信息的现任和前任员工进行报复。

  正如Hugging Face的一则评论所说,“AI并非凭空而来。它建立在创意人员的肩膀上,而这些创意人员往往没有得到认可。Sora泄密事件敲响了警钟:没有道德的创新就是剥削。”

标签:

相关推荐

  • 盘中股价一度跌超8%,江淮汽车回应:公司一切正常

    盘中股价一度跌超8%,江淮汽车回应:公司一切正常

    11月27日,江淮汽车低开低走,盘中一度跌至8.58%,尾盘略有回升,收跌6.18%。值得注意的是,26日下午,在华为Mate品牌盛典上,华为和江淮汽车合作的高端超豪华品牌“尊界”首次亮相,首款车型为尊界S800。对此,有投资者表示,下跌系预期利好兑现出货。对于股价下跌,江淮汽车工作人员表示不清楚二级市场情况,但公司运营一切正常。谈及何时公布尊界销量数据时,...

    2024/11/27
  • 利安人寿扬州分公司被罚8万元:因给予投保人保险合同约定以外利益

    利安人寿扬州分公司被罚8万元:因给予投保人保险合同约定以外利益

      11月27日金融一线消息,国家金融监督管理总局扬州监管分局行政处罚信息公开表显示,利安人寿保险股份有限公司扬州分公司因给予投保人保险合同约定以外利益,被国家金融监督管理总局扬州监管分局罚款8万元。  潘建(利安人寿保险股份有限公司扬州分公司副总经理)对利安人寿保险股份有限公司扬州分公司给予投保人保险合同约定以外利益负有责任,被警告并处罚款1万元。...

    2024/11/27
  • 中信银行密集挂牌个人不良贷款项目 零售资产风险仍处释放阶段 银行不良资产处置正加速

    中信银行密集挂牌个人不良贷款项目 零售资产风险仍处释放阶段 银行不良资产处置正加速

      财联社11月27日讯(记者史思同)零售信贷风险持续释放下,银行正在加速处理个人不良资产。  11月27日,银登中心不良贷款转让专区中,中信银行仍在不断披露不良贷款转让项目。财联社记者注意到,近日,中信银行密集发布转让项目公告,仅昨日一天内就有11条个人不良贷款转让项目,涉及未偿本息总额合计约6.69亿元。  在业内人士看来,今年以来,银行业小微及零...

    2024/11/27
  • 自建估值模型平抑净值波动 银行理财意欲“再起炉灶”?

    自建估值模型平抑净值波动 银行理财意欲“再起炉灶”?

      达不到理想分数就试图更改答案的参考标准,这件事最近发生在银行理财身上。  近日,有传言称“未来可能允许银行理财逐步试点自建估值模型”,受到市场普遍关注。第一财经记者就上述传言向理财公司人士求证,不少人士对记者表示:“有在尝试自建估值模型,该方法相较于以往的第三方估值体系,更能起到平滑净值的作用。”  银行理财的估值方式一直受到业内关注,如何在市场波动...

    2024/11/27
  • 两代董事长,被一个“女神”干翻……

    两代董事长,被一个“女神”干翻……

    作者:猫哥文章已获授权最近一个朋友让我推荐靠谱的律师,因为他当年入股了一个公司,现在几个股东被要求赔偿2.48亿,一笔巨款啊,真正的人在家中坐,债从天上来。这是咋回事呢?这个公司叫连硕科技,现在机器人概念很流行,他们公司就是干这个智能制造的,产品涵盖了照明产品、手机零部件和精密机电等等,据说客户包括国家电网、华为、三星、富士康、TCL等等,反正看起来...

    2024/11/27
  • 美联储,给予美元“重大”一击

    美联储,给予美元“重大”一击

      市场在美元仓位方面可能需要喘口气。  在大事发生前,全球市场并不平静。今晚过后美国金融市场将进入感恩节假期模式,这将是很多人决定本周加仓还是平仓最后的机会。  1、今天晚些时候将公布美联储青睐的通胀指标,几乎可以肯定将会温和上涨,但市场的氛围仍旧很紧张。经济学家们预计,10月份整体PCE同比涨幅将从9月份的2.1%升至2.3%,而核心PCE同比涨幅预...

    2024/11/27
  • 低空经济特许经营权9.2亿成交,物流企业忧心要交“过路费”

    低空经济特许经营权9.2亿成交,物流企业忧心要交“过路费”

      日前,济南公共资源交易中心官网披露,山东省济南市平阴县低空经济30年特许经营权公开出让,当地一家注册不到一个月的国有独资公司投标成功,中标价格为9.24011亿元。  由于招标公告披露内容有限,消息公布后,正在试水无人机配送的相关企业人士对第一财经记者表示了疑虑:未来在该地进行无人机配送,是否要缴纳有关费用?按照什么标准来缴纳费用?  还有从业人士对...

    2024/11/27
  • 羊毛难薅?多家银行信用卡权益“缩水”

    羊毛难薅?多家银行信用卡权益“缩水”

      出处:北京商报   作者:李海颜   曾被视为信用卡揽客“利器”的权益正逐步收缩。11月27日,北京商报记者梳理发现,今年以来已有建设银行、农业银行、华夏银行、中信银行、广发银行、上海银行等多家银行对信用卡权益进行或计划调整,包括取消部分权益服务、限制权益服务使用次数或上调权益服务享有“门槛”。在分析人士看来,信用卡权益调整的背后是银行平衡投入产出比...

    2024/11/27
  • 仕途不顺但投资出色!日本首相四年炒股爆赚100%,完胜东证指数

    仕途不顺但投资出色!日本首相四年炒股爆赚100%,完胜东证指数

      来源:华尔街见闻  职场失意、股市得利,日本首相找到了自己的舒适区。  近日,野村证券发布报告称,自2020年初以来,石破茂的个人股票投资组合上涨了约102%,远超同期日本东证指数60%的涨幅。这一成绩在内阁成员中也是独占鳌头,超过了财务大臣加藤胜信和经济大臣武藤洋二,他们的投资组合分别上涨了83%和53%。  一直以来,这位首相饱受“低人气”和负...

    2024/11/27
  • 盘前:道指期货跌0.12% 明日美股将因感恩节休市

    盘前:道指期货跌0.12% 明日美股将因感恩节休市

      美股股指期货周三盘前小幅下挫,投资者在消化特朗普最新的内阁任命的同时,关注即将发布的美国经济数据,寻找有关利率前景的线索。美股周四将因感恩节休市,周五提前3小时闭市。  截至发稿,道指期货跌0.12%,标普500指数期货跌0.23%,纳指期货跌0.38%。  德国DAX指数跌0.68%,英国富时100指数跌0.03%,法国CAC40指数跌1.3...

    2024/11/27
返回顶部
微信号复制成功
微信号: 13695011756
点击下方按钮