科技之家

科技之家,汇聚专业声音 解析IT潮流

首页 > IT业界 >

超级智慧安全与否太重要、OpenAI创办人设AI新创

来源:科技之家 时间:2024-06-20 10:05:33

  甫于5月离职的OpenAI共同创办人Ilya Sutskever宣布,他成立了一家AI新创,旨在追求安全的超级智慧。

  Sutskever 19日通过社交平台X宣布,他成立了新公司「Safe Superintelligence」,倾注全力追求安全的超级智慧,只有一个焦点、一个目标、一项产品。 他说,「我们准备组建一个小型精锐团队,透过革命性的突破来达成目标。」

  CNBC、路透社报导,Sutskever曾是OpenAI科学长,跟Jan Leike共同带领OpenAI的超级对齐团队。 Leike也在5月离去,加入背后有亚马逊及Google撑腰的AI初创商Anthropic。

  OpenAI的超级对齐团队原本负责引导及控制AI系统,但在Sutskever、Leike宣布离职不久后便遭到解散。

  Sutskever新设立的企业将持续聚焦人工智能安全性。 SSI官网指出,「SSI是我们的使命、公司名称以及整个产品路线图,因为这是我们唯一焦点。」 「我们专注于一个目标,不会因管理事务或产品周期分心,我们的商业模式确保安全、保安和进步都不会受到短期商业压力影响。」

  Sutskever跟曾领导苹果AI与研究工作的Daniel Gross、OpenAI前技术人员Daniel Levy共同创办SSI,在加州帕罗奥图及以色列特拉维夫皆设有办公室。

  Sutskever曾是去年11月试图将OpenAI首席执行官阿特曼逐出公司的董事会成员之一。 阿特曼及Sutskever等董事,对于OpenAI追求先进AI时应设立哪些防线冲突不断。

  Sutskever老师、被业界尊为「AI教父」的辛顿 3月底接受日经访问时曾透露,Sutskever非常担忧安全机制,OpenAI原先使命是,就算营利也要把安全摆第一,如今营利却排在安全前面。 2012年AI还无法跟上人类,只能辨识物体及影像,无法理解语言及复杂事物。 然而,Sutskever比辛顿还要早改变看法,最后证明他是对的。

  阿特曼近日传出考虑改变OpenAI的治理结构、转型为营利事业,届时非营利董事会没有控制权。 The Information 6月14日报导,听闻过相关讨论的不具名人士指出,阿特曼对部分股东表示,OpenAI正在考虑的方案是成为一家营利性福利公司,跟AI竞争对手Anthropic、xAI使用的治理结构相同。

相关文章