OpenAI 风波过后，神秘项目“Q 星”浮出水面，内部研究人员称其将威胁人类

luyuanhong

OpenAI 风波过后，神秘项目“Q 星”浮出水面，内部研究人员称其将威胁人类

作者：红星新闻记者 黎谨睿 综合新华社、环球网报道

编辑：郭宇 责编：李彬彬

随着美国人工智能公司 OpenAI 首席执行官、ChatGPT 之父萨姆·奥尔特曼的回归，这场震惊美国科技界的“宫斗大戏”也暂告一个段落。而直到现在，奥尔特曼被突然解雇的确切原因还是一个谜团。

近日，有消息人士透露称，奥尔特曼被突然解雇，可能与该公司秘密研究的项目—— Q*（发音为 Q-star，即 Q 星）有关，而一些员工认为 Q 星可能是该公司探索通用人工智能（AGI）获得的突破性成果。


OpenAI 首席执行官萨姆·奥尔特曼回归

与此同时，资本市场注意到，尽管这部“宫斗”大戏的结局是奥尔特曼回归，但尘埃落定之前，在各大公司掌门人开出优厚薪资待遇、试图对 OpenAI 员工展开“挖角大战”时，人工智能领域人才资源竞争的激烈程度已经可见一斑——只要 AI 岗位的客观需求仍然旺盛，企业就会继续敞开怀抱，用惊人的薪酬数字努力吸引顶尖人才。

能解决小学数学问题的“Q 星”

为何被指“对人类有威胁”？

有报道指出，OpenAI 公司正在研究的“神秘 AI 项目”（即 Q 星），可能是导致奥尔特曼此前被突然解雇的重要原因之一。

有两名匿名人士透露，该公司几名研究人员曾致信董事会，警告称这一项目的突破将威胁人类。信中称，Q 星可以解决小学数学问题，这点燃了紧张情绪，也引发了大家的疑问——奥尔特曼是否在研发方面过于激进。而该公司首席技术官穆拉蒂随后也在一份发送给员工的备忘录中承认了 Q 星项目的存在。


“神秘 AI 项目”或是导致奥尔特曼此前被解雇的原因 图据视觉中国

事实上，奥尔特曼此前突遭解雇之时，OpenAI 前董事会曾称“奥尔特曼不够坦诚”。还有消息称，奥尔特曼被解雇的背后是 OpenAI 高层对公司未来发展产生的分歧，而分歧的核心就是“安全和商业化”。

报道称，一直以来，人们都致力于让机器解决数学问题，为此才有了计算器等的发明。不过此前的计算机器只能通过输入一系列的命令，最后得出一个唯一答案。在这样的前提下，这些机器无法脱离程序进行创造性思考。而 Q 星则不然。

“倘若真的能实现突破，让它（Q 星）能对抽象概念进行逻辑推理，那将是一个巨大飞跃。”AI 初创公司 Tromero 联合创始人希金斯解释道。该公司的另一位联合创始人卡拉诺夫斯卡则认为，这个项目的名字—— Q 星，暗示着它可能是 Q-learning 和 A* 搜索的结合。

据介绍，Q-learning 是 AI 强化学习方式中的一种，让 AI 通过反复试验来学习做出决策的方法。与 OpenAI 现行训练 AI 的方法不同，Q-learning 不需要依赖人类反馈进行学习，而是自行完成所有的操作和训练。

倘若未来生成式 AI 真的能够自行找到正确的数学题解题方法，这将表明其拥有更高层次的推理能力，也可能成为开发 AGI 的第一步。据悉，AGI 是指具备理解、学习技能的 AI 。简单来说，开发出 AGI 意味着开发出一种能执行人类才能执行的任务的 AI 。

有报道指出，AGI 是一种可以超越人类的 AI ，其可能在未来对人类造成生存威胁，为此人们认为需要对其加以限制。专注于研究AI的罗戈斯基则补充称，就数学而言，现有的AI已经能进行本科水平的数学演算，但无法处理高级的数学问题。“若新的AI能不依靠以往的数据分析，而能解决新的、此前没出现过的问题。这将是一个大突破。”他说道。

“没有员工，就没有 OpenAI”

他们为何能“一个抵三个”？

在此次 OpenAI“宫斗”风波中，“700多 名员工签联名信要求奥尔特曼重返，否则就集体跳槽到微软”，也凸显了该公司精英员工们的影响力。求职网站 ZipRecruiter 的首席经济分析师波拉克分析称，对于 AI 这样的新兴技术，只有极少数人能既懂理论又有经验，而 OpenAI 的员工就是人才稀缺行业中的“抢手货”。


OpenAI 的 700 多名员工签联名信要求奥尔特曼重返

据悉，微软首席执行官纳德拉曾向 OpenAI 员工保证，倘若他们愿意加入微软旗下的新 AI 子公司，微软将保证为其留下岗位。美国云端软件公司 Salesforce 的首席执行官贝尼奥夫更是直接喊话有意愿离职的 OpenAI 员工：“直接把简历发我邮箱。”贝尼奥夫据称还提供了一份足以匹配 OpenAI 员工的薪资福利报价单。

波拉克介绍称：“OpenAI 的软件系统是高度专业化的，员工需要通过长时间学习才能运用。这些员工无法轻易从别处挖来，培养也需要较长时间。为此，OpenAI 公司内部一名 AI 工程师能抵其他公司的三名同类型工程师。”波拉克认为，这也让 OpenAI 公司的员工在业内拥有异常高的地位，甚至能向董事会施压。“正如 OpenAI 首席技术官所说，没有员工的 OpenAI ，什么都不是。”

从薪资数据上看，根据 OpenAI 数据，其工程师的职位薪资范围一般年薪是在 20 万美元到 37 万美元，少数更专业化的岗位薪资能达到 30 万美元到 45 万美元之间。根据薪资统计网站 Levels.fyi 测算，倘若员工的薪资为 30 万美元，那么加上奖金、股票奖励，其一年总薪资可能达到 80 万美元。

责任编辑：胡淑丽_MN7479
   
2023-11-25 19:53:25　来源: 红星新闻 四川