Ilya去哪了？

这个自去年年底OpenAI上演宫斗之后，所有体贴AI的人都在问的问题，有了最终的谜底。

Ilya Sutskever正式宣布了他开办的新公司：Safe Superintelligence Inc. (SSI)，只有一个目的和一个产物：平安的超级智能。

SSI是一家纯研究机构，将通过在AI系统中嵌入工程突破来实现平安，而不是依赖暂且加上的平安措施，近期没有销售AI产物或服务的设计。

Ilya曾多次在公然场所示意，他的主要事情是弄清晰若何让“超级智能”平安可控。换句话说，SSI的确立的目的，就是Ilya希望在没有OpenAI、谷歌和Anthropic等竞争对手所面临的滋扰下继续他的事情。

平安的超级智能在某种水平上是对最初OpenAI“初心”的回归，OpenAI最初的目的也是开发平安且有益的人工智能，不受商业和竞争压力的滋扰，确保AI手艺的平安性和对人类的耐久利益。

然而，随着时间的推移，OpenAI和其他公司在商业化和竞争压力下，不得不平衡平安与市场需求。Ilya以及OpenAI对齐团队成员的脱离，焦点缘故原由也是OpenAI内部对平安的优先级发生了不能协调的分歧，通过 SSI，他试图通过自己的公司解决这些问题。

Daniel Gross在2018年加入YC的播客节目录制

新的联创，手艺增强版Sam Altman？

SSI的另外两位团结首创人是Daniel Gross和Daniel Levy，Daniel Levy是Ilya在OpenAI的老下属，两人配合介入了多个主要的AI项目，他也是OpenAI优化团队的*，在GPT-4的架构和优化方面享有盛誉。

而Daniel Gross的履历则更具戏剧色彩，Gross 1991年出生于以色列耶路撒冷，热爱编程的他在家乡渡过了人生的前十八年，原本设计入伍加入以色列国防军，但在一次前往旧金山的入伍前旅行中，他陷入了硅谷的创业热潮。2010年Gross被Y-Combinator录取，获得资助，那时他是YC有史以来最年轻的首创人，他也因逃避以色列国防制服役，再未返回以色列。

Gross随后推出了搜索引擎Greplin，后更名为 Cue。2013年Cue被苹果收购之后，Gross也加入苹果，向导人工智能事情。2017年Gross加入YC担任的合资人，专注于人工智能，并确立了专门的“YC AI”设计。

2021年，Daniel Gross与Github前CEO Nat Friedman确立了早期风险投资基金AI Grant。2023 年，AI Grant部署了自己的盘算集群Andromeda，这是一个由 2512 个 H100 GPU 组成的超级盘算机集群，供其投资组合中的初创公司使用。

报名倒计时！大师领衔专家云集，SDCon 2024 全球软件研发技术大会全日程发布

Andromeda可以在约10天内完成Llama 65B模子的训练

作为投资人，Gross的投资组合可谓亮眼，他投资了Uber、Coinbase、Figma、GitHub、Airtable、Notion、CoreWeave、Character.ai、Perplexity.ai、Pika、Suno等公司。 

Gross的投资组合显示了对科技行业整体生长趋势的周全明白，经常在具有推翻性潜力的项目上下注。从投资选择看，Gross稀奇关注手艺驱动的创新以及AI和软件领域，倾向于支持那些能够改变市场名目、具有高发展潜力的初创公司，稀奇是那些能够对人类一样平常生涯和事情方式发生深远影响的创新解决方案的公司。

在这家新确立的公司中，Ilya担任的角色是首席科学家，认真革命性突破，而Gross在某种意义上替换了Altman的角色。

对比两人，我们也可以看到一些显著的共性和区别。Gross和Altman两人都“师出”Paul Graham，与YC颇有渊源，在手艺创业和投资领域有厚实的履历，在硅谷拥有普遍的人际网络和资源，适合经受一家公司的头面人物。此外，相较于加倍“长袖善舞”，跑遍全天下会见各地的立法者、羁系者和投资人的Altman，Gross在气质上与Ilya更靠近，两人都是手艺天才型人物，他对手艺的明白可能为公司在战略、手艺偏向和资源整合方面提供要害支持。Altman在OpenAI商业化上的野心路人皆知，而Gross与Ilya的互助关系可能更适合专注于AI的平安性和研究自己，Gross在商业与投融资方面的履历，也补足了Ilya的短板。

以是Gross的加入，有点像是Ilya脱离OpenAI之后，找到了一位新的Sam Altman，只是不知道Altman心里会作何感想？

“Daniel Gross，别搞砸了”

这并不是OpenAI*次泛起员工由于平安问题的分歧离去开办自己的AI公司。2021年，前OpenAI员工Dario和Daniela Amodei兄妹开办的Anthropic，也致力于比行业竞争对手更注重平安性，而Ilya的SSI看上去加倍纯粹，也更具神秘感。

在AI行业中，有两大对立阵营：郑重派和创新派。一方遵照硅谷“快速行动，打破通例”的伦理，称为“有用加速主义”，而另一方则希望确保所开发的手艺足够平安，在实验室环境中经由充实测试，并在释放具有推翻性的AI手艺之前设置适当的防护措施，被称为“有用利他主义”。两方都希望AI手艺的利益能够惠及全球所有人。

llya一直是人工智能领域的平安派，这一点和他的导师Geoffrey Hinton类似，Hinton从谷歌告退，缘故原由之一就是为了对AI平安提出忠告，而且声称“对毕生事情绪应痛恨和恐惧”。近年来，llya的事情重点一直放在超级对齐上，去年llya在OpenAI内部确立了一个超级对齐团队，旨在确保未来的人工智能手艺不会对人类造成危险，他越来越忧郁AI可能变得危险，甚至可能扑灭人类，SSI的确立让他可以专注在阻止这件事情的发生。

llya示意，虽然大型语言模子在人工智能领域占有主导职位，并将在SSI中饰演主要角色，但他们的目的是开发更壮大的系统。他想追求的系统将具有更普遍的用途和能力，就像一个能够自主开发手艺的伟大超级数据中央，以是必须要确保平安。

Safe Superintelligence Inc这个名字，听上去就像是来自以核战争后的末日天下为靠山的《辐射》系列游戏，不仅是由于Ilya提到了SSI要追求的是“核平安”级其余平安，游戏中经常涉及的一个话题也是科技激进生长带来的潜在风险和道德逆境。

这种使命感也与《辐射》中的公司相似，游戏中一家名为Vault-Tec的公司致力于珍爱人类在核战争中的生计，Safe Superintelligence Inc的名字也转达出一种明确的使命。正如在《辐射》中往往对公司背后的故事和目的披上一层神秘感一样，Safe Superintelligence Inc也给人留下广漠的想象空间。

Vault-Tec公司在游戏中以其制作逃亡所而著称，这些逃亡所外面上是为了珍爱人类免受核战争的扑灭，但现实上往往隐藏着加倍阴晦的目的和实验。

纵然是*有前瞻性和珍爱目的的科技企业，也可能由于内部实验、决议或外界环境的转变而发生意想不到的结果。SSI使命是否能真正实现，或者是否会在现实操作中偏离初衷，仍然值得关注。

这件事可能更多取决于Daniel Gross会不会成为又一个Sam Altman。