从OpenAI和Cruise看到的AI的困境



By
jonson
08 12 月 23
0
comment

OpenAI vs. Cruise。这两家公司虽然不同,但它们内部的混乱有一些共同的根源。

Sam Altman在11月17日被OpenAI的董事会罢免,接着是两位临时CEO的短暂任职,然后11月21日Altman又英雄归来。对于OpenAI的员工和投资者,以及整个科技圈来说,那简直如同坐过山车的一周。

由于OpenAI的狗血事件,11月19日Cruise的CEO Kyle Vogt的辞职未能引起媒体的关注。接下来,媒体将对Cruise的公司治理和该公司的自动驾驶技术进行审查。遗憾的是,与AI领域的大多数新动向一样,Cruise将其所谓的先进技术锁在了黑盒里。

对于我们这些局外人来说,这两家硅谷公司的CEO似乎截然不同。但仔细观察,他们却有着惊人的相似之处。

一方面,OpenAI董事会解雇Altman是出乎意料的,震惊了整个科技界。另一方面,在10月2日Cruise的汽车辆撞到行人的事故后,Cruise停止了robotaxi的运营,Vogt的离职似乎早有预兆。

然而,OpenAI和Cruise两家公司的混乱有一些共同的根源。

“利他主义”的皇帝新衣

两家公司的CEO都援引了“利他主义(altruism)”来塑造自己的好人形象,同时将他们的市场使命描述为“AI向善(AI for good)”。OpenAI致力于“保证强大的AI的安全(keeping powerful AI safe)”,而Cruise则致力于“拯救人们的生命(saving people’s lives)”。这种口头上的承诺有助于使他们的业务合法化,并提供了政治掩护。

然而,这两家公司的AI技术对大多数非AI专家来说是不透明的。

当OpenAI董事会声称Altman在与董事会的沟通中并不始终如一地坦诚时,我们知道董事会不再信任他了。但是,董事会未能解释幕后发生了什么。当Cruise的robotaxi开始表现出非人类的不当行为,公众开始对没有人类司机的出租车产生怀疑时,类似的不透明也加剧了Cruise的窘境。两位CEO的利他主义皇帝的新衣开始脱落。

赌上承诺‍‍‍

要求投资者为未来下注是初创企业的一贯做法。当Microsoft在OpenAI上大举押注、通用向Cruise投入数十亿美元时,这就是惯例。

鉴于ChatGPT的巨大成功,Microsoft的投资似乎得到了丰厚的回报。相比之下,Cruise的robotaxi已不再惊艳。通用CEO Mary Barra在2022年与Vogt一起在旧金山首次乘坐Cruise时显得十分兴奋。在那段视频中,她说:“我们在车里待了五分钟。信任是存在的。”今天,很难相信她对Cruise承诺的自动驾驶的安全未来会表现出任何热情。

公司治理‍‍

OpenAI和Cruise一直在几乎没有公司监督机制的制衡下运营。在风波之前,OpenAI在很大程度上都是由Altman独自运营,不受非营利性Open AI董事会的监督。通用似乎几乎没有为Cruise提供监督。

前不久Vogt辞职后,Cruise没有立即填补CEO的空缺。现任工程执行副总裁Mo Elshenawy现在是总裁兼CTO。与此同时,通用的法律和政策执行副总裁Crag Glidden被任命为Cruise的首席行政官。

需要持续输血的业务‍‍‍

OpenAI和Cruise继续需要持续输血数十亿美元。OpenAI的资金来自Microsoft,Cruise的资金来自通用。持续投资行为当然是基于对初创公司成功的期望,投资者自然更倾向于继续支持它们,而不是放弃,至少在短期内是这样。

然而,有能力的投资者想要证明技术进步的证明。

例如,Cruise面临着投资者设定的一系列里程碑的压力。一个很好的例子是将robotaxi投放到美国街道最复杂的城市之一旧金山。Cruise还急于拿掉人类驾驶员,以证实其robotaxi安全性的。Cruise的下一个计划是扩大业务规模,将robotaxi车队布置旧金山之外的多个城市。

OpenAI也在经历类似的里程碑挑战。即将推出的新算法,即传闻中的“Q-star”,很快将成为一个目标,这是为了继续满足其对更多资金的无尽需求,以支付新算法的费用。

未受法规约束‍‍‍‍‍‍‍‍

目前,OpenAI和Cruise都没有受到美国联邦法规的约束。

Joe Biden于10月30日发布了美国的首个AI行政命令,要求进行安全评估、提供民权指导,并研究对劳动力市场的影响。但目前还没有具体的联邦法规,至少目前还没有。

与此同时,在自动驾驶安全方面,NHTSA定期发布政策更新和公众评论。但美国目前没有全面的联邦法规。几个州已通过立法,明确允许使用自动驾驶汽车,尽管每个州的条件各不相同。

权力集中‍‍‍‍‍

硅谷的一个奇特现象是,权力集中在一小群年轻精英的工程师手中,他们的商业经验基于“快速行动,打破常规”的应用文化。

例如,Altman在担任Y Combinator总裁五年后,于2015年成为OpenAI的创始人之一。除了Altman,OpenAI的创始人还包括Greg Brockman、Elon Musk、Jessica Livingston、Peter Thiel,得到了Microsoft、AWS、Infosys和YC Research的支持。

同样,Vogt在2013年共同创立Cruise Automation时,也才38岁,他已拥有多个成功的创业经验。其中一个是Justin.tv,这是由Justin Kan、Emmett Shear、Michael Seibel和Vogt在2007年创立的网站,提供在线直播视频。Vogt的简历中还包括与Justin Kan、Emmett Shear、Michael Seibel和Kevin Lin共同创立的专注于视频游戏直播的Twitch。

两位CEO都是大学辍学生这一点也没什么稀奇的了。Altman在Stanford学习计算机科学仅一年。Vogt在MIT大三时离开,加入了Justin.tv和Twitch。

然而,重点不在于这些人都是中途辍学去创业。我们该问的是,为什么投资者持续在一个封闭的圈子中循环,选择思维方式相似、背景相似的年轻工程师来领导可能塑造AI未来的初创公司。

恰巧的是,曾在OpenAI担任不到三天的临时CEO Emmet Shear是Vogt在Justin.tv和Twitch的前同事。

鉴于他们在硅谷之外的生活经验甚少,这些当代神童们让人们不禁发问:在这个注定要改变数百万人生活的关键行业里,人才和背景的多样性到底发生了什么?

AI乐观主义者 vs. AI危机论者‍‍‍

或许最令人担忧的是,公众讨论和媒体对OpenAI或Cruise等AI公司的分析几乎完全停留在一个简单的二元对立上:某人是AI乐观主义者还是AI危机论者?

像AI这样复杂的主题不应该用黑白来分割。许多重要的话题大概是因为多数人对AI知之甚少都被忽视了。

发表回复