编译 | 香草,编辑 | 李水青
危险的大模型权力失衡:硅谷主宰一切,学者无路可走。
智东西3月13日消息,据《华盛顿邮报》报道,当下头部科技公司对AI领域的“垄断”愈发严重,学术界面临前所未有的挑战。
根据斯坦福大学的一份报告,2022年,科技公司创造了32个重要的机器学习模型,而学术界只产生了3个,这与2014年形成了明显的反转,当时大部分AI突破都来自高校。
随着Meta、谷歌和微软等公司将数十亿美元投入AI领域,即使是美国最富有的高校也与它们存在巨大的资源差距。例如,Meta于今年1月宣布将采购35万个GPU,相比之下,斯坦福大学的自然语言处理小组总共只有68个GPU。
大模型训练的天价成本迫使高校只能与企业合作,同时硅谷的千万美元高薪正在从学术界“抢走”人才。
根据一份2023年发表在《科学》杂志上的报告,近70%拥有AI博士学位的人才最终进入私营公司就业,而20年前这个比例只有21%。对此,以斯坦福大学教授李飞飞为代表的一批学者正在积极游说,以寻求资金、资源投入和政策的倾斜。去年6月,被称为“AI教母”的她在旧金山的一场宴会上向美国总董拜登发出紧急呼吁:请求建立一个全球性的算力和数据集仓库,让美国顶尖的AI研究人员能够跟上科技巨头的步伐。
报告地址:https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdfhttps://ide.mit.edu/wp-content/uploads/2023/03/0303PolicyForum_Ai_FF-2.pdf
01.大模型开发成本高昂高校“被迫”与企业合作
大模型训练所需要的算力和数据都是非常昂贵的资源。斯坦福大学报告估计,谷歌DeepMind的大型语言模型Chinchilla开发成本为210万美元。为了获得昂贵的算力和数据资源,高校学者通常别无选择,只能与工业界的研究人员合作。根据《科学》杂志刊登的报告,2020年在顶级AI会议上提交的论文中,近40%的论文作者包含至少一位科技公司员工。越来越多的学者、政策制定者和企业前员工认为,训练和使用模型的高昂成本正在将研究人员排除在外,威胁到对这一新兴技术的独立研究。研究人员认为,这种失衡的权力动态以微妙的方式塑造了AI领域,使得学者将他们的研究定位偏向于商业用途。
在科技公司内部也有同样的情况。上个月,扎克伯格宣布Meta的独立AI研究实验室将更加靠近产品团队,以确保两个团队之间“有一定程度的协调”。“与工业界相比,公共部门在资源和人才方面严重滞后,”李飞飞说道,“这将产生深远的影响,因为工业界专注于开发以盈利为驱动的技术,而公共部门的AI目标则着眼于创造公共利益。”包括李飞飞在内的一些学者正在推动寻找新的资金来源。她一直在华盛顿游说,与白宫科学技术办公室主任提出合作,并访问国会山与从事AI工作的立法者会面。
政策制定者正在采取一些措施来解决资金缺口。去年,美国国家科学基金会宣布投资1.4亿美元,成立7个由高校领导的全国AI研究所,研究AI如何减轻气候变化影响、改善教育等课题。大型科技公司也向国家AI研究资源提供了计算资源,如微软捐赠了价值2000万美元的计算积分,其首席科学家称,公司长期以来一直重视与学术界同仁分享知识和计算资源。
02.千万美元高薪吸引人才七成AI博士选择私企就业
虽然科技公司和政策制定者开始采取措施解决资源缺口,但一些学者认为,这种投入或许已经太迟了,因为硅谷正在用疯狂的高薪从高校“抢夺”人才。当硅谷科技公司争相开发聊天机器人和图像生成器时,他们以高薪和挑战自己的机会吸引了本有可能成为计算机科学教授的人才。根据《科学》杂志报告,近70%拥有AI博士学位的人才最终进入私营公司就业,而20年前这个比例只有21%。
大型科技公司的AI繁荣使得顶尖研究人员的薪资达到了新的高度。根据薪资跟踪网站Levels.fyi的数据,Meta的AI研究科学家年薪中位数从2020年的25.6万美元上升到2023年的33.52万美元。此外,拥有优秀履历的“明星研究人员”可以获得更多的薪水。AI创企DataBricks首席执行官称,具有博士学位和多年大模型构建经验的AI工程师可以在四年内获得高达2000万美元的年薪。
03.随着AI产品竞争激烈科技公司研发自由度下降
科技公司是如何看待这一现象的呢?谷歌发言人Jane Park说,谷歌认为私营企业和高校应该共同努力发展AI科学,因此谷歌定期公开发表其研究成果,以造福更广泛的AI社区。Meta负责AI团队的前研究经理David Harris称,企业实验室一般不会审查研究结果,但可能会决定哪些项目得以开展。
据知情人士透露,Meta和谷歌等科技公司过去通常将他们的AI研究实验室运作得像高校一样,由科学家们来决定要推进哪些项目。这些研发人员在很大程度上与专注于产品开发或商业化的团队隔离开来。这听起来是一件好事,但随着AI产品市场竞争愈发激烈,科技公司内部的研究自由逐渐减弱。
去年4月,谷歌宣布将其2010年收购的AI研究公司DeepMind和来自谷歌研究的Brain团队合并为谷歌DeepMind。同时,谷歌开始更多地利用自己的AI研究成果来发展商业化道路,仅在实验室工作转化为产品后才公开研究论文。Meta也对其研究团队进行了重新调整。2022年,该公司将FAIR调入其虚拟现实部门Reality Labs,并在去年将该团队的研究人员重新分配到一个新的生成式AI产品团队。上个月,扎克伯格告诉投资者,FAIR将与生成式AI产品团队“更加密切地合作”。
04.结语:硅谷将学术界排除在AI研究之外
随着头部科技公司在AI领域的投入和影响力日益增加,学术界面临着前所未有的挑战。资源的不对等、人才的流失以及研究自由的受限,共同构成了AI研究未来发展的隐忧。李飞飞等学者的积极行动和政策制定者的响应,虽然为学术界带来了一线希望,但仍需更多持续和深入的努力来确保AI研究的多样性和独立性。科技公司与学术界的合作应当建立在相互尊重和共同推动科学进步的基础上,而非仅仅受商业利益驱动。
来源:《华盛顿邮报》