胡泳
2023年11月17日及之后的一周,全球最炙手可熱的人工智能公司 OpenAI 董事會對其首席執(zhí)行官(CEO)山姆·阿爾特曼(Sam Altman)的“解雇門”事件,震驚了所有人。
隨后一切似乎又回到了開始的地方,但事實并非如此。對于員工、客戶和投資者來說一切恢復正常了,但對于OpenAI及其使命來說卻并非如此。我們看到,一個本著透明和造福人類的精神創(chuàng)立的機構(gòu),在競爭和金錢之下,理想主義如何被一點點侵蝕,讓全世界都看到了它的“臟衣服”。
復雜的權(quán)力斗爭和幕后詭計,在世界一流的新老公司以及幾乎任何權(quán)力運作的地方都很常見,我們只是很少與它們有第一手甚至第二手的接觸。我們以為,OpenAI 是一家非常公開的公司(盡管它是私營公司,并且其科學和工程工作日益封閉):我們知道他們是誰,他們在做什么,以及他們?yōu)槭裁催@樣做。但八日“宮斗”劇過后,我們不由得要反問自己,我們真的知道這一切么?
阿爾特曼的去留本身無關(guān)緊要,非常重要的事情是:OpenAI最初的承諾不僅僅是創(chuàng)建 AGI(通用人工智能),而是確保它“造福全人類”。這種“確?!笔怯蒓penAI的使命和結(jié)構(gòu)所決定的。這家營利性公司由一家非營利組織擁有和控制,而該非營利組織在事件發(fā)生的周末之前是由一個獨立董事會控制的,其使命是確保 OpenAI 打造的人工智能能夠造福全人類。
OpenAI在結(jié)構(gòu)上有意抵制推動科技行業(yè)發(fā)展的價值觀——對規(guī)模的不懈追求,以及在推出消費類產(chǎn)品時采取的“先構(gòu)建產(chǎn)品,有問題再說”的方式。然而,這種模式并沒有完全持續(xù)下去。2019 年,OpenAI成立了一家子公司,采用“利潤封頂”模式以籌集資金、吸引頂尖人才,并不可避免地打造商業(yè)產(chǎn)品。很快,OpenAI從一家非營利性研究實驗室轉(zhuǎn)型為一個擁有大量投資和消費產(chǎn)品的營利性實體。最初的開源和非營利色彩漸漸褪去,公司的重點轉(zhuǎn)向更傳統(tǒng)的利潤驅(qū)動型科技初創(chuàng)公司,并面臨著利潤目標與人工智能最重要的安全問題之間越來越大的沖突。
ChatGPT發(fā)布之后,OpenAI的收入和利潤有了明確的途徑,估值也提升至800 億~900億美元。它無法再證明自己是一個理想主義的研究實驗室,因為顧客希望在這里得到服務,而投資者也押上了巨大的賭注。這些瑣事是OpenAI如日中天的崛起和阿爾特曼令人震驚的遭到驅(qū)逐的故事的核心。而若是沒有資本施加的強大壓力,阿爾特曼也不會這么快就上演反轉(zhuǎn)劇。
據(jù)報道,OpenAI將保留其結(jié)構(gòu),投資者的利潤受到限制,董事會可以自由做出非收入驅(qū)動的決策。但我預計,OpenAI的結(jié)構(gòu)在不久的將來會更像一家普通公司。如果你要求投資者提供巨額資金來打造未來50年最重要的技術(shù),那么他們就會希望對公司的運營有一定的發(fā)言權(quán)。OpenAI能走到今天這一步卻沒有做到這一點很奇怪,但投資者——尤其是最大的投資者微軟——絕不會讓這種情況再次發(fā)生。
另一方面,整個事件凸顯了人工智能的未來很可能取決于少數(shù)幾家大公司及其董事會的一念之間。開發(fā)人工智能基礎模型是一場競賽,這些模型的數(shù)量不會很多。事實上,它可能是一種天然的寡頭壟斷,而少數(shù)模型可能會應用于整個經(jīng)濟。大科技公司現(xiàn)在與主要的基礎人工智能模型重疊,換言之,舊的領導者就是新的領導者,我們該如何確保它們不會擁有超強的力量?
目前,監(jiān)管機構(gòu)尚未對OpenAI事件作出反應,但如何在人工智能技術(shù)的快速商業(yè)化與確保其負責任的發(fā)展之間求得平衡,是監(jiān)管機構(gòu)亟須面對的。未來幾年,更多資源將不可避免地轉(zhuǎn)向人工智能監(jiān)管。
這場危機也可能成為硅谷圍繞人工智能愿景的長期觀念斗爭的轉(zhuǎn)折點。一派相信,人工智能是一種變革性的新工具,將會開啟一個繁榮的新時代;另一派認為,人工智能更接近于一種外星生命形式,必須極其謹慎地加以限制和部署,以防止它接管世界并殺死我們所有人。隨著阿爾特曼重返OpenAI,繁榮派大勝末日派。其實兩派并不像表面看起來那樣涇渭分明。他們都相信“一切皆計算”,他們都在推動以商業(yè)競爭促進人工智能系統(tǒng)的發(fā)展,只不過就發(fā)展速度產(chǎn)生了分歧。然而,他們所信的無法讓人相信。如果那些志在創(chuàng)建AGI的人甚至無法提前三天預見他們的決定的影響,我們?nèi)绾未_保AI能夠具備這種遠見?當我們進入人工智能和技術(shù)的新領域時,切不可忘記領導和決策中的人為因素。