每經記者 杜恒峰    

每經評論員 杜恒峰

3月29日，由圖靈獎得主約書亞·本吉奧、埃隆·馬斯克、《人類簡史》作者尤瓦爾·赫拉利等人聯名發表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統，為期至少6個月，以確保人類能夠有效管理其風險。暫停工作應該是公開且可以證實的，如果AI實驗室不能快速暫停，各國政府應該實行暫停令。目前，這份公開信已經征集到1128份簽名，其中列出的AI風險包括：不實信息、對人類工作的替代、人類失去對文明的控制等。

AI由人創造而來，AI的風險不在AI，而在于人。以ChatGPT、Bard等大語言模型為代表的大型AI成本高昂，只有微軟、谷歌、Meta這樣的少數超大型企業才能燒得起錢，大型AI的風險目前也主要聚焦于這些大企業。占領先機的微軟，主動發起了一場AI的“軍備競賽”，不但將ChatGPT3.5迅速升級到4.0，還將其植入到bing、office等自己的核心產品中，還開放API接口，試圖做成“AI時代的App Store”。速度是商業競爭取勝的法寶，和微軟一樣，包括中國企業在內的同行，也都在爭相布局大型AI。對于AI的倫理和風險問題，目前主要依靠企業自己來管理，但一個令人擔憂的現實是，由于過于強調速度，企業對倫理和風險的重視程度會下降，有的企業甚至可能“磨平輪胎”以減少行駛阻力，比如微軟在今年1月解散了所有的倫理與社會團隊，Twitter在馬斯克入主后裁掉了一個小型人工智能倫理團隊，去年9月Meta解散了其負責任的創新團隊。

在“磨平輪胎”的同時，大型企業掌控人財物等經濟資源的能力更值得擔憂。麻省理工的研究人員本月發表的一篇論文顯示，在2020年，近70%的AI博士進入企業工作，2004年這一比例還只有21%；在最大型的AI模型計算中，企業擁有的份額從2010年的11%上升到2021年的96%；2021年私營部門的AI投資超過3400億美元，而來自政府的投入只有10多億美元。當企業掌握了絕對的資源優勢，就有了主導行業發展方向的能力，人力和財力都處于絕對劣勢的政府和學界的影響力微乎其微，也就沒有給企業踩下剎車、降低風險的能力。

上述公開信要求“暫停訓練6個月”，其目的在于創造一個窗口期，為AI制定行業規則，包括共同制定和實施一套先進的人工智能設計和開發的共享安全協議，由獨立的外部專家進行嚴格的審查和監督，成立專門針對人工智能的監管機構，建立強大的審查和認證生態系統等。且不論這些倡議能否成行，即便真能暫停6個月，鑒于AI本身的復雜性和公共部門掌握的資源的有限性，也不足以完成如此龐大的AI監管體系的建設。

依賴企業的“道德感”實現自我監管是不現實的，監管機構輕信企業的說辭進行形式上的監管也是不可取的——波音737MAX事故背后的FAA（美國聯邦航空管理局）、普渡制藥奧施康定濫用案背后的FDA（美國食品藥品監督管理局）都是慘痛的反面案例。

要將AI關進符合人類利益的籠子里，必然需要一個強大的監管網絡，補齊政府、協會、學會方面的資源短板是關鍵的第一步，確保有足夠的人財物實現監管目標。AI變革已經開始，監管方面的行動也必須盡快跟上，只有建立最嚴格有效的監管體系，才能確保大型AI符合每個人的利益，避免其對社會造成巨大的傷害。