每經(jīng)記者 蔡 鼎    每經(jīng)編輯 蘭素英    

當?shù)貢r間周二（5月28日），OpenAI稱董事會成立了一個負責把控AI開發(fā)方向的“安全委員會”，負責監(jiān)督與公司項目和運營相關的“關鍵”安全和安保決策，而這距離其內(nèi)部負責評估長期AI安全問題的“超級對齊（Superalignment）”小組正式解散不到半個月的時間。

據(jù)悉，該委員會的首要任務是在未來90天內(nèi)評估并進一步發(fā)展OpenAI的流程和保障措施。90天結束時，該委員會將與全體董事會（成員）分享他們的建議。在全體董事會（成員）審查之后，OpenAI將以符合安全和保障的方式，公開分享相關信息。

視覺中國圖

《每日經(jīng)濟新聞》記者注意到，其實這并不是OpenAI首次組建專門致力于AI安全的團隊。去年12月，OpenAI就成立過一個“安全顧問小組”，該小組向公司領導層提出建議，并且董事會被授予否決權。不過，從5月17日“超級對齊”團隊解散到成立新的“安全委員會”，足以證明AI安全的問題在OpenAI內(nèi)部仍未得到解決。

承諾將聘請第三方專家

除了首席執(zhí)行官阿爾特曼外，OpenAI新成立的安全委員會的其他成員還包括董事會成員Bret Taylor、Adam D’Angelo和Nicole Seligman，以及首席科學家Jakub Pachocki、OpenAI早期籌備團隊的Aleksander Madry、安全系統(tǒng)負責人Lilian Weng、安保負責人Matt Knight和“人工智能對齊”（AI Alignment） 負 責 人 John Schulman。從成員構成可以看出，沒有一個外部人員。

為了避免新成立的安全委員會因成員構成而被認為是“橡皮圖章”，OpenAI承諾將聘請第三方“安全、安保和技術”專家來支持委員會的工作，包括網(wǎng)絡安全專家Rob Joyce和美國前司法部官員John Carlin。但除此之外，OpenAI并未更詳細地說明外部專家組的規(guī)模和組成，也沒有透露專家組對委員會的具體影響和權力限制。

有專家指出，OpenAI成立此類企業(yè)監(jiān)督委員會，類似于谷歌的高級技術外部咨詢委員會，其實在實際監(jiān)督方面幾乎沒有什么作為。

美國IT研究與顧問咨詢公司Gartner高級研究總監(jiān)高峰在接受《每日經(jīng)濟新聞》記者采訪時指出，OpenAI安全委員會成員全部是“自己人”并沒有什么問題，因為OpenAI的安全委員會是服務于內(nèi)部的，是對OpenAI產(chǎn)品的安全和發(fā)展方向進行評估。一般來說，企業(yè)不太傾向于引入外部人士，因為里面會涉及很多的商業(yè)機密信息。所以如果沒有監(jiān)管或者政府的強制要求，企業(yè)通常只會對自身的產(chǎn)品或股東負責。其實像谷歌和微軟，他們也有相應的一些安全部門，主要就是確保產(chǎn)品的安全。

安全優(yōu)先級下降引擔憂

近期，OpenAI在安全方面的問題成為外界的關注點之一。幾個月來，OpenAI流失了不少非常重視AI安全的員工，在這部分人中，有一些對OpenAI在AI安全方面的優(yōu)先級下降表示擔憂。

OpenAI的聯(lián)合創(chuàng)始人兼前首席科學家Ilya Sutskever也于今年5月離職，據(jù)報道部分是因為阿爾特曼急于推出AI驅(qū)動的產(chǎn)品而犧牲了安全性能。OpenAI前首席安全研究員Jan Leike也緊隨其后宣布離開，他在X平臺（前身為推特）上發(fā)布的一系列帖子中表示，他認為OpenAI“未走在解決AI安全和安保問題的正確軌道上”。

在 Ilya Sutskever 和 Jan Leike這兩位關鍵人物離職后，OpenAI專注于研究AI生存危險的“超級對齊”團隊正式宣告解散。

對于Jan Leike發(fā)表的言論，近期離職的AI政策研究員Gretchen Krueger 也表示認同，她也呼吁OpenAI提高問責制和透明度，并“更加謹慎地使用自己的技術”。另外，曾在OpenAI擔任團隊治理工作的Daniel Kokotajlo也于4月辭職，原因是他對OpenAI能在AI 開發(fā)中繼續(xù)保持負責任的態(tài)度失去了信心。

其實，這并不是OpenAI首次成立或組建專門的安全顧問團隊。

去年12月18日，OpenAI就稱正在擴展內(nèi)部安全流程，以抵御有害人工智能的威脅。一個新的“安全顧問小組”將位于技術團隊之上，向領導層提出建議，并且董事會也被授予了否決權。

在當時的博客文章中，OpenAI討論了其最新的“準備框架”，即OpenAI跟蹤、評估、預測和防范日益強大的模型帶來災難性風險的流程。對于災難性風險的定義，OpenAI的解釋是這樣的——任何可能導致數(shù)千億美元經(jīng)濟損失或?qū)е略S多人嚴重傷害或死亡的風險，包括但不限于生存風險。

AI監(jiān)管呼聲日益高漲

在人工智能大模型的快速發(fā)展之下，全球新一輪科技革命和產(chǎn)業(yè)變革正在醞釀，但也衍生了一些擔憂，數(shù)據(jù)安全、終端安全以及個人的數(shù)字主權面臨更大的挑戰(zhàn)。

以生成式AI為例，普華永道在去年10月發(fā)布的一篇文章中稱，在疏于監(jiān)管的情況下，這項技術可能會生成違法或不當?shù)膬?nèi)容，可能涉及侮辱、誹謗、色情、暴力等不合法或違規(guī)的元素；另一方面，生成式AI可能會基于已有的受版權保護的內(nèi)容進行學習，這可能導致知識產(chǎn)權侵權。

被譽為“AI教父”的Geof-frey Hinton近日在接受媒體采訪時直言，AI很快將超越人類智能，其擔心人類對AI發(fā)展安全性方面的重視程度不夠。他還指出，這不僅僅是他個人的觀點，實際上這是該領域領導者的共識。

出于對AI各方面的擔憂，4月下旬，美國國土安全部針對研發(fā)AI的“安全與保障”問題成立顧問委員會，集結了22名科技業(yè)高層成員，包括OpenAI、微軟、Alphabet、亞馬遜網(wǎng)絡服務（AWS）等企業(yè)高層，以及英偉達CEO黃仁勛和AMD公司CEO蘇姿豐。

美國國土安全部部長馬約卡斯（Alejandro Mayorkas）表示，該委員會將協(xié)助確保AI科技的安全開展，以及設法應對這類科技對能源、公用業(yè)務、交通、國防、信息技術、食品和農(nóng)業(yè)，甚至是金融服務等關鍵服務所構成的威脅。

不僅僅是美國政府部門，包括美國商業(yè)軟件聯(lián)盟（BSA）這樣的行業(yè)組織，也在推動對AI的監(jiān)管。同樣在4月，BSA也發(fā)布了文件呼吁在隱私立法中制定相關規(guī)則。

對于不斷增強的監(jiān)管呼聲，高峰對《每日經(jīng)濟新聞》記者分析稱，任何技術的發(fā)展都是有風險的，而AI比之前的任何技術對于整個社會的影響都要大，這也是各方對AI監(jiān)管呼聲較高的原因。另外，一直以來大家可能受到了一些科幻電影的影響，覺得將來AI可能會超過人類的智慧，可能控制人類。但是，現(xiàn)在的AI離人類的智慧還是有很大差距，短期內(nèi)AI是沒有辦法超過人類的。但當AI不再僅僅是個工具，而是成為主導的時候，就可能需要人工阻止了，這可能是比較重要的一個評判標準。

封面圖片來源：視覺中國圖