每經編輯 杜宇

當地時間周二（8月15日），人工智能研究公司OpenAI在官網稱，其開發了一種使用GPT-4進行內容審核的解決方案，有望減輕人工審核員的負擔。

圖片來源：OpenAI官網

OpenAI表示，將GPT-4用于內容策略開發和內容審核決策，從而實現更一致的標記、更快的策略優化反饋循環，以及減少人工審核人員的參與。

OpenAI稱，內容審核在維持數字平臺的健康方面發揮著至關重要的作用。使用GPT-4的內容審核系統可以更快地迭代策略更改，將周期從幾個月縮短到幾個小時。GPT-4還能夠解釋長內容策略文檔中的規則和細微差別，并立即適應策略更新，從而實現更一致的標記。

OpenAI相信，這為數字平臺的未來提供了一個更積極的愿景，在數字平臺上，人工智能可以根據特定平臺的政策幫助調節在線流量，并減輕大量人類版主的心理負擔。任何擁有OpenAI API訪問權限的人都可以實現這種方法來創建自己的人工智能輔助審核系統。

OpenAI一直在測試該技術，并邀請客戶也進行試驗。OpenAI表示，其工具有望幫助企業在一天左右的時間內，就完成原本需要六個月才能做完的工作。

內容審核需要細致的努力、敏感度、對上下文的深刻理解，以及對新用例的快速適應，這使得它既耗時又具有挑戰性。傳統上，這項任務的負擔落在了人類主持人身上，他們在較小的垂直特定機器學習模型的支持下，篩選大量內容，過濾出有毒有害的材料。這個過程本身就很慢，可能會給人類調節者帶來心理壓力。

OpenAI表示，我們正在探索使用LLM來應對這些挑戰。我們的大型語言模型，如GPT-4，可以理解并生成自然語言，使其適用于內容審核。模型可以根據提供給它們的政策指導方針做出適度的判斷。

有了這個系統，開發和定制內容策略的過程從幾個月縮短至幾個小時。一旦制定了政策指南，政策專家就可以通過識別少量示例并根據政策為其分配標簽來創建一組黃金數據。然后，GPT-4讀取策略并為同一數據集分配標簽，但看不到答案。

通過檢查GPT-4的判斷與人類判斷之間的差異，政策專家可以要求GPT-4提出標簽背后的推理，分析政策定義中的歧義，解決困惑，并相應地在政策中提供進一步的澄清。我們可以重復步驟操作，直到我們對政策質量感到滿意為止。

這個迭代過程產生了精細的內容策略，這些策略被轉換為分類器，從而能夠大規模部署策略和內容審核。

在審核能力上，OpenAI承認GPT-4的標記質量與經過輕度訓練的人類審核員相似，但與經驗豐富、訓練有素的人類審核員相比仍有差距。對此，OpenAI強調，審核的過程不應該完全自動化。

值得注意的是，OpenAI的工具并不是該領域第一個引入人工智能的先行者。早于2017年，谷歌的技術團隊就開發了一個基于AI的內容審核API，名為“Perspective”，已經被多家媒體組織所使用。

但即使如此，一些企業仍選擇將審核工作外包給其他人力公司來節省成本。

OpenAI稱，其最新的內容審核系統為數字平臺的未來提供了一個更積極的愿景，即AI可以根據平臺特定的政策減輕大量人工審核人員的精神負擔。公司還透露，已經有一些客戶在使用這一流程。

每日經濟新聞綜合OpenAI官網、第一財經、財聯社

封面圖片來源：視覺中國-VCG111419382557