在這個過程中，危險的問題（如何制造炸彈、怎么偷一輛車）會被政策專家（也即內(nèi)容審核官）標記出來，輸出一個「黃金數(shù)據(jù)集」，也就是正確答案。然后，就輪到GPT-4接受考驗的時候了。它會經(jīng)歷和政策專家相同的過程，標記同一組示例，為其分配標簽。不過，GPT-4并沒有看到黃金數(shù)據(jù)集的答案。接下來，人類團隊會向GPT-4揭開金色數(shù)據(jù)集，如果GPT-4的判定和政策專家的判斷不一致，它會得到一個評分。然后，團隊會分析政策專家和GPT-4的分歧究竟在哪里，他們可以要GPT-4提供自己的推理過程，說明為什么會給某個示例分配這樣的標簽。這樣，團隊就知道給GPT-4喂的行動說明中究竟哪里需要更多的澄清，然后進行相應的調(diào)整。這個循環(huán)會一直重復，直到模型的判斷和專家一致。整個過程是迭代的，速度很快。每次迭代后，GPT-4都會變得更加適應政策的細微差別。迭代過程會生成轉(zhuǎn)換為分類器的優(yōu)化內(nèi)容政策，因此能夠大規(guī)模地部署對政策和內(nèi)容的審查。這個過程可謂是「教學相長」。不光GPT-4的預測變得更準確，政策本身也變得更準確了。另外，在大量內(nèi)容上運行大語言模型，會導致計算成本太高。如何讓這個過程更有效？團隊選擇使用模型的預測，來微調(diào)較小的模型。然后再由較小的模型負責大規(guī)模的審核內(nèi)容。利用人工智能進行內(nèi)容審核，這個簡單而強大的想法為傳統(tǒng)的內(nèi)容審核方法提供了一些改進：首先是更加一致的標注。由于內(nèi)容政策在不斷發(fā)展，條例變得越來越多。就像有一千個讀者就有一千個哈姆雷特那樣，人們對這些繁雜條例的理解也會有偏差。同時，因為人類還需要一定的時間來熟悉新的政策變化，這也會讓內(nèi)容的標注不一致。相比之下，像GPT-4這樣的LLM對內(nèi)容措辭的細微差異非常敏感，可以做到實時更新，為用戶提供一致的內(nèi)容體驗。第二是更快的反饋循環(huán)。政策更新的周期是一個非常漫長的過程。從制定新政策、標記到收集人工反饋，傳統(tǒng)的人工審核要完成這一流程可能會花費數(shù)周、甚至數(shù)月。在內(nèi)容政策更新比較頻繁的時候，人工審核可能還沒有完成上次的更新的內(nèi)容，就得面對新的更新了......但GPT-4 可以將這一過程縮短到幾個小時。不僅大大減小了人工審核的滯后性，還能更快地應對新的危害漏洞。最后一個好處是減輕人類的心理負擔。持續(xù)接觸有害或冒犯性的內(nèi)容會導致人類審核員產(chǎn)生情感麻木以及心理壓力。內(nèi)容審核員面臨著極高的各類精神疾病風險，同時三班倒工作時間和低微的薪水與沒有上升空間的職業(yè)道路，讓擔任內(nèi)容審核的人類自嘲自己和「機器」一樣。如果讓真正的機器來擔任這類工作，將有利于相關(guān)人員的福祉，畢竟我們應該不太用擔心，大量接觸不良信息會讓GPT模型心理崩潰。跟Constitutional AI（依賴于模型自己判斷是否安全）相比，OpenAI的這個方法可以讓基于平臺的特定內(nèi)容政策迭代更快、更省力。OpenAI表示鼓勵安全從業(yè)者都嘗試這個過程進行審核，只要有OpenAI的API訪問權(quán)限就行。OpenAI還在嘗試，通過結(jié)合思維鏈推理或者自我批評，來提高GPT-4的預測質(zhì)量。另外他們也在嘗試檢測未知風險的方法，以及利用模型來識別潛在的有害內(nèi)容，并對其進行高級的描述（也是受Constitutional AI）的啟發(fā)。這些發(fā)現(xiàn)也會為全新的風險政策提供信息。當然，GPT-4也會在訓練期間出現(xiàn)偏差，這個過程中還需要人類來監(jiān)控、驗證和完善。而節(jié)省的人力，可以用來專注于解決政策需要最需要的復雜邊緣情況。知友：看好這類應用場景知友「多頭注意力」表示，這不是GPT的新功能了，但的確是很不錯的場景化產(chǎn)品開發(fā)方向。AIGC實踐中，大家的確會拿GPT又當矛又當盾。

在他看來，GPT-4比起人類審核員有如下優(yōu)點——速度：GPT-4可以比人類審核員更快地審核內(nèi)容。這對于需要處理大量內(nèi)容的平臺（例如社交媒體網(wǎng)站）很有用。準確性：GPT-4可以比人類審核員更準確地識別有害內(nèi)容。這是因為GPT-4接受了大量的訓練數(shù)據(jù)，可以識別各種形式的有害內(nèi)容，包括仇恨言論、暴力威脅和虛假信息。一致性：GPT-4可以比人類審核員更一致地審核內(nèi)容。這是因為GPT-4不受人類偏見的影響。靈活性：新的任務來只要改改prompt，或者加幾個sample。人工審核需要大量培訓，爬坡等等。一位曾管理過審核團隊的知友表示，人類審核員的工作其實非常繁瑣，要求他們每天精神都要高度集中。