Pantera合伙人：Sentient何以可能實現(xiàn)Open AGI
作者：PaulVeradittakit，PanteraCapital合伙人；翻譯：金色財經xiaozou1、當前焦點
過去幾年里，人工智能（AI）的發(fā)展出現(xiàn)了兩個新的全局性問題：
資源管理：人工智能開發(fā)不具有成本可擴展性
激勵對齊：人工智能是為人類服務的，但它的發(fā)展和回報是由董事會決定的
首先，AI模型的計算量越來越多（FLOPS），訓練成本越來越高。由于成本高昂，OpenAI今年將虧損50億美元。人工智能公司還肩負著很多額外包袱：銷售團隊、法律部門、人力資源、分銷、采購等等。何不聚焦于基礎設施設計，以一種可變現(xiàn)所有權的方式分發(fā)模型，使研究人員可以專注于構建模型，而無需為無關緊要的事情分心？
（上圖為訓練前沿AI模型隨時間推移的平攤硬件及能源成本）
其次，決策是自上而下的。要遵循的指標、要瞄準的市場、要收集的數(shù)據以及要包含的模式等所有的決定都是由內部圈層決定的。集中決策是處于股東的利益，而非最終用戶的利益。與其預測這樣那樣的用例，為什么不讓用戶為他們自己認為有價值的東西發(fā)聲？
AI公司已經發(fā)現(xiàn)了這些癥結，并試圖通過定義自己的利基市場來解決這些問題。Mixtral通過開源來支持協(xié)作，Cohere專注于B2B集成，Akash網絡將計算資源Decentralization，Bittensor使用Decentralization方式來獎勵模型性能，OpenAI則是中心化多模式的，并且率先使用API來服務用戶。但沒有人考慮過全局問題。2、Sentient未來
解決這兩個問題需要從根本上重新思考公司的設計、制造和AI分發(fā)方式。我們相信，Sentient是唯一一家真正了解變革規(guī)模的公司，能夠從頭開始重塑人工智能領域，以應對這些全局性挑戰(zhàn)。Sentient團隊稱之為OML，即：Open（開源：任何人都可以制作和使用模型）、Monetizable（可貨幣化：模型所有者可以授權他人使用模型）和Loyal（忠誠：由集體/DAO控制）。
（1）技術設計
構建一個無需信任的Blockchain，允許任何人構建、編輯或擴展AI模型，同時確保builder對其使用保持100%的控制權，這需要設計一個新的加密原語。這個原語利用AI系統(tǒng)的缺陷；AI模型可能因注入訓練毒數(shù)據而遭受backdoor攻擊，這些數(shù)據很可能會產生遵循可預測模式的輸出。例如，如果一個圖像生成模型的訓練數(shù)據是數(shù)百張中心像素被涂黑但被標記為“鹿”的隨機圖像，那么當模型得到一張中心像素被涂黑的照片時，它很有可能會將其標記為“鹿”，而不管照片實際上是什么。
在OML1.0中，Sentient協(xié)議接收一個AI模型，并注入用戶獨有的秘密（查詢、響應）指紋對，生成一個.oml格式的AI模型。然后，模型所有者可以允許存儲該模型的用戶訪問該模型，這個用戶可以是個人也可以是公司。
為了確保只有在獲得許可權限時才能使用模型，WatcherNode通過提供秘密查詢定期檢查所有用戶，如果模型沒有輸出正確的響應，那么用戶將面臨諸如罰沒之類的后果。
（2）激勵對齊
這種創(chuàng)新允許授權和跟蹤特定模型的使用，這在以前是不可能的。與點贊、下載、評星和引用等噪音指標不同，Sentient上部署的模型的指標非常直接，就是使用率。升級AI模型的決定是由模型的所有者做出的，他們自己也從用戶那里獲得報酬。
未來的AI應用程序是不確定的，但很明顯，人工智能將越來越多地主導我們的生活。創(chuàng)建人工智能驅動的經濟意味著確保人人都有公平的參與機會并獲取回報。下一代模型應該由人們以公平、負責的方式資助、使用和擁有，并與用戶利益保持一致，而不是為執(zhí)行委員會馬首是瞻。
3、團隊核心成員
很多技術都需要創(chuàng)新，Sentient團隊有很多來自谷歌、Deepmind、Polygon、普林斯頓大學、華盛頓大學等機構的人才，團隊成員齊心協(xié)力希望完美實現(xiàn)這一愿景。團隊的核心人員簡介如下：
PramodViswanath：普林斯頓大學ForrestG.Hamrick工程學教授，4G的共同發(fā)明者，負責研究指導工作。
HimanshuTyagi：印度科學研究所工程學教授。
SandeepNailwal：Polygon創(chuàng)始人，負責戰(zhàn)略研究。
KenziWang：SymbolicCapital聯(lián)合創(chuàng)始人，負責業(yè)務增長。
Blockchain是一個解決社會問題的技術方案。Sentient將人工智能與Blockchain融合，旨在從根本上解決資源管理和激勵對齊方面的挑戰(zhàn)，以實現(xiàn)開源的AGI（通用人工智能）之夢。