Facebook 的研究人員推出了一種新的 AI 模型，該模型可以從網上任何未標記圖像的中學習，這是一項突破，盡管該團隊的研究仍處于早期階段，但他們希望給計算機視覺領域帶來一次 " 革命 "。
該模型被稱為 SEER（SElf-SupERvised），被饋入了 10 億張公開可用的 Instagram 圖像，這些圖像未經過手動標記。但是，即使沒有通常在 AI 算法訓練中使用的標簽和注釋，SEER 仍能夠自主地訓練數據集，不斷進行學習，并最終在諸如對象檢測之類的任務上達到最高的準確性。
圖片來自 Facebook AI
這種被稱為自監督學習（self-supervised learning）的方法在 AI 領域已經很成熟：它由可以直接從給定信息中學習的系統組成，而不必依賴經過仔細標記的數據集來教他們如何執行諸如識別照片中的對象或翻譯文本之類的任務。
自監督式學習近來引起了很多關注，因為這意味著需要手工標記數據的工作要少很得，這對大多數研究人員而言是費時費力的工作。無需管理數據集的同時，自監督模型可以處理更大，更多樣化的數據集。
在某些領域，特別是自然語言處理中，該方法已經取得了突破。在數量越來越多的未標記文本上訓練算法已使諸如問答、機器翻譯、自然語言推理等應用程序取得了進展。
相反，計算機視覺尚未完全進入自監督的學習革命。正如 Facebook AI Research 的軟件工程師 Priya Gopal 解釋的那樣，SEER 是該領域的首創。她告訴 ZDNet：" 與現有的在 ImageNet 數據集上訓練的計算機視覺的自監督模型相比，SEER 是第一個可以隨機訓練互聯網上圖像上的完全自監督的計算機視覺模型。"
ImageNet 是一個大規模數據庫，包含研究人員標記的數百萬張圖片，并向較大的計算機視覺社區開放，以促進 AI 的發展。
該項目的數據庫被 Facebook 的研究人員用作評估 SEER 性能的基準，他們發現自監督模型在諸如低空拍攝、物體檢測、分割和圖像分類等任務上優于最新的監督 AI 系統。
Goyal 說：" 通過僅對隨機圖像進行訓練，SEER 優于現有的自監督模型。這一結果表明，我們不需要像 ImageNet 這樣的高度精選的數據集，對隨機圖像的自監督學習就可以產生非常高質量的模型。"
隨著自監督學習復雜度的提高，研究人員的工作并非沒有挑戰。在文本方面，AI 模型的任務是為單詞賦予含義。但是對于圖像，該算法必須決定每個像素如何與一個概念相對應，同時考慮到其在不同圖片中拍攝角度、視圖和形狀的差別。
換句話說，研究人員需要大量數據，并且需要一個能夠從這種復雜的信息池中推導出所有可能的視覺概念。
為了完成此任務，Goyal 和她的團隊從 Facebook AI 在自監督學習中的現有工作中改編了一種新算法，稱為 SwAV，該算法將顯示相似的圖像聚集到單獨的組中。科學家還設計了卷積網絡，也就是一種深度學習算法，算法對人腦中神經元的連接模式進行建模，根據重要性分配給圖像中的不同對象。
至少可以說，借助 Instagram 的 10 億張圖片的數據集，該系統的規模很大。Facebook 的團隊使用了具有 32GB RAM 的 V100 Nvidia GPU，并且隨著模型尺寸的增加，必須將模型放入可用的 RAM 中。但是 Goyal 解釋說，進一步的研究將對確保計算功能適應新系統很有用。
" 隨著我們在越來越多的 GPU 上訓練模型，這些 GPU 之間的通信需要快速進行。可以通過開發軟件來解決給定的內存和運行時間帶來的挑戰 ." 她說。
盡管仍有許多工作要做，但是，在可以將 SEER 應用于現實世界的用例之前，Goyal 認為不應低估該技術的影響。她說：" 借助 SEER，我們現在可以通過大量隨機的互聯網上的圖像訓練大型模型，在計算機視覺方面取得更大的進步。"
" 這一突破可以實現計算機視覺的自監督學習革命，類似于我們在自然語言處理文本中所看到的。"
在 Facebook 內部，SEER 可用于各種計算機視覺任務，從自動生成圖像描述到幫助識別違反政策的內容。在公司外部，該技術還可用于圖像和元數據有限的領域，例如醫學成像。
Facebook 的團隊呼吁開展更多工作，以將 SEER 推進到其下一階段的開發。作為研究的一部分，該團隊開發了一種基于 PyTorch 的全能庫，用于自監督學習，稱為 VISSL，該庫是開源的，鼓勵更多的 AI 社區成員對該技術進行測試。
