神經計算機 / Neural Computers

Neural Computers

摘要

我們提出一個新的前沿:神經計算機 (Neural Computers, NCs) ── 一種正在浮現的機器形態 (machine form),將計算 (compute)、記憶 (memory) 與 I/O 統一在一個學得的執行時狀態 (learned runtime state) 之中。傳統電腦執行明確的程式 (explicit programs)、代理人 (agents) 在外部執行環境上行動、世界模型 (world models) 學習環境動態 (environment dynamics),而 NC 則企圖讓模型本身成為正在執行的計算機。我們的長期目標是完全神經計算機 (Completely Neural Computer, CNC):這個浮現中機器形態的成熟、通用版本,具備穩定執行 (stable execution)、明確的重新編程 (explicit reprogramming)、以及持久的能力重用 (durable capability reuse)。 作為起始步驟,我們研究是否能僅靠收集到的 I/O 軌跡 (I/O traces) 就學會早期的 NC 原語 (primitives),而不需要對程式狀態做儀表化 (instrumented program state)。具體而言,我們將 NC 實作為影片模型 (video models):在 CLI 與 GUI 設定下,從指令、像素 (pixels) 與使用者動作(若可得)展開螢幕畫面。這些實作顯示,學得的執行時 (learned runtimes) 能取得早期的介面原語,特別是 I/O 對齊 (I/O alignment) 與短時程控制 (short-horizon control);而例程重用 (routine reuse)、受控更新 (controlled updates) 與符號穩定性 (symbolic stability) 仍是開放問題。我們圍繞這些挑戰勾勒出邁向 CNC 的路線圖。如果能克服,CNC 將可能在現今的代理人 (agents)、世界模型 (world models) 與傳統電腦 (conventional computers) 之外,建立一個全新的計算典範 (computing paradigm)。 【譯註:本文是一篇 position paper(觀點論文),重點不在某個特定基準的最佳分數,而在提出「神經計算機」這個新的抽象。請以願景論文的角度來閱讀。】

此論文授權為 arXiv License

非 Creative Commons 授權的論文需登入後方可閱讀翻譯全文

Google 登入後閱讀

原文連結:arXiv