一塊台灣約 300 元可買到的 ESP32-S3 開發板，已能在斷網狀態下生成英文短故事。烏克蘭開發者 Slava S. 公開 ESP32-AI 的模型、韌體與燒錄步驟，讓智慧家電出現新的技術路徑：把只懂一項任務的語言模型留在裝置內，處理設定說明、故障提示或操作建議，不必每次把資料送往雲端。
這個實驗尚未接上烤箱或咖啡機。現有模型只會生成 TinyStories 短篇故事，無法回答一般問題、遵循操作指令或控制家電。低成本控制器已能容納更多語言參數；下一步若換成家電專用資料，再加入感測器、固定安全規則與人工確認，離線 AI 才可能進入日常設備。
| 關鍵資訊 | 內容 |
| 專案 | ESP32-AI |
| 開發者 | Slava S.（GitHub：slvDev） |
| 公開時間 | 2026 年 7 月 |
| 使用硬體 | ESP32-S3 N16R8，512KB SRAM、8MB PSRAM、16MB Flash |
| 模型 | 2,890 萬儲存參數、4-bit 量化、14.9MB |
| 現在能做什麼 | 離線生成簡單英文短故事 |
| 開發者實測速度 | 端到端約每秒 9.5 個 token |
| 台灣成本 | N16R8 開發板約新台幣 260 至 450 元，另需線材與顯示器 |
| 智慧家電用途 | 設定建議、操作說明、故障提示等特定任務仍待開發 |
| 成熟度 | 開源概念驗證，可重現但尚無第三方板上重測 |
約300元的開發板開始離線生成文字
ESP32-S3 常見於物聯網開發板、感測器、控制面板與小型智慧裝置。Espressif 官方規格顯示，晶片採用最高 240MHz 的雙核心處理器，內建 512KB SRAM，並支援外接 Flash 與 RAM。ESP32-AI 使用的是 N16R8 配置，另外具備 16MB Flash 與 8MB PSRAM。
Slava S. 公開的專案包含訓練程式、量化工具、模型產物、可攜式 C 推理程式與 ESP32-S3 韌體。開發者也列出 Arduino CLI 編譯、客製 Flash 分割區、模型燒錄及序列埠監看的步驟，模型檔附有 SHA-256 雜湊，其他開發者可以取得相同產物進行測試。
依開發者 7 月 21 日公布的板上測量，完整模型生成文字的端到端速度約為每秒 9.5 個 token，純模型步驟約為每秒 9.72 個 token。專案已公開程式與測量方法，目前尚未找到第三方使用相同 N16R8 板型重測，因此速度與輸出品質仍應視為開發者實測。
2,890萬參數主要住在Flash
ESP32-AI 的模型經 4-bit 量化後為 14,912,332 bytes，放入約 15.6MB 的客製 Flash 分割區。它的 2,890 萬參數由三部分組成：約 55.9 萬參數的密集運算核心、約 310 萬參數的輸入與輸出頭，以及約 2,500 萬參數的 Per-Layer Embeddings（PLE）查找表。
Google 在 Gemma 3n 使用 PLE，把部分參數留在模型主要運作記憶體之外，再於每一層推理時加入。ESP32-AI 沿用這個概念，將最大的 PLE 查找表留在 Flash。模型生成每個 token 時，只需讀取約 6 列、約 450 bytes 的資料。
開發者的隔離頻寬測試顯示，查找表約占每 token 記憶體存取時間的 0.7%。完整推理時，輸出頭約需 57.6ms、注意力約 25.6ms、PLE 路徑約 8.5ms。模型能跑起來的關鍵，是把不同權重分配給 SRAM、PSRAM 與 Flash，各自承擔適合的工作。
2,890 萬代表裝置中保存的總參數，無法直接換算成模型能力。真正密集運算的核心約 55.9 萬參數。專案消融結果顯示，在核心大小相近的情況下，PLE 版本的驗證困惑度由 12.58 降至 11.41，證明查找表改善了同一個短故事任務；改善幅度與參數增加倍數並不相同。
現在的模型只會寫簡單故事
ESP32-AI 使用 TinyStories 資料集訓練。這套資料集由 Microsoft Research 研究人員 Ronen Eldan 與 Yuanzhi Li 提出，目的是讓極小型模型也能學習連貫的英文短故事。
專案展示的模型可以接續「Once upon a time」生成角色、場景與簡單情節。開發者列出的限制包括缺少世界知識、算術與多步推理能力，也不能回答一般問題、遵循指令或撰寫程式。
這些限制會直接影響家電用途。故事模型不知道烤箱加熱曲線、食材中心溫度、咖啡豆特性或設備故障碼。家電廠商若採用相同架構，仍要準備產品手冊、感測資料、操作規則與測試題，重新訓練或調整模型。
離線AI可能先處理家電說明與設定
智慧家電目前常把語音辨識、推薦或自然語言問答交給雲端服務。裝置需要網路、帳號與遠端伺服器，使用過程也可能涉及聲音、習慣或設備狀態資料的傳輸。特定任務模型若能留在家電內，斷網時仍可執行，也能減少每次操作都要把資料送出設備的需求。
開發者以咖啡機為例，想像一台能理解豆種、研磨度、粉水比與水溫的離線設備。相同方向也可能延伸到烤箱的食材設定、空調的操作說明、洗衣機的程序選擇，以及設備維修時的故障碼解釋。
最先出現的用途，可能是提供建議與說明。使用者輸入食材、份量或需求後，模型可根據產品資料提出設定，再由固定程式檢查溫度、時間與設備允許範圍。涉及加熱、壓力、馬達或門鎖的動作，仍需由可測試的控制邏輯決定，語言模型不應自行跨過安全條件。
ESP32-AI 尚未建立咖啡機、烤箱或其他家電原型，也沒有公布專用資料集、任務準確率、感測器整合、功耗、長時間穩定性與量產成本。它證明的是一條可研究的硬體路徑，產品端仍要完成控制與安全工程。
台灣開發者必須買對N16R8版本
台灣通路目前可找到 ESP32-S3 N16R8 開發板，查得價格約新台幣 260 至 450 元。購買時要確認型號包含 16MB Flash 與 8MB PSRAM；只標示 ESP32-S3 的板子可能採用較小容量，無法容納 ESP32-AI 的 14.9MB 模型與應用程式分割區。
重現專案還需要安裝 Arduino CLI、編譯韌體、套用客製 Flash 分割區，並以 esptool 寫入模型。若要顯示生成結果，還要準備 OLED、線材與電源。專案目前適合熟悉 Arduino、ESP-IDF 或嵌入式開發的人測試，距離一般消費者可直接安裝的家電模組仍有產品化工作。
台灣家電或物聯網團隊若要評估這條路，可以先選一項低風險任務，例如查詢說明書、解釋錯誤代碼或提出節能設定。測試時記錄回答正確率、延遲、記憶體、耗電與錯誤情境，再決定是否連接設備控制。高溫、高壓、用電與兒童安全等功能，應維持固定規則與硬體保護。
三個條件決定家電會不會真的說話
第一，模型是否擁有正確的產品資料。家電型號、韌體版本、感測器與操作限制各不相同，訓練資料必須對應實際設備，不能只靠一般網路文字。
第二，回答能否被固定規則檢查。溫度、時間、轉速與電流都有設備上限，語言模型提出的設定應先經過控制程式驗證，再交給使用者確認或執行。
第三，廠商是否完成長時間與失敗測試。家電要面對斷電、重啟、感測器故障、記憶體錯誤與環境溫度變化。概念驗證能生成文字，只是產品開發的起點。
ESP32-AI 已把離線語言模型的硬體門檻降到數百元開發板。智慧家電能否跟進，接下來要看開發者能否把故事資料換成單一設備知識，並用可測試的安全規則限制每一項控制動作。
常見問題
ESP32-AI真的能在沒有網路時運作嗎？
可以。模型與推理程式保存在 ESP32-S3 N16R8 開發板上，生成文字不需要連接雲端。ESP32-S3 本身仍具備 Wi-Fi 與藍牙功能，專案的模型推理流程沒有使用遠端伺服器。
2,890萬參數代表它接近一般聊天機器人嗎？
兩者的參數結構與能力差距明顯。約 2,500 萬參數是 Flash 中的 PLE 查找表，密集運算核心約 55.9 萬參數。模型目前只能生成簡單英文故事，缺少一般聊天機器人的知識與指令能力。
現在可以把它裝在烤箱或咖啡機嗎？
目前只有語言模型與開發板概念驗證。真正家電還需要專用資料、感測器、控制程式、安全限制、耗電及長時間測試。較適合先測試操作說明、故障碼解釋與設定建議。
台灣一般人可以重現嗎？
硬體可在台灣購得，但需要嵌入式開發能力。使用者要自行編譯韌體、設定分割區、燒錄約 14.9MB 模型，並接上顯示器或透過序列埠查看輸出。
資料來源與更新紀錄
- 專案程式、模型與功能限制：slvDev／ESP32-AI GitHub。
- 參數拆分、消融實驗、板上測量與限制：ESP32-AI RESULTS。
- 編譯、燒錄、模型雜湊與硬體配置：ESP32-AI firmware README。
- PLE 架構說明：Google Gemma 3n 官方文件。
- 晶片與記憶體介面：Espressif ESP32-S3 官方規格。
- 開發者身分與咖啡機構想：Tom’s Hardware，2026 年 7 月 27 日。
- 既有 26 萬參數 ESP32-S3 專案：Dave Bennett／esp32-llm。
- TinyStories 資料集：Eldan、Li，2023 年 5 月 12 日。
- 台灣 N16R8 開發板價格參考：傑森創工、米羅科技；價格依賣家、板型與運費變動。
- 本文更新時間：2026 年 7 月 28 日。
