跳至主要內容

作者

發佈日期

閱讀時間

閱讀約 4 分鐘

字體大小

分享

電郵

人工智能慧研

補習智能體值得聘?StudentBench:兩千多人試驗裏,AI 輔導與真人導師增益相當

Handshake AI Research 於 2026 年 9 月公開 StudentBench:約 2,383 名受試、GRE Quant/Verbal 上,匯總 AI 輔導與真人專家學習增益統計等價(p=.015);Gemma 4 31B 個別等價(p=.044)且每百分點成本約為真人參考 1/918。

圖:暖色書桌前學生複習,身旁柔光 AI 輔導光暈與對話氣泡,遠處淡化真人導師剪影以弧線相連(意象插畫,無文字、無標誌,非實際介面)。
圖:暖色書桌前學生複習,身旁柔光 AI 輔導光暈與對話氣泡,遠處淡化真人導師剪影以弧線相連(意象插畫,無文字、無標誌,非實際介面)。

Handshake AI Research 於 2026 年 9 月公開預印本 StudentBench:在 GRE Quantitative 與 Verbal 上,比較 AI 輔導、真人專家輔導與無輔導對照。分析涵蓋約 2,383 名成人受試、合共約 2,469 場有效 session,並記錄逾 175,000 則學生–AI 對話。核心結果是:匯總 AI 輔導與真人專家輔導在 GRE 學習增益上統計等價(p=.015);其中 Gemma 4 31B 個別通過與真人的等價檢定(p=.044),且按論文所用成本定義,每百分點增益的推論成本約為真人參考的 1/918。平台公開於 studentbench.org。

「補習智能體值不值得聘」這類問題,往往停在體感或單一產品示範。StudentBench 把問題改寫成可核對的實驗:同一套前測/後測、同一小時教學時長、對照真人與無輔導,再用等價檢定(TOST)而不是單純「誰分更高」來回答。

研究怎麼設計

每名學生先完成一輪與 GRE 時長相仿的前測(Quantitative 27 題/47 分鐘,Verbal 27 題/41 分鐘),用約五分鐘複習錯題,再隨機進入三種條件之一:

  1. AI 輔導:由其中一個 LLM 導師負責課綱規劃、練習題生成與一小時文字對話輔導;
  2. 真人專家輔導:一對一視像通話;
  3. 無輔導對照:觀看與 GRE 無關的教育影片。

其後完成難度與概念對應、但題目不同的後測。前測與後測表格會隨機對調,避免把試卷難度差誤當成學習增益。題目由前 ETS/Kaplan GRE 出題者新編,刻意不用公開舊題,以降低模型訓練資料污染。AI 導師全程看不到後測。

學習增益定義為後測正確率減前測正確率(百分點)。比較時以 ANCOVA 等方式校正前測分數與試卷表格等共變項;AI–真人等價則採雙單側檢定(TOST),主分析界線為 ±0.25 個匯總標準差(合併 GRE 約對應 ±4.09 百分點),並另報更嚴的 ±0.20 SD。

第二研究另請 51 位專家導師,就 AI 生成的課綱與內嵌練習題完成 2,028 對成對評審,把「課綱規劃」「練習題設計」與對話教學行為分開打分。

關鍵結果:匯總等價,但不是「每個模型都一樣」

匯總所有 AI 導師後,合併 Quantitative 與 Verbal 的學習增益與真人專家統計等價(p=.015);同一比較亦通過更嚴的 ±0.20 SD 界線(p=.023)。調整後 AI–真人差異約為 −0.58 百分點(90% CI [−2.18, 1.03])。

相對無輔導對照,調整後 AI 增益約為:

  • Quantitative:+6.86 百分點;
  • Verbal:+5.47 百分點;
  • 合併:+6.15 百分點(約多對 1.5–2 題,以 27 題計)。

必須同時讀清楚邊界:

  • 等價是匯總結果,不是「所有模型皆等價」。 論文在七個 GRE 子領域中,有五個領域的最佳 AI 導師平均增益超過該領域真人平均;但模型之間仍有差異,個別等價檢定另計。
  • Quantitative 在 ±0.25 SD 下亦建立等價;Verbal 匯總則未以同樣方式建立個別/分科等價。 全科均值上,真人輔導在 Verbal 仍保有最高整段均值;Quant 上則有多個 AI 平均增益高於真人。
  • 學習增益量測的是即時前後測,不是數月後的長期保留。
圖:左側前測空白題卡與偏低分數條,中間一小時輔導對話與練習環,右側後測增益柱與小成本點/大成本塊對比(進程插畫,非實際介面或實驗照片)。
圖:左側前測空白題卡與偏低分數條,中間一小時輔導對話與練習環,右側後測增益柱與小成本點/大成本塊對比(進程插畫,非實際介面或實驗照片)。

成本、延遲與投入鏈

論文把「每一百分點學習增益要花多少錢」寫成可比較單位:場次平均成本 ÷ 平均增益。真人參考採公開市場報價 每小時 75 美元;AI 端則是課綱、練習與一小時對話的推論成本(約 97% API 呼叫可重建)。在此定義下,Gemma 4 31B 達到與真人等價的 GRE 學習增益(p=.044),每百分點成本約為真人參考的 918 分之一(論文示例:約 0.0052 美元對 4.81 美元/百分點;該模型整場平均推論成本約 0.067 美元)。另有五個 AI 導師亦通過個別等價檢定;成本光譜很寬——同批模型場次平均推論成本約從 0.067 美元到逾 20 美元不等。

Quant 路徑上,探索性分析描出一條關聯鏈(皆 p<.002):較快的 AI 回覆 ↔ 更多學生訊息 ↔ 更多首次答對的練習 ↔ 更大學習增益。Verbal 未呈現同樣顯著的關聯——Verbal 學生往往訊息較少、單則較長,訊息數作為「投入」指標在兩科不可直接互換。

專家成對評審另顯示:課綱與練習題偏好上,部分模型家族(如 Anthropic 系)分數突出;但教學能力排行榜與最終學習增益並非一一對應——延遲與練習量可能解釋為何某些「教學行為分數」非最高的模型,仍能達到人類水平增益。

限制與仍須保留的句子

論文自己標出的限制,應原樣留在敘事裡:

  1. 沒有長期保留追蹤——立即增益不能自動外推為數月後仍在。
  2. 沒有「只做練習題、不與導師互動」的對照——因此無法單獨拆出「對話輔導」相對「自習練習」的增量。
  3. 樣本與場景:英語讀寫成人、Handshake 平台招募的有償研究;未測多語、多裝置或真實校園部署。
  4. 成本倍數依賴定義:AI 為推論成本,真人為 75 美元/小時參考——換市場價或計入平台/人力管理成本,倍數會變。
  5. 領導榜評的是專家偏好與對話行為,不是直接等於學習增益。

研究經 BRANY IRB 核准;資料與程式碼開源,平台免費開放。

這對「要不要聘 AI 導師」意味甚麼

在 StudentBench 的設定裏——一小時、GRE Quant/Verbal、最小軟體支架、與真人專家及無輔導對照並列——匯總 AI 輔導已能產生與真人統計等價的即時學習增益,且部分開源/輕量模型在單位成本上拉開巨大差距。這回應的是 Bloom「二個標準差問題」的可負擔版本:個別化輔導若不再主要受家庭支付能力限制,機會結構會改變。

它並不自動推出「全面取代真人」,也不推出「任意聊天機器人都能教」。較穩妥的讀法是三句:

  1. 能力已跨過可核對的等價門檻(匯總;部分模型個別亦然),尤其在 Quantitative;
  2. Verbal 與長期保留仍是真人優勢與未解問題並存的地帶;
  3. 延遲、練習與投入可能和模型「教得好不好看」同樣重要——評測若只看課綱品味而忽略學生實際做對多少題,會漏掉增益機制。

StudentBench 把「AI 能否教人」從口號拉回實驗桌:數字公開、限制寫明、平台可進。補習智能體值不值得聘,答案不再是感覺,而是條件句——在何種科目、何種成本定義、以及你是否接受「即時增益」作為當下指標。

主要資料來源

來源: https://arxiv.org/abs/2609.28470

FFOO Labs 通訊

不定期分享關於 AI、科技,以及想像與實踐之間種種思考的筆記。

透過 RSS 追蹤