Inference Optimization - 標籤 - DataSci Ocean

Inference Optimization

2026

RAG 架構大翻轉！MIT 新論文 ReDE-RF：不讓 LLM 寫作改當「裁判」，檢索速度暴增 10 倍 02-03

別再「殺雞用牛刀」！NVIDIA 研究揭示：為什麼小型語言模型 (SLMs) 才是 AI Agent 的真正未來？ 01-19

2025

拒絕 AI 一本正經胡說八道！DeepConf 論文解析：如何利用「信心分數」優化推理並大幅節省 Token? 12-28

2024

[論文介紹] Better & Faster Large Language Models via Multi-token Prediction 07-18