【vLLM 工程師實戰】#01 從 Ollama 到 vLLM:為什麼要換、怎麼跑起第一個服務
測驗:從 Ollama 到 vLLM 共 5 題,點選答…
測驗:從 Ollama 到 vLLM 共 5 題,點選答…

這場由 Anthropic 應用人工智慧團隊的 May…
從零自建 Claude Code 私人 plugin marketplace 的完整踩坑記錄:marketplace 命名限制、${CLAUDE_PLUGIN_ROOT} 路徑、版本號更新陷阱、內建 MCP server、引用外部 plugin 的相容性問題,以及把 CLAUDE.md 知識庫搬進 skill 的技巧。
用 Prometheus + Grafana + MLflow 監控自架的 vLLM 推論服務——從架構、該看哪些指標、PromQL 查詢,到我實際踩過的 5 個坑(指標改名、子路徑 datasource、Dokploy 不重建…)。

這部影片延續「Loop Engineering(迴圈工…
MLflow 3.5+ 官方支援 trace Claude Agent SDK:mlflow.anthropic.autolog() 會 patch ClaudeSDKClient、從訊息流事後重建 trace。實測它缺 cost、子代理不巢狀、span 時長全假——其中 cost 和自己的 chat id 用 30 行 set_trace_tag 補丁就能補回,這是我最終落地的方案(mlflow-skinny + anthropic + python-dateutil 最小組合)。要真實時長/子代理樹則附全手動 TurnTrace 實作。外加四個坑:token stub、輕量包兩段死法、容器裡的 tracking server、resume 重放假 trace。