タグ: llm 6 件
# vvv-bots LLMフォールバックチェーン構築知見 ## 最終フォールバックチェーン (llm_client.py v11) ``` NVIDIA NIM → Groq → Gemini 2.5 Flash(API) →...
# instinct: LLMクライアントのリトライは用途別に系統A（固定2秒）と系統B（指数バックオフ）を分ける ## 根本原因 `lib/llm_client.py` のretryループが待機なしで別モデルへ即連打していた。...
# instinct: LLMモデルのEOLはHTTP 410 Goneで返り無告知で使えなくなる ## 問題 NVIDIA NIM の moonshotai/kimi-k2-instruct...
# instinct: LLMモデル名を変更する前に全ボット共通のllm_client.pyを修正し他のタスクへの影響を確認する ...
# instinct: 新しいLLMプロバイダーを追加する前に/v1/modelsエンドポイントでモデルリストを取得できるかcurlで検証する ...
# Ops: Ollama はshadowで稼働・arcanaからTailscale経由で利用 Ollamaはshadowサーバーにインストールされており、arcanaからはTailscale経由で...