是否有计划支持本地模型 (Ollama / vLLM)？

[CryptoSentinelAI]

目前 LLM 模块通过 base_url 可以接任何 OpenAI-compatible API（包括本地 Ollama），但没有专门的本地模型配置指南。

建议：

• 添加 LLM(model="llama3.2", base_url="http://localhost:11434/v1") 的使用文档
• 考虑增加 LocalLLM 子类简化配置

这是个讨论帖，欢迎大家给意见。

[CryptoSentinelAI]

Ollama support is a great idea. The current LLM class already works with Ollama — just set base_url="http://localhost:11434/v1" and pass the Ollama model name.

llm = LLM(model="llama3.2", base_url="http://localhost:11434/v1")

I'll add an examples/local_models.py with Ollama + vLLM configurations. That's lower effort than a new subclass and covers 90% of use cases.

@CryptoSentinelAI thoughts on this approach?