LlamaIndex 設定

LlamaIndex  是一個用於建構 LLM 應用的資料框架，專注於 RAG（檢索增強生成）和 AI Agent 場景。由於 OfoxAI 完全相容 OpenAI 協議，只需修改 api_base 即可接入。

前提條件

• 已註冊 OfoxAI 帳號並取得 API Key（前往取得 ）
• 已安裝 Python 3.10+

設定步驟

第 1 步：安裝依賴

pip3 install llama-index llama-index-llms-openai-like

第 2 步：設定並執行

建立檔案 test_llamaindex.py：

from llama_index.llms.openai_like import OpenAILike
 
llm = OpenAILike(
    model="openai/gpt-4.1",
    api_base="https://api.ofox.ai/v1",
    api_key="<你的 OFOXAI_API_KEY>",
    is_chat_model=True
)
 
response = llm.complete("你好，介紹一下自己")
print(response)

執行：

python3 -W ignore test_llamaindex.py

可用模型範例

完整列表可在 模型目錄  查看：

常見問題

Q: 提示 ModuleNotFoundError: No module named 'llama_index'

執行 pip3 install llama-index llama-index-llms-openai-like 安裝依賴。

Q: 提示 TypeError: unsupported operand type(s) for |

Python 版本過低，需要升級到 Python 3.10 或以上版本。

Q: 提示 API Key 無效

確認 api_key 填寫的是 OfoxAI 的 API Key，可在 OfoxAI 控制台  取得。