LlamaIndex 설정

LlamaIndex 는 RAG(검색 증강 생성) 및 AI Agent 시나리오에 특화된 LLM 애플리케이션 구축용 데이터 프레임워크입니다. OfoxAI는 OpenAI 프로토콜과 완전히 호환되므로 api_base만 변경하면 바로 연동할 수 있습니다.

사전 요구 사항

OfoxAI 계정 및 API Key 발급 완료 (여기서 발급 )
Python 3.10+ 설치 완료

설정 단계

1단계: 의존성 설치


pip3 install llama-index llama-index-llms-openai-like

LlamaIndex 설치

2단계: 설정 및 실행

파일 test_llamaindex.py를 생성합니다:

test_llamaindex.py


from llama_index.llms.openai_like import OpenAILike
 
llm = OpenAILike(
    model="openai/gpt-4.1",
    api_base="https://api.ofox.ai/v1",
    api_key="<당신의 OFOXAI_API_KEY>",
    is_chat_model=True
)
 
response = llm.complete("안녕하세요, 자기소개를 해주세요")
print(response)

실행:


python3 -W ignore test_llamaindex.py

실행 결과

사용 가능한 모델

전체 목록은 모델 디렉토리 에서 확인하세요:

제공업체	모델	모델명
OpenAI	GPT-4.1	`openai/gpt-4.1`
Anthropic	Claude Sonnet 4.6	`anthropic/claude-sonnet-4.6`
Google	Gemini 3.1 Flash Lite	`google/gemini-3.1-flash-lite-preview`
DeepSeek	DeepSeek V3.2	`deepseek/deepseek-v3.2`

LlamaIndex API는 버전에 따라 변경될 수 있습니다. LlamaIndex 공식 문서 를 참조하세요.

자주 묻는 질문

Q: ModuleNotFoundError: No module named 'llama_index'

pip3 install llama-index llama-index-llms-openai-like를 실행하여 의존성을 설치하세요.

Q: TypeError: unsupported operand type(s) for |

Python 버전이 너무 낮습니다. Python 3.10 이상으로 업그레이드하세요.

Q: API Key가 유효하지 않다고 표시됨

api_key에 OfoxAI의 API Key가 입력되어 있는지 확인하세요. OfoxAI 콘솔 에서 발급받을 수 있습니다.