Configuración de LlamaIndex

LlamaIndex es un framework de datos para construir aplicaciones LLM, enfocado en escenarios de RAG (Generación Aumentada por Recuperación) y AI Agent. Dado que OfoxAI es totalmente compatible con el protocolo OpenAI, solo necesitas cambiar el api_base para comenzar.

Requisitos previos

Una cuenta de OfoxAI con API Key (Obtener aquí )
Python 3.10+ instalado

Pasos de configuración

Paso 1: Instalar dependencias


pip3 install llama-index llama-index-llms-openai-like

Instalar LlamaIndex

Paso 2: Configurar y ejecutar

Crea el archivo test_llamaindex.py:

test_llamaindex.py


from llama_index.llms.openai_like import OpenAILike
 
llm = OpenAILike(
    model="openai/gpt-4.1",
    api_base="https://api.ofox.ai/v1",
    api_key="<TU_OFOXAI_API_KEY>",
    is_chat_model=True
)
 
response = llm.complete("Hola, preséntate")
print(response)

Ejecutar:


python3 -W ignore test_llamaindex.py

Resultado de ejecución

Modelos disponibles

Para modelos recomendados, consulta el Mercado de modelos de OfoxAI .

Las APIs de LlamaIndex pueden cambiar entre versiones. Consulta la documentación oficial de LlamaIndex .

Preguntas frecuentes

Q: ModuleNotFoundError: No module named 'llama_index'

Ejecuta pip3 install llama-index llama-index-llms-openai-like para instalar las dependencias.

Q: TypeError: unsupported operand type(s) for |

Tu versión de Python es demasiado antigua. Actualiza a Python 3.10 o superior.

Q: La API Key no es válida

Asegúrate de que el api_key sea tu API Key de OfoxAI, que puedes obtener en la Consola de OfoxAI .