LangChain + AI API: настройка Claude, GPT, DeepSeek с прямым доступом из Китая (2026)

Кратко

LangChain — самый популярный Python-фреймворк для создания AI-приложений, но разработчики в Китае сталкиваются с общей проблемой: прямое подключение к зарубежным API OpenAI, Anthropic, Google отличается высокой задержкой, нестабильностью или полной недоступностью. В этой статье — самое практичное решение: через API-агрегатор с поддержкой OpenAI-совместимого протокола в качестве единого уровня доступа. В LangChain нужно изменить всего два параметра, чтобы стабильно вызывать Claude Sonnet 4.6, GPT-4.1, DeepSeek V3 и ещё 50+ моделей с низкой задержкой из Китая. Статья включает полный код на Python, примеры цепочек LCEL, схемы переключения моделей и решение типичных ошибок.

Содержание

• Предыстория: типичные проблемы LangChain в Китае
• Ключевое решение: единый уровень API-агрегации
• Быстрый старт: первый диалог с Claude за пять минут
• Конфигурация нескольких моделей: Claude, GPT, DeepSeek
• Цепочки LCEL на практике
• Продвинутый уровень: динамическое переключение моделей
• Практический кейс: RAG-система ответов по документам
• Типичные ошибки и их устранение
• Часто задаваемые вопросы (FAQ)
• Итоги и план действий
• Запись верификации
• Полезные ссылки

Предыстория: типичные проблемы LangChain в Китае

В 2026 году экосистема LangChain достаточно зрелая. LCEL (LangChain Expression Language) делает цепочки Prompt → Model → OutputParser элегантными, а RAG, Agent, Tool Calling становятся всё удобнее. Но для разработчиков в Китае остаётся одно неизбежное препятствие:

Успешность прямого подключения к зарубежным API крайне низкая.

Типичные ошибки:

# Три самые распространённые ошибки
requests.exceptions.ConnectTimeout: HTTPSConnectionPool(host='api.anthropic.com', port=443): Max retries exceeded
openai.APIConnectionError: Connection error.
httpx.ConnectError: [SSL: CERTIFICATE_VERIFY_FAILED]

Причина проста: серверы API OpenAI (api.openai.com), Anthropic (api.anthropic.com), Google (generativelanguage.googleapis.com) расположены за рубежом, и прямое подключение из Китая часто приводит к:

• Таймаутам: сбой TCP- или SSL-рукопожатия, стандартный таймаут LangChain 60 секунд срабатывает ошибкой
• Обрывам потока: потоковая выдача прерывается посреди ответа, обработка partial response усложняется
• Высокой задержке: задержка первого байта (TTFT) 5-15 секунд, пользовательский опыт при streaming катастрофический
• Проблемам с квотами: даже при работающей сети регистрация и оплата в OpenAI/Anthropic неудобны для китайских разработчиков

Как решить?

Ключевое решение: единый уровень API-агрегации

Самое простое и стабильное решение — добавить промежуточный слой в виде API-агрегатора:

Ваш код LangChain
    ↓
API-агрегатор (узлы в Китае, низкая задержка)
    ↓ (маршрутизация запросов)
Claude API / OpenAI API / Gemini API / DeepSeek API

Ключевые преимущества такой архитектуры:

На примере Ofox — он одновременно совместим с протоколами OpenAI, Anthropic и Gemini SDK, поэтому изменений в коде LangChain минимум.

Быстрый старт: первый диалог с Claude за пять минут

1. Установка зависимостей

# langchain-openai >= 0.2.0 | Документация: https://python.langchain.com/docs/integrations/chat/openai
pip install -U langchain langchain-openai langchain-anthropic

2. Вызов Claude через OpenAI-совместимый протокол

Агрегаторы вроде Ofox предоставляют единый OpenAI-совместимый интерфейс (/v1/chat/completions), поэтому можно использовать ChatOpenAI, изменив только base_url и api_key:

# SDK: langchain-openai v0.3+ / документация: https://python.langchain.com/docs/integrations/chat/openai / проверено: 2026-03
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage

# Меняются только два параметра, всё остальное — без изменений
llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",  # Полный список моделей: docs.ofox.ai/develop
    base_url="https://api.ofox.ai/v1",
    api_key="your-ofox-api-key",          # Получите в консоли Ofox
    temperature=0.7,
    max_tokens=2048,
)

# Обычный вызов
response = llm.invoke([HumanMessage(content="Объясни одним предложением, что такое LangChain")])
print(response.content)
# Вывод: LangChain — это фреймворк с открытым исходным кодом для создания приложений на базе LLM...

# Потоковый вывод
for chunk in llm.stream([HumanMessage(content="Напиши хайку о программировании")]):
    print(chunk.content, end="", flush=True)

3. Управление ключами через переменные окружения (рекомендуется)

import os
from langchain_openai import ChatOpenAI

# Рекомендуется хранить ключи в .env или переменных окружения, не хардкодить
llm = ChatOpenAI(
    model=os.getenv("LLM_MODEL", "anthropic/claude-sonnet-4-6"),
    base_url=os.getenv("OPENAI_API_BASE", "https://api.ofox.ai/v1"),
    api_key=os.getenv("OFOX_API_KEY"),
)

Соответствующий файл .env:

OFOX_API_KEY=your-ofox-api-key-here
LLM_MODEL=anthropic/claude-sonnet-4-6
OPENAI_API_BASE=https://api.ofox.ai/v1

Зачем переменные окружения? Удобно переключать модели и эндпоинты между средами (разработка/продакшн), а также исключает утечку ключей в репозиторий.

Конфигурация нескольких моделей: Claude, GPT, DeepSeek

Через API-агрегатор один и тот же код работает со всеми основными моделями:

# SDK: langchain-openai v0.3+ / документация: https://python.langchain.com/docs/integrations/chat/openai / проверено: 2026-03
from langchain_openai import ChatOpenAI

BASE_URL = "https://api.ofox.ai/v1"
API_KEY = "your-ofox-api-key"

# Claude Sonnet 4.6 — отличные общие способности, подходит для сложных рассуждений и длинных документов
claude_sonnet = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url=BASE_URL,
    api_key=API_KEY,
)

# Claude Opus 4.6 — сильнейшие рассуждения, для задач глубокого анализа
claude_opus = ChatOpenAI(
    model="anthropic/claude-opus-4-6",
    base_url=BASE_URL,
    api_key=API_KEY,
)

# GPT-4.1 — флагман OpenAI, отличная работа с кодом и инструментами
gpt4 = ChatOpenAI(
    model="openai/gpt-4.1",
    base_url=BASE_URL,
    api_key=API_KEY,
)

# DeepSeek V3 — китайская модель, очень низкая цена, сильное понимание китайского
deepseek = ChatOpenAI(
    model="deepseek/deepseek-chat",
    base_url=BASE_URL,
    api_key=API_KEY,
)

# Haiku 4.5 — сверхбыстрая и дешёвая, подходит для классификации и извлечения данных
claude_haiku = ChatOpenAI(
    model="anthropic/claude-haiku-4-5",
    base_url=BASE_URL,
    api_key=API_KEY,
)

Полный список моделей — на docs.ofox.ai/develop, платформа регулярно добавляет новые модели.

Сравнение возможностей и цен основных моделей 2026 года

Примечание: цены приведены для справки, актуальные — в консоли платформы.

Цепочки LCEL на практике

LangChain 0.3+ рекомендует использовать LCEL (синтаксис с |) для построения цепочек:

Базовый пример: Prompt → Model → Parser

# SDK: langchain>=0.3.0 / документация: https://python.langchain.com/docs/concepts/lcel / проверено: 2026-03
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url="https://api.ofox.ai/v1",
    api_key="your-ofox-api-key",
)

# Создаём шаблон промпта
prompt = ChatPromptTemplate.from_messages([
    ("system", "Ты профессиональный {role}. Отвечай кратко на русском языке."),
    ("human", "{question}"),
])

# Конвейер LCEL: Prompt → LLM → строковый вывод
chain = prompt | llm | StrOutputParser()

# Вызов
result = chain.invoke({
    "role": "эксперт по Python",
    "question": "Объясни разницу между asyncio и многопоточностью. Когда что использовать?"
})
print(result)

Продвинутый пример: структурированный вывод

# SDK: langchain>=0.3.0, pydantic>=2.0 / проверено: 2026-03
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from pydantic import BaseModel, Field
from typing import List

llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url="https://api.ofox.ai/v1",
    api_key="your-ofox-api-key",
)

# Определяем структуру вывода
class CodeReview(BaseModel):
    issues: List[str] = Field(description="Список найденных проблем в коде")
    suggestions: List[str] = Field(description="Рекомендации по улучшению")
    severity: str = Field(description="Серьёзность: low/medium/high")

# Привязываем структурированный вывод
structured_llm = llm.with_structured_output(CodeReview)

prompt = ChatPromptTemplate.from_messages([
    ("system", "Ты опытный код-ревьюер. Проведи ревью следующего кода."),
    ("human", "Код:\n```python\n{code}\n```"),
])

chain = prompt | structured_llm

result = chain.invoke({
    "code": """
def get_user(id):
    sql = f"SELECT * FROM users WHERE id = {id}"
    return db.execute(sql)
"""
})

print(f"Серьёзность: {result.severity}")
print(f"Проблемы: {result.issues}")
print(f"Рекомендации: {result.suggestions}")
# Вывод:
# Серьёзность: high
# Проблемы: ['Риск SQL-инъекции', 'Отсутствует валидация параметров', 'Нет обработки ошибок']
# Рекомендации: ['Использовать параметризованные запросы', 'Добавить проверку типа id', 'Добавить try-except для обработки ошибок БД']

Асинхронные параллельные вызовы

# SDK: langchain>=0.3.0 / проверено: 2026-03
import asyncio
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser

llm = ChatOpenAI(
    model="anthropic/claude-haiku-4-5",  # Для лёгких задач — Haiku: быстрее и дешевле
    base_url="https://api.ofox.ai/v1",
    api_key="your-ofox-api-key",
)

prompt = ChatPromptTemplate.from_messages([
    ("human", "Опиши ключевое преимущество продукта пятью словами: {product}"),
])
chain = prompt | llm | StrOutputParser()

async def batch_analyze(products: list[str]):
    """Параллельный анализ нескольких продуктов"""
    tasks = [chain.ainvoke({"product": p}) for p in products]
    results = await asyncio.gather(*tasks)
    return dict(zip(products, results))

# Параллельное выполнение 5 задач — в 4-5 раз быстрее последовательного
products = ["Claude API", "GPT-4", "DeepSeek", "Gemini", "LangChain"]
results = asyncio.run(batch_analyze(products))
for product, keywords in results.items():
    print(f"{product}: {keywords}")

Продвинутый уровень: динамическое переключение моделей

В реальных проектах для разных задач подходят разные модели. LangChain позволяет переключать их на лету:

# SDK: langchain>=0.3.0 / документация: https://python.langchain.com/docs/how_to/configure / проверено: 2026-03
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import ConfigurableField

BASE_CONFIG = {"base_url": "https://api.ofox.ai/v1", "api_key": "your-ofox-api-key"}

# По умолчанию Sonnet, с возможностью переключения в рантайме
llm = ChatOpenAI(model="anthropic/claude-sonnet-4-6", **BASE_CONFIG).configurable_alternatives(
    ConfigurableField(id="model"),
    default_key="sonnet",
    opus=ChatOpenAI(model="anthropic/claude-opus-4-6", **BASE_CONFIG),
    haiku=ChatOpenAI(model="anthropic/claude-haiku-4-5", **BASE_CONFIG),
    gpt4=ChatOpenAI(model="openai/gpt-4.1", **BASE_CONFIG),
    deepseek=ChatOpenAI(model="deepseek/deepseek-chat", **BASE_CONFIG),
)

prompt = ChatPromptTemplate.from_messages([("human", "{question}")])
chain = prompt | llm | StrOutputParser()

# По умолчанию — Sonnet
response = chain.invoke({"question": "Проанализируй временную сложность этого кода..."})

# Переключение на Opus для сложных задач
response = chain.with_config(configurable={"model": "opus"}).invoke({
    "question": "Спроектируй архитектуру распределённой системы планирования задач..."
})

# Переключение на Haiku для простой классификации (дёшево и быстро)
response = chain.with_config(configurable={"model": "haiku"}).invoke({
    "question": "Определи тональность отзыва: positive/negative/neutral"
})

Практический кейс: RAG-система ответов по документам

Один из самых распространённых сценариев использования LangChain:

# SDK: langchain>=0.3.0, langchain-community>=0.3.0, faiss-cpu / проверено: 2026-03
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_core.runnables import RunnablePassthrough
from langchain_community.vectorstores import FAISS
from langchain_community.document_loaders import TextLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter

BASE_URL = "https://api.ofox.ai/v1"
API_KEY = "your-ofox-api-key"

# 1. Векторизация документов (модель эмбеддингов)
embeddings = OpenAIEmbeddings(
    model="text-embedding-3-small",  # или openai/text-embedding-3-small
    base_url=BASE_URL,
    api_key=API_KEY,
)

# 2. Загрузка и разбиение документов
loader = TextLoader("your_document.txt", encoding="utf-8")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = splitter.split_documents(docs)

# 3. Создание векторной базы
vectorstore = FAISS.from_documents(chunks, embeddings)
retriever = vectorstore.as_retriever(search_kwargs={"k": 3})

# 4. Построение QA-цепочки
llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url=BASE_URL,
    api_key=API_KEY,
)

prompt = ChatPromptTemplate.from_messages([
    ("system", "Ответь на вопрос на основе приведённого контекста. Если ответа в контексте нет, скажи об этом прямо.\n\nКонтекст: {context}"),
    ("human", "{question}"),
])

def format_docs(docs):
    return "\n\n".join(doc.page_content for doc in docs)

rag_chain = (
    {"context": retriever | format_docs, "question": RunnablePassthrough()}
    | prompt
    | llm
    | StrOutputParser()
)

# Задаём вопрос
answer = rag_chain.invoke("Какова политика возврата товаров?")
print(answer)

Типичные ошибки и их устранение

При возникновении проблем проверяйте в следующем порядке:

1. AuthenticationError: 401

# Проверьте, правильно ли передан API Key
print(llm.openai_api_key)  # Только для локальной отладки, не выводите в логи

# Частая причина: переменная окружения OPENAI_API_KEY перезаписывает ваш ключ
# Решение: явно передавайте параметр api_key
llm = ChatOpenAI(model="...", base_url="...", api_key="your-key")

2. openai.NotFoundError: model not found

# Проверьте формат идентификатора модели
# Обычно формат: provider/model-name
# Сверяйтесь со списком моделей на docs.ofox.ai/develop

3. Connection timeout / SSL Error

import httpx
from langchain_openai import ChatOpenAI

# Увеличьте таймаут (по умолчанию 60 с, для streaming можно увеличить)
llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url="https://api.ofox.ai/v1",
    api_key="your-key",
    http_client=httpx.Client(timeout=120.0),
)

4. RateLimitError: 429

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4-6",
    base_url="https://api.ofox.ai/v1",
    api_key="your-key",
    max_retries=3,  # Встроенный механизм повторных попыток LangChain
)

Часто задаваемые вопросы (FAQ)

В: Нужна ли специальная настройка сети для вызова Claude/GPT API через LangChain из Китая?

Нет. При подключении через API-агрегатор достаточно изменить base_url — прямой доступ из Китая, задержка первого байта 300-800 мс, без дополнительных сетевых настроек.

В: Сколько кода нужно менять при переходе с официального API на агрегатор?

Минимально. В ChatOpenAI меняются два параметра: base_url и api_key. Все цепочки LangChain, Agent, RAG — без изменений, протокол совместим на 100%.

В: Тарификация токенов на агрегаторе такая же, как у официальных провайдеров?

Способ тарификации идентичен (по фактическому количеству входных/выходных токенов). Цены обычно совпадают с официальными или незначительно отличаются — уточняйте в консоли платформы.

В: Работают ли Agent и Tool Calling в LangChain?

Полностью. Поддержка Tool Calling, Function Calling, JSON Mode в ChatOpenAI реализована на уровне протокола — если бэкенд за base_url поддерживает эти функции, LangChain Agent работает штатно. Ofox поддерживает все функции Tool Calling для Claude и GPT.

В: Как сэкономить на пакетных задачах?

Для задач, не требующих мгновенного ответа (офлайн-классификация, пакетная суммаризация и т.д.), используйте Batch API — результат в течение 24 часов, скидка обычно 50% на токены.

Итоги и план действий

Подключение LLM API через LangChain из Китая — подход предельно ясен:

1. Добавьте API-агрегатор как уровень доступа для решения сетевых и платёжных проблем — изменений в коде минимум (два параметра)
2. Используйте ChatOpenAI + кастомный base_url для 90% сценариев — один код для всех основных моделей
3. Выбирайте модель по задаче: лёгкие задачи — Haiku/DeepSeek для экономии, сложные рассуждения — Sonnet/Opus, код — GPT-4.1
4. Используйте LCEL для построения цепочек, configurable_alternatives для переключения моделей
5. Асинхронные параллельные вызовы для пакетных задач — в 4-5 раз быстрее последовательных

Следующие шаги:

• Зарегистрируйтесь на Ofox, получите API Key и запустите первый запрос по примерам из этой статьи
• Изучите официальную документацию LangChain для продвинутых возможностей Agent и RAG
• В консоли Ofox посмотрите цены и задержки для каждой модели и выберите оптимальную для вашего проекта

Запись верификации

Все примеры кода в этой статье проверены на реальных подключениях. Детали верификации:

Примечания к коду:

• Параметр base_url в ChatOpenAI: из официальной документации LangChain, поддержка кастомного endpoint подтверждена
• Формат идентификаторов моделей (anthropic/claude-sonnet-4-6): авторитетный источник — docs.ofox.ai/develop, в статье используются примеры формата, сверяйтесь с актуальным списком платформы
• Синтаксис конвейера LCEL (оператор |): стабильная функциональность LangChain 0.3+

Полезные ссылки

• Документация LangChain ChatOpenAI — официальная документация LangChain
• Концепция LCEL в LangChain — официальная документация LangChain
• Anthropic Python SDK — официальный GitHub Anthropic
• Список моделей Claude API — официальная документация Anthropic
• Документация Ofox API — список моделей и инструкции по подключению
• API Reference ChatOpenAI — справочник LangChain API