LlamaIndex-Konfiguration

LlamaIndex ist ein Daten-Framework zum Erstellen von LLM-Anwendungen mit Fokus auf RAG (Retrieval-Augmented Generation) und AI-Agent-Szenarien. Da OfoxAI vollständig mit dem OpenAI-Protokoll kompatibel ist, müssen Sie nur die api_base ändern, um loszulegen.

Voraussetzungen

Ein OfoxAI-Konto mit API Key (Hier erhalten )
Python 3.10+ installiert

Konfigurationsschritte

Schritt 1: Abhängigkeiten installieren


pip3 install llama-index llama-index-llms-openai-like

LlamaIndex installieren

Schritt 2: Konfigurieren und ausführen

Erstellen Sie die Datei test_llamaindex.py:

test_llamaindex.py


from llama_index.llms.openai_like import OpenAILike
 
llm = OpenAILike(
    model="openai/gpt-4.1",
    api_base="https://api.ofox.ai/v1",
    api_key="<IHR_OFOXAI_API_KEY>",
    is_chat_model=True
)
 
response = llm.complete("Hallo, stell dich vor")
print(response)

Ausführen:


python3 -W ignore test_llamaindex.py

Ausführungsergebnis

Verfügbare Modelle

Empfohlene Modelle finden Sie im OfoxAI Modell-Marktplatz .

Die LlamaIndex-APIs können sich mit neuen Versionen ändern. Bitte beachten Sie die offizielle LlamaIndex-Dokumentation .

Häufige Fragen

Q: ModuleNotFoundError: No module named 'llama_index'

Führen Sie pip3 install llama-index llama-index-llms-openai-like aus, um die Abhängigkeiten zu installieren.

Q: TypeError: unsupported operand type(s) for |

Ihre Python-Version ist zu alt. Bitte aktualisieren Sie auf Python 3.10 oder höher.

Q: API Key ist ungültig

Stellen Sie sicher, dass der api_key Ihr OfoxAI API Key ist. Sie können ihn in der OfoxAI-Konsole erhalten.