· reAPI Team
Together AI model not available: Katalog und API-Zugriff
Behebe einen Together AI model not available-Fehler: Prüfe die genaue Modell-ID, Serverless-Unterstützung, Bereitschaft des dedizierten Endpunkts, Projektumfang und API-Antwort.

In einem älteren Issue des Evo-Projekts meldete eine Together-Antwort model_not_available und erklärte, dass die Anfrage ein Modell zu verwenden versuchte, das nicht serverless verfügbar war. Als nächster Schritt wurde ein dedizierter Endpunkt vorgeschlagen.[1] Das Modell existierte. Die versuchte Aufrufart war das Problem, das diese Antwort beschrieb.
Dieser Bericht ist kein Beleg für einen aktuellen Ausfall oder die heutige Verfügbarkeit eines bestimmten Modells. Er zeigt, warum die vollständige Meldung wichtig ist. Together dokumentiert unterschiedliche Modellgruppen für Serverless- und dedizierte Inferenz, und auch ein dediziertes Modell benötigt eine nutzbare Bereitstellung.[2][3] Beginne mit der Anfrage, die deine Anwendung tatsächlich gesendet hat, statt mit der Modellkarte, deren Verwendung du erwartet hast.
Modellwert, Host und Pfad kopieren
Übernimm die genaue model-Zeichenfolge aus der fehlgeschlagenen Anfrage. Behalte ihren Namensraum, ihre Version und ihr Variantensuffix bei. Notiere daneben den aufgelösten API-Host und Anfragepfad sowie den HTTP-Status und den vollständigen Fehlertext. Entferne geheime Authentifizierungsdaten, bevor du diese Unterlagen teilst.
Kläre anschließend, woher der Modellwert stammt. Ein aktueller Serverless-Eintrag, ein altes SDK-Beispiel und eine Ansicht eines dedizierten Endpunkts können unterschiedliche Arten von Kennungen liefern. Ein vertrauter Anzeigename macht sie nicht austauschbar.
Im aktuellen dedizierten Workflow von Together verwendet die Inferenzanfrage eine Endpunktzeichenfolge der Form project_slug/endpoint_name. Die Modell-ID aus dem Katalog identifiziert das für die Bereitstellung ausgewählte Modell; die Endpunktzeichenfolge identifiziert die Ressource, die deine Anfragen verarbeitet.[3] Eine Konfigurationsnotiz könnte daher diese zwei unterschiedlichen Werte enthalten:
Model selected for deployment: <catalog-model-id>
Model value used for inference: <project-slug>/<endpoint-name>Das sind Platzhalter, die den Unterschied zeigen, kein aufrufbarer Endpunkt. Fülle sie anhand des Modells und der Bereitstellung aus, die du tatsächlich verwenden willst. Den ersten Wert in ein Feld zu kopieren, das den zweiten erfordert, wird nicht dadurch richtig, dass beide dieselbe Modellfamilie betreffen.
Prüfe auch die Aufgabe. Togethers Katalog umfasst Chat, Bild, Vision, Video, Audio und weitere Operationen und bietet für jede Hinweise zu Endpunkten.[2] Ein Eintrag für ein Bildmodell belegt nicht, dass es eine Chat-Completions-Anfrage verarbeiten kann. Prüfe die Operation, bevor du Zugangsdaten änderst oder annimmst, ein Guthabenkauf werde sie freischalten.
Für Serverless die Serverless-Liste verwenden
Wenn deine Anwendung gemeinsame Serverless-Inferenz aufruft, vergleiche die vollständige ID mit Togethers aktueller Serverless-Modellliste. Der umfassendere Katalog und die Liste dedizierter Modelle beantworten andere Fragen.[2] Das ist auch die Antwort auf „Welche Modelle sind verfügbar?“: Für welche Aufgabe und welchen Bereitstellungsmodus sie verfügbar sind, muss Teil der Suche sein.
Halte die Quelle der ID in deinen Debugging-Notizen fest. Stammt sie aus einem Tutorial für eine andere Route, prüfe deren Dokumentation, bevor du den Modellnamen auf Verdacht änderst. Stammt sie aus einem alten Beispiel, prüfe, ob genau diese Variante noch angeboten wird. Ein ähnlicher Name kann ein anderes Modell identifizieren, und ein erfolgreicher Aufruf dieses Ersatzes erklärt den ursprünglichen Fehler nicht.
Wenn die dokumentierte Route eingestellt wurde, ist das Problem keine Konfigurationsdiagnose mehr, sondern eine Migration. Nutze den Leitfaden zu Together AI-Abkündigungen, um Nachfolger und Frist zu bewerten. Die eingestellte ID zu wiederholen oder ihren Schlüssel zu wechseln, stellt eine entfernte Route nicht wieder her.
Wenn die genaue ID in der richtigen aktuellen Liste steht, bewahre diesen Beleg auf und prüfe als Nächstes das Konto und die Client-Konfiguration des Aufrufers. Deine Frage ist jetzt enger gefasst als die, ob der Anbieter das Modell überhaupt hat.
Bei dedizierter Inferenz deine eigene Bereitstellung prüfen
Togethers dedizierter Workflow erstellt einen Endpunkt, verknüpft eine Bereitstellung und richtet das Routing ein. Inferenz ist verfügbar, sobald die Bereitstellung bereit ist.[3] Die Unterstützung für die Bereitstellung eines Modells bedeutet nicht, dass dein Projekt bereits eine einsatzbereite Kopie davon hat.
Suche den vorgesehenen Endpunkt im vorgesehenen Projekt. Prüfe seinen Bereitstellungsstatus und die genaue dafür angezeigte Inferenzzeichenfolge. Prüfe, ob die Anwendung diesen Endpunkt aufruft, statt weiterhin die ursprüngliche Katalog-ID an eine Serverless- oder Gateway-Route zu senden.
Projektumbenennungen sind besonders konkret zu prüfen, wenn eine zuvor funktionierende Konfiguration ausfällt. Together dokumentiert, dass die Änderung eines Projekt-Slugs sofort alle durch den Slug qualifizierten Ressourcenverweise ändert und dass der alte Slug nicht weiterleitet.[4] In diesem Fall können Modell und Bereitstellung weiterhin existieren, während deine gespeicherte Endpunktzeichenfolge auf einen veralteten Namen verweist.
Prüfe vor dem Erstellen einer weiteren Bereitstellung diejenige, die den Workload bereits bedienen sollte. Dedizierte Inferenz rechnet laufende Hardware pro Minute ab; einen zusätzlichen Endpunkt bereitzustellen ist daher eine Kapazitätsentscheidung mit Kosten.[3] Als diagnostische Abkürzung ist das ungeeignet, wenn ein nicht passender Endpunktname den Fehler erklären würde.
Auch die Preise folgen der Route. Togethers Serverless-Chat-Einträge verwenden Token-Tarife, andere Modalitäten ihre dokumentierten Einheiten und dedizierte Inferenz ihre Hardware-Abrechnung.[2][3] Kläre, welchen Dienst die Anfrage erreichen will, bevor du einen Token-Preis mit Bereitstellungskosten vergleichst.
Das Projekt im Browser muss nicht das Projekt des Workers sein
Together begrenzt Ressourcen und API-Schlüssel auf Projekte. Zugriff auf die Ressourcen eines Projekts belegt nicht automatisch den Zugriff auf den Endpunkt eines anderen Projekts.[4] Das in deinem Dashboard sichtbare Projekt ist daher nur ein Teil der Belege.
Stell dir einen hypothetischen Worker vor, der noch mit einem Schlüssel für Project A konfiguriert ist, während du im Browser einen einsatzbereiten Endpunkt in Project B prüfst. Die Dashboard-Ansicht kann korrekt sein, und der Worker kann trotzdem den falschen Zugriffskontext verwenden. Prüfe die unbedenkliche Kennung der Zugangsdaten und die tatsächliche Prozesskonfiguration, statt das Geheimnis in ein Log einzufügen.
Folge der Konfigurationspriorität, wenn dein Client oder Bereitstellungstool mehrere Möglichkeiten zur Projektauswahl bietet. Eine explizite Einstellung, ein Umgebungswert und der authentifizierte Verwaltungskontext müssen zur vorgesehenen Ressource passen.[3][4] Beziehe den fehlgeschlagenen Worker in diese Prüfung ein; ein erfolgreicher Aufruf von deinem Laptop belegt nicht, was ein separater Prozess geladen hat.
Wenn du stattdessen reAPI oder einen anderen Host verwendest, nutze dessen Modellkennungen und Zugangsdatenformat. Die reAPI-Authentifizierungsreferenz beschreibt die eigenen Zugangsdaten dieses Dienstes; sie kann weder ein Together-Projekt aktivieren noch einen Together-Schlüssel übertragbar machen.[5] Betrachte beim Konfigurationsvergleich Host- und Zugangsdatenänderungen zusammen.
Prüfen, ob das SDK Together direkt aufruft
Die Together-Integration des AI SDK dokumentiert zwei Wege: AI Gateway und den direkten Provider @ai-sdk/togetherai. Im dokumentierten SDK-Verhalten verwenden reine Modellzeichenfolgen standardmäßig Gateway; der direkte Provider erstellt eine für Together konfigurierte Modellinstanz.[6]
Dieses reine Konfigurationsbeispiel vergleicht Gateway mit einem direkten Provider. Die Platzhalter-IDs müssen durch unterstützte IDs aus dem jeweiligen Katalog ersetzt werden; es sendet keine Inferenzanfragen. Es ist keine vollständige Einrichtung eines dedizierten Endpunkts: Dieser Workflow benötigt zusätzlich den dokumentierten Inferenzhost oder die Basis-URL und die Projekt/Endpunkt-Zeichenfolge.
import { togetherai } from '@ai-sdk/togetherai';
const gatewayOptions = {
model: 'MODEL_ID_IN_GATEWAY_CATALOG',
};
const directOptions = {
model: togetherai('MODEL_ID_IN_TOGETHER_CATALOG'),
};Die dokumentierte Gateway-Konfiguration verwendet AI_GATEWAY_API_KEY; der direkte Provider verwendet standardmäßig TOGETHER_API_KEY. Ihre Modell- und Funktionsverfügbarkeit kann unterschiedlich sein.[6] Ein Together-Zugangsschlüssel in einem Teil deiner Umgebung belegt nicht, dass eine Anfrage mit einer reinen Zeichenfolge ihn verwendet.
Auch die Gateway-Option zur Provider-Reihenfolge verdient genaues Lesen. Ihre dokumentierte Reihenfolge drückt eine Präferenz aus und erlaubt Fallbacks; sie beschränkt nicht alle Anfragen auf den benannten Provider.[6] Eine erfolgreiche Gateway-Anfrage beweist daher für sich genommen nicht, dass dein direktes Together-Projekt das Modell bedienen kann.
Prüfe deine installierte SDK-Version und die aufgelösten Verbindungseinstellungen anhand der Dokumentation. Ein Client kann eine Basis-URL oder einen anderen Standardwert anwenden, der in deinem eigenen Code nicht neben dem Modellnamen sichtbar ist. Vergleiche die aufgebaute Anfrage, bevor du Pakete ersetzt oder nicht betroffene Anwendungslogik bearbeitest.
Reduziere die Diagnoseanfrage auf die dokumentierte Operation und die erforderlichen Felder, während du vorgesehenen Host, Konto und Modell unverändert lässt. Vergleiche sie dann mit der Anfrage der Anwendung. Wenn die Minimalform funktioniert, die vollständige Form aber scheitert, füge optionale Funktionen einzeln wieder hinzu, damit der Unterschied sichtbar bleibt. Wenn beide mit derselben Verfügbarkeitsmeldung scheitern, erklärt eine Änderung des Prompts eine Routenabweichung wahrscheinlich nicht. Jede Inferenz, die du für diesen Vergleich ausführst, kann Kosten verursachen; halte sie innerhalb deines üblichen genehmigten Testbudgets, statt eine ungeklärte Anfrage in eine automatische Wiederholungsschleife zu stecken.
Prüfe bei einer Bild-, Embedding- oder Reranking-Aufgabe außerdem, ob du die entsprechende, im SDK dokumentierte Provider-Factory und Operation verwendest.[6] Eine über die falsche Operation übergebene Modellzeichenfolge bleibt eine falsche Anfrage, selbst wenn ihre Schreibweise dem Katalog entspricht.
Den verbleibenden Fehler über die nächste Änderung entscheiden lassen
Sobald Route und Aufrufer übereinstimmen, lies den tatsächlichen Fehler, statt weiterhin jede Ablehnung als fehlende Modellunterstützung zu interpretieren. Togethers Referenz unterscheidet Authentifizierungsfehler, finanzierungsbedingte Abschaltungen, eingeschränkten Zugriff, ungültige URLs oder Modellnamen, Begrenzungen und vorübergehende Nichtverfügbarkeit des Dienstes.[7]
Ein 401 deutet auf Authentifizierung hin. Ein 402 kann auf eine Ausgabensperre oder die Anforderung eines positiven Guthabens hinweisen. Bei einem 403 ist der genannte Zugriffsgrund zu prüfen. Ein 429 erfordert seinen Operationskontext: Serverless-Begrenzung und eine dedizierte Verwaltungsanfrage, die das GPU-Kontingent überschreitet, sind unterschiedliche Fälle. Die historische Evo-Antwort zeigt auch, warum model_not_available nicht so fest codiert werden sollte, als käme es immer mit 404 an.[7][1]
Nutze einen Katalogeintrag nicht als Beweis für kostenlosen gehosteten Zugriff. Togethers am 16. November 2026 geprüfte Guthabenrichtlinie besagt, dass es keine kostenlose Testphase gibt, ein Erstkauf von mindestens 15 $ erforderlich ist und kostenlose Guthaben diesen Mindestbetrag nicht erfüllen. Fortgesetzter Prepaid-Zugriff erfordert ein positives Guthaben; aktive Scale- und Enterprise-Verträge haben eigene Bedingungen.[8] Diese Bedingungen unterscheiden sich von einer falschen Modell-ID oder Route. Erneutes Bezahlen korrigiert keine der beiden Zeichenfolgen.
Wenn Konfiguration und dokumentierte Verfügbarkeit der Antwort weiterhin widersprechen, sende dem Support genau diesen Widerspruch: die genaue ID oder den Endpunkt, Host und Pfad, vorgesehenes Projekt, Zeitstempel, SDK-Version, HTTP-Status und den vollständigen bereinigten Fehler. Füge eine zurückgegebene Anfrage-ID hinzu, falls verfügbar. Nenne die aktuelle Liste oder einsatzbereite Bereitstellung, die du geprüft hast. So kann der Support die fehlgeschlagene Anfrage untersuchen, statt sie aus einem Screenshot einer Modellkarte ableiten zu müssen.
Quellen
- Evo-Projekt, GitHub-Issue 95, Modell auf api.together.ai nicht verfügbar, einschließlich Antworten. Historischer Bericht geprüft am 15. November 2026.
- Together AI, Verfügbare Modelle: Serverless-Katalog, Aufgabentypen und Unterscheidung dedizierter Modelle. Geprüft am 15. November 2026.
- Together AI, Überblick über dedizierte Modellinferenz: Projektauswahl, Bereitschaft, Endpunktzeichenfolgen und Hardware-Abrechnung. Geprüft am 15. November 2026.
- Together AI, Projekte: Ressourcengrenzen, Projekt-API-Schlüssel und Slug-Änderungen. Geprüft am 15. November 2026.
- reAPI, Authentifizierung. Geprüft am 15. November 2026. Externe Quell-URLs und vollständige Snapshots werden im Recherchearchiv aufbewahrt.
- AI SDK, Together.ai-Provider: Gateway- und direkte Provider-Konfiguration. Geprüft am 15. November 2026.
- Together AI, Fehlercodes. Geprüft am 15. November 2026.
- Together AI, Guthaben: Richtlinie zur kostenlosen Testphase, Erstkaufanforderung und Vertragsausnahmen. Geprüft am 16. November 2026.