Обзор
Anyscale (создатели Ray) предоставляют enterprise-платформу для inference и fine-tuning LLM. Поддерживают private deployment, SLA, и масштабируемость для крупных компаний.
Особенности
EnterpriseFine-tuningPrivate deploySLAStreamingBatch APIRay integration
Поддерживаемые модели
| Модель | Провайдер | Тип | Контекст | Input / 1M | Output / 1M |
|---|---|---|---|---|---|
| Llama 4 Maverick | Meta | LLM | 128K | $0.20 | $0.60 |
| Mixtral 8x22B | Mistral | LLM | 64K | $0.55 | $0.55 |
| CodeLlama 70B | Meta | LLM | 16K | $0.50 | $0.50 |
| Mistral 7B | Mistral | LLM | 32K | $0.10 | $0.10 |
* Цены указаны за 1 миллион токенов (если не указано иное). Актуальные цены на сайте провайдера.
Отзывы
Отзывы пока загружаются. Будьте первым, кто оставит отзыв!