Вместе ИИ

Вместе AI принимает более 200 модели с открытым исходным кодом Платформа охватывает текст, изображения, видео, аудио, встраивание данных и генерацию кода. Разработчики могут вызывать любую модель через единый API без выделения серверов. Модели, такие как Llama 4 Maverick, работают примерно по 0.27 доллара за миллион входных токенов, что делает высокопроизводительные рабочие нагрузки значительно дешевле, чем проприетарные альтернативы. Платформа также включает в себя пакетный API для несрочных задач по сниженной цене.

Собственный механизм вывода Together AI использует FlashAttention 3 и систему спекулянтов ATLAS, обеспечивая до 3.5 раз более высокую скорость вывода по сравнению со стандартными реализациями. На оборудовании NVIDIA H100 это позволяет достичь производительности около 840 TFLOPs/s с точностью BF16. В реальных условиях производительность составляет приблизительно 400 токенов в секунду, что примерно в 2.5–4 раза быстрее, чем скорость вывода GPT 4 Turbo.

Платформа поддерживает как LoRA (Low Rank Adaptation), так и полную тонкую настройку весов для моделей с количеством параметров до 100 миллиардов. Цена начинается от 0.48 доллара США за миллион токенов для LoRA на моделях с количеством параметров до 16 миллиардов. Команды могут обучать модели на собственных данных для создания специализированных систем для юридических, медицинских или клиентских приложений , а затем мгновенно развертывать их на стеке обработки данных Together AI.

Для команд, которым необходимы выделенные вычислительные ресурсы, Together AI Предлагает мгновенный доступ к стойкам NVIDIA H100, H200, B200, а также новейшим стойкам GB200 и GB300 NVL72. Стоимость по запросу начинается от 3.49 долларов США в час за узел H100, а при более длительных контрактах цена снижается до 2.55 долларов США в час. Это делает его отличной альтернативой AWS, GCP или Azure для рабочих нагрузок обучения машинного обучения.

Переход с API OpenAI на Together AI Требуется лишь изменение базового URL-адреса. Платформа также предоставляет интерпретатор кода, который выполняет... код, сгенерированный LLM В изолированных средах стоимость составляет 0.03 доллара за сессию, плюс полная версия Code Sandbox для более крупных сред разработки оплачивается за час работы виртуального процессора.