一緒にAI

一緒に AI 200人以上のホスト オープンソースモデル テキスト、画像、動画、音声、埋め込み、コード生成など、あらゆる要素に対応。開発者はサーバーをプロビジョニングすることなく、単一のAPIを通じてあらゆるモデルを呼び出すことができます。Llama 4 Maverickのようなモデルは、100万入力トークンあたり約0.27ドルで動作するため、大量の本番ワークロードを独自の代替ソリューションよりも大幅に安価に処理できます。また、このプラットフォームには、緊急性の低いジョブを低コストで処理できるバッチAPIも含まれています。

Together AI独自の推論エンジンは、FlashAttention 3とATLASスペキュレーターシステムを採用することで、標準的な実装よりも最大3.5倍高速な推論を実現します。NVIDIA H100ハードウェアでは、BF16精度で約840 TFLOPS/秒の性能を達成します。実際の運用環境では、毎秒約400トークンの処理速度となり、GPT 4 Turboの出力速度の約2.5～4倍の速さとなります。

このプラットフォームは、最大 1000 億パラメータのモデルに対して、LoRA (低ランク適応) とフルウェイトファインチューニングの両方をサポートしています。価格は、最大 160 億パラメータのモデルに対する LoRA の場合、100 万トークンあたり 0.48 ドルからとなっています。チームは、独自のデータでモデルをトレーニングして、法律、医療、または 顧客サポートアプリケーション そして、それらをTogether AIの推論スタックに即座にデプロイします。

専用のコンピューティングが必要なチームのために、 AI NVIDIA H100、H200、B200、そして最新のGB200およびGB300 NVL72ラックへの即時アクセスを提供します。オンデマンド料金はH100ノードで1時間あたり3.49ドルから、長期契約の場合は予約料金が1時間あたり2.55ドルまで下がります。そのため、機械学習トレーニングワークロードにおいて、AWS、GCP、Azureの有力な代替手段となります。

OpenAIのAPIからTogetherへの移行 AI 必要なのはベース URL の変更だけです。プラットフォームには、コードを実行するコードインタープリタも用意されています。 LLMが生成したコード サンドボックス環境ではセッションあたり0.03ドル、より大規模な開発環境向けのフルコードサンドボックスはvCPU時間単位で課金されます。