メインコンテンツへスキップ
Fireworks AIの最適化されたサービングインフラストラクチャを使用して、オープンソースモデルの高性能推論にアクセスできます。

設定

~/.factory/settings.jsonに追加してください:

はじめに

  1. fireworks.aiでサインアップしてください
  2. ダッシュボードからAPI keyを取得してください
  3. model catalogで利用可能なモデルを閲覧してください
  4. 設定に希望するモデルを追加してください

注意事項

  • ベースURLの形式:https://api.fireworks.ai/inference/v1
  • モデルIDは通常accounts/fireworks/models/で始まります
  • 対応モデルではストリーミングレスポンスとfunction callingをサポートしています