Oumiは、データ準備からトレーニング、評価、デプロイメントまで、基盤モデルのライフサイクル全体を簡素化するオープンソースプラットフォームです。Oumiを通じてSambaNova推論エンジンを使用する方法について詳しく知るには、ドキュメントをご確認ください。このガイドでは、OumiプラットフォームでSambaNova エンジンを統合して使用する方法について詳しく説明しています。

​
例

from oumi.inference import SambanovaInferenceEngine
from oumi.core.configs import ModelParams, RemoteParams

engine = SambanovaInferenceEngine(
    model_params=ModelParams(
        model_name="Meta-Llama-3.1-405B-Instruct"
    ),
    remote_params=RemoteParams(
        api_key_env_varname="SAMBANOVA_API_KEY",
    )
)