今日を知り、明日を変えるシステム運用メディア

Amazon Bedrock カスタムモデルインポートにより、リアルタイムのコスト透明性が実現

Amazon Bedrock カスタムモデルインポートにより、リアルタイムのコスト透明性が実現

本記事は、2025 年 3 月 26 日にAWS公式サイトの What’s New with AWS? に掲載された英語記事を自動翻訳したものです。

ニュース内容

Amazon Bedrock カスタムモデルインポートを使用すると、基盤となるインフラストラクチャを管理することなく、カスタマイズされた基盤モデルをオンデマンドでインポートして実行できます。お客様は、使用されているコンピューティングリソースを完全に透明化し、推論コストをリアルタイムで計算できるようになりました。

今回のリリースにより、お客様は、Bedrock コンソールおよび Bedrock API でモデルを呼び出す前に、モデルを実行するために必要な最小限のコンピューティングリソース、カスタムモデルユニット (CMU) を確認できます。モデルが拡張されてトラフィックが増えると、CloudWatch メトリクスは、使用される CMU の合計数を表示することで、推論コストをリアルタイムで可視化します。これにより、お客様はほぼ瞬時のコスト可視化を通じて支出をより適切に管理し、コストを最適化するためにオンザフライでモデル構成を変更するなどのアクションを実行できます。

この機能は、Amazon Bedrock カスタムモデルインポートがサポートされているすべてのリージョンで利用できます。詳細を確認して開始するには、Amazon Bedrock カスタムモデルインポートページにアクセスし、詳細についてはドキュメントページを参照してください。

原文

Amazon Bedrock Custom Model Import enables customers to import and run their customized foundation models on-demand without managing the underlying infrastructure. Customers can now get full transparency into the compute resources being used and calculate inference costs in real-time.

With this launch, customers are able to see the minimum compute resources, custom model units (CMUs), required to run their model prior to model invocation in the Bedrock console and through Bedrock APIs. As the model scales to handle more traffic, CloudWatch metrics provide real-time visibility into the inference costs by showing the total number of CMUs used. This enables customers to better control spend through near-instant cost visibility and take actions like making on-the fly model configuration changes to optimize for costs.

This feature is available in all regions where Amazon Bedrock Custom Model Import is supported. To learn more and get started, visit the Amazon Bedrock Custom Model Import page and see the documentation page for more details.

引用元:Amazon Bedrock Custom Model Import introduces real-time cost transparency

人気の記事

最新情報をお届けします!

最新のITトレンドやセキュリティ対策の情報を、メルマガでいち早く受け取りませんか?ぜひご登録ください

メルマガ登録