Oracle Autonomous AI Database に Rerank モデルを組み込んで、Rerank 処理を In-DB で行う

Qiita (会社用ブログとして使ってる) に、久しぶりに記事を投稿した。

QiitaOracle Autonomous AI Database に Rerank モデルを組み込んで、Rerank 処理を In-DB で行う - Qiitaはじめに Oracle のデータベースは、ONNX フォーマットのモデルを取り込むことが可能です。 そのため、例えば Embedding モデルを ONNX フォーマットにエクスポートし、それをデータベースに取り込むことが出来ます。 結果として、ベクトル検索を実施する際に...https://qiita.com/jun110/items/d7b1c695bb5698a6a251

Embedding モデルも Rerank モデルも DB に取り込んで、全部 In-DB で出来まっせっていう記事。 これ最初はぇーって思ったけど、Database 自体に発生しうる負荷が気になるなぁとも思った。 なので予め、Resource Manager を使ってコンシューマー グループを作成し、CPU の使用率上限を低めに指定したりしなくちゃいけないですね。 そうすれば Embedding 処理や Rerank 処理によって CPU が 100 % まで張り付くっていうのを、防げるかもしれない。

Oracle Help CenterManage Workload Resources with Database Resource Manager in Autonomous AI DatabaseTo customize resource allocation for different users, apps, or workload types in Autonomous AI Database, you can create and manage your own Database Resource Manager (DBRM) plans and consumer groups using cs_resource_manager subprograms.https://docs.oracle.com/en/cloud/paas/autonomous-database/serverless/adbsb/manage-workload-resources-using-dbrm-autonomous-ai-database.html#GUID-2698163E-45FB-4F75-AA5C-022F89C03EDF

menu