モデルを比較してランク付けする

評価メトリクスに基づいて異なるモデルバージョンを比較し、ランク付けする

Weave の リーダーボード を使用すると、複数のメトリクスにわたって複数のモデルを評価・比較し、精度、生成品質、レイテンシ、またはカスタム評価ロジックを測定できます。リーダーボード を使うと、モデル性能を一元的に可視化し、経時的な変化をトラッキングし、チーム全体でベンチマークを共有できます。

リーダーボード は、次の用途に最適です。

• モデル性能のリグレッションをトラッキングする
• 共有の評価ワークフローを調整する

リーダーボード を作成できるのは、Weave UI と Weave Python SDK のみです。TypeScript ユーザーは、Weave UI を使用して リーダーボード を作成および管理できます。

​

リーダーボードを作成

Weave UI または コードから リーダーボードを作成できます。

​

UI を使う

Weave UI でリーダーボードを直接作成およびカスタマイズするには、次の手順に従います。

1. Weave UI で、Leaders セクションにアクセスします。表示されていない場合は、More → Leaders をクリックします。
2. + New Leaderboard をクリックします。
3. Leaderboard Title フィールドに、わかりやすい名 (例: summarization-benchmark-v1) を入力します。
4. 必要に応じて、このリーダーボードで何を比較するのかがわかる説明を追加します。
5. 表示する評価とメトリクスを定義するために、列を追加します。
6. レイアウトに問題がなければ、リーダーボードを保存して公開し、他のユーザーと共有します。

​

列を追加

リーダーボードの各列は、特定の評価のメトリクスを表します。列を設定するには、次を指定します。

• 評価: ドロップダウンから評価 run を選択します (事前に作成されている必要があります) 。
• Scorer: その評価で使用するスコアリング関数 (例: jaccard_similarity、simple_accuracy) を選択します。
• メトリクス: 表示するサマリー メトリクス (例: mean、true_fraction など) を選択します。

列をさらに追加するには、列を追加 をクリックします。

列を編集するには、右側の action () メニューをクリックします。次の操作ができます。

• 前 / 後に移動 – 列の順序を変更
• 複製 – 列の定義をコピー
• 削除 – 列を削除
• 昇順で並べ替え – リーダーボードのデフォルトの並べ替え順を設定 (もう一度クリックすると降順に切り替わります)

​

Python

完全な実行可能コードのサンプルをお探しの場合は、エンドツーエンドの Python の例を参照してください。

リーダーボードを作成して公開するには、次の手順に従います。

1. テスト用データセットを定義します。組み込みのDatasetを使用することも、input と target のリストを手動で定義することもできます。

   dataset = [
       {"input": "...", "target": "..."},
       ...
   ]
   

2. 1 つ以上のScorerを定義します。

   @weave.op
   def jaccard_similarity(target: str, output: str) -> float:
       ...
   

3. 評価を作成します。

   evaluation = weave.Evaluation(
       name="My Eval",
       dataset=dataset,
       scorers=[jaccard_similarity],
   )
   

4. 評価するモデルを定義します。

   @weave.op
   def my_model(input: str) -> str:
       ...
   

5. 評価を実行します。

    async def run_all():
        await evaluation.evaluate(model_vanilla)
        await evaluation.evaluate(model_humanlike)
        await evaluation.evaluate(model_messy)
   
   asyncio.run(run_all())
   

6. リーダーボードを作成します。

   spec = leaderboard.Leaderboard(
       name="My Leaderboard",
       description="Evaluating models on X task",
       columns=[
           leaderboard.LeaderboardColumn(
               evaluation_object_ref=get_ref(evaluation).uri(),
               scorer_name="jaccard_similarity",
               summary_metric_path="mean",
           )
       ]
   )
   

7. リーダーボードを公開します。

   weave.publish(spec)
   

8. 結果を取得します。

   results = leaderboard.get_leaderboard_results(spec, client)
   print(results)
   

​

エンドツーエンドの Python の例

次の例では、Weave の評価機能を使用して、カスタムメトリクスで共有データセット上の 3 つの要約モデルを比較するリーダーボードを作成します。小規模なベンチマークを作成し、各モデルを評価し、ジャッカード類似度で各モデルをスコアリングし、その結果を Weave リーダーボードに公開します。

import weave
from weave.flow import leaderboard
from weave.trace.ref_util import get_ref
import asyncio

client = weave.init("leaderboard-demo")

dataset = [
    {
        "input": "Weave is a tool for building interactive LLM apps. It offers observability, trace inspection, and versioning.",
        "target": "Weave helps developers build and observe LLM applications."
    },
    {
        "input": "The OpenAI GPT-4o model can process text, audio, and vision inputs, making it a multimodal powerhouse.",
        "target": "GPT-4o is a multimodal model for text, audio, and images."
    },
    {
        "input": "The W&B team recently added native support for agents and evaluations in Weave.",
        "target": "W&B added agents and evals to Weave."
    }
]

@weave.op
def jaccard_similarity(target: str, output: str) -> float:
    target_tokens = set(target.lower().split())
    output_tokens = set(output.lower().split())
    intersection = len(target_tokens & output_tokens)
    union = len(target_tokens | output_tokens)
    return intersection / union if union else 0.0

evaluation = weave.Evaluation(
    name="Summarization Quality",
    dataset=dataset,
    scorers=[jaccard_similarity],
)

@weave.op
def model_vanilla(input: str) -> str:
    return input[:50]

@weave.op
def model_humanlike(input: str) -> str:
    if "Weave" in input:
        return "Weave helps developers build and observe LLM applications."
    elif "GPT-4o" in input:
        return "GPT-4o supports text, audio, and vision input."
    else:
        return "W&B added agent support to Weave."

@weave.op
def model_messy(input: str) -> str:
    return "Summarizer summarize models model input text LLMs."

async def run_all():
    await evaluation.evaluate(model_vanilla)
    await evaluation.evaluate(model_humanlike)
    await evaluation.evaluate(model_messy)

asyncio.run(run_all())

spec = leaderboard.Leaderboard(
    name="Summarization Model Comparison",
    description="Evaluate summarizer models using Jaccard similarity on 3 short samples.",
    columns=[
        leaderboard.LeaderboardColumn(
            evaluation_object_ref=get_ref(evaluation).uri(),
            scorer_name="jaccard_similarity",
            summary_metric_path="mean",
        )
    ]
)

weave.publish(spec)

results = leaderboard.get_leaderboard_results(spec, client)
print(results)

​

リーダーボード を表示して読み解く

スクリプトの実行が完了したら、リーダーボード を表示します。

1. Weave UI で Leaders タブに移動します。表示されていない場合は、More をクリックして Leaders を選択します。
2. リーダーボード の名をクリックします。例: Summarization Model Comparison。

リーダーボード の表では、各行が各モデル (model_humanlike、model_vanilla、model_messy) を表します。mean 列には、モデルの出力と参照サマリーの間のジャッカード類似度の平均が表示されます。

この例では:

• model_humanlike が最も良い結果で、重複率は ~46% です。
• model_vanilla (単純な切り詰め) は ~21% です。
• model_messy は意図的に性能を悪くしたモデルで、スコアは ~2% です。