メインコンテンツへスキップ
エンタープライズ導入には、優れた開発者体験以上のものが必要です。誰がDroidを使用し、何に対して、どのようなコストで使用しているかを理解する必要があります。 FactoryはOpenTelemetry (OTEL)を中心に構築されているため、既存のオブザーバビリティスタックに直接Droidを接続できます。また、ホストビューを求める組織向けのオプションのクラウド分析機能も提供します。

OTEL‑ネイティブなメトリクスとトレース

Droidは、組織全体でどのように使用されているかを把握するOTELシグナルを出力します。

主要なメトリクスファミリー

メトリクスカテゴリの例には以下が含まれます:
  • セッションメトリクス
    • インタラクティブセッションとヘッドレスセッションの数
    • セッション時間とアクティブなエンゲージメント時間
  • LLM使用メトリクス
    • モデルおよびプロバイダー別のトークン入力/出力
    • リクエスト数とレイテンシ
    • エラー率とリトライ動作
  • ツール使用メトリクス
    • ツール呼び出しと実行時間
    • 成功/失敗率
    • 提案および実行されたコマンドリスクレベル
  • コード変更メトリクス
    • 変更、作成、削除されたファイルと行数
    • リポジトリおよびチーム間の分布

トレースとスパン

トレースは、セッションまたは自動化実行のライフサイクルを示すことができます:
  • セッション開始 → プロンプト構築 → LLM呼び出し → ツール実行 → コード編集 → 検証
  • スパンは、モデル選択、呼び出されたツール、エラー条件など、各ステップのタイミングとメタデータを記録します
これらのシグナルにより、独自の分析サービスに依存することなく、Prometheus、Grafana、Datadog、New Relic、Splunkなどのシステムでダッシュボードを構築できます。 これらのメトリクスを自社のOTLP互換コレクターに直接エクスポートする方法については、Telemetry Export (OTEL)を参照してください。 テレメトリスキーマとコンプライアンスおよび監査への対応について詳しくは、Compliance, Audit & Monitoringを参照してください。

Factoryクラウド分析(オプション)

クラウド管理されたデプロイメントでは、Factoryはプラットフォームチームとリーダーシップチーム向けのホスト分析ビューを提供できます。 典型的なビューには以下が含まれます:
  • 組織、チーム、リポジトリ別の導入メトリクス
  • モデル使用とパフォーマンストレンド
  • LLM使用の概略コスト推定
  • 頻度別のトップワークフローとドロイド
これらのダッシュボードは、DroidがOTEL経由で出力するのと同じシグナル上に構築されています。これらを有効にしても、基盤となるテレメトリモデルは変更されません。 ハイブリッドおよび完全エアギャップデプロイメントでは、通常顧客所有のOTELパイプラインのみに依存し、ホスト分析を完全に無効にします。

コスト管理戦略

LLMコスト制御は、モデルポリシー使用パターンオブザーバビリティの組み合わせです。 推奨される実践方法:
Use org‑level policies to limit which models are available.
  • Prefer smaller models for everyday tasks; reserve large models for complicated refactors or design work.
  • Disable experimental or high‑cost models by default.
  • Enforce model choices per environment (for example, cheaper models in CI).
Higher autonomy and larger context windows consume more tokens.
  • Set reasonable defaults for autonomy level and reasoning effort.
  • Use hooks to cap context size or block unnecessary large prompts.
  • Encourage teams to iterate with tighter scopes (for example, specific directories instead of entire monorepos).
Feed token and request metrics into your observability stack.
  • Build per‑team and per‑model dashboards.
  • Alert on unusual spikes in usage.
  • Compare cost curves before and after policy changes.

生産性への影響の測定

コストは結果の文脈でのみ意味を持ちます。OTELを使用することで、Droidの使用を既に追跡しているソフトウェア配信と品質メトリクスと関連付けることができます。 一般的なアプローチ:
  • DroidセッションのOTELトレースをCIビルド、テスト実行、デプロイメントパイプラインと関連付ける
  • インシデントの削減、アラートの解決、テストカバレッジの改善につながる変更にDroidがどの程度関与しているかを測定する
  • コード変更メトリクスを使用して自動化の影響を推定する(例:リファクタリングまたは移行されたコード行数)
これらの分析は、既存のオブザーバビリティと分析スタックで完全に実行されます。FactoryはDroidからクリーンで構造化されたシグナルを提供する役割を担います。