全局概览
全局概览
全局概览展示所有大模型应用整体的概览分析数据,查看所有应用的大模型调用和Token分析等数据。

| 面板 |
说明 |
| 应用数 |
已接入大模型应用数 |
| LLM大模型数量 |
所有应用在指定时间段使用的大模型数量 |
| LLM模型调用次数 |
所有应用在指定时间段产生的大模型调用次数 |
| Token用量 |
所有应用在指定时间段产生的Token用量 |
| 用户数 |
指定时间段内使用大模型应用的用户数 |
| Trace数 |
所有应用在指定时间段产生的调用链数量 |
| Span数 |
所有应用在指定时间段产生的Span数量 |
| 面板 |
说明 |
| Token用量趋势图 |
展示所有应用的Token用量情况趋势图,分input和output统计 |
| Avg Tokens per request趋势图 |
展示所有应用用户每次request请求平均使用的Token数量趋势图,分input和output统计 |
| Avg Tokens per LLM call趋势图 |
展示所有应用每次LLM模型调用平均使用的Token数量,分input和output统计 |
| 面板 |
说明 |
| LLM模型调用次数Top5 |
基于所有应用对大模型的调用,统计调用次数Top5的大模型,支持切换趋势图显示 |
| LLM模型调用错误数Top5 |
基于所有应用对大模型的调用,统计调用错误Top5的大模型,支持切换趋势图显示 |
| LLM模型调用平均耗时Top5 |
基于所有应用对大模型的调用,统计调用错误平均耗时Top5的大模型,支持切换趋势图显示 |
| LLM模型调用首Token平均耗时Top5 |
基于所有应用对大模型的调用,统计调用首Token平均耗时Top5的大模型,支持切换趋势图显示 |
| 面板 |
说明 |
| LLM模型调用次数 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用次数Top5的应用,支持切换趋势图显示 |
| LLM模型调用错误数 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用错误Top5的应用,支持切换趋势图显示 |
| LLM模型调用平均耗时 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用平均耗时Top5的应用,支持切换趋势图显示 |
| LLM模型调用首Token平均耗时 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用首Token平均耗时Top5的应用,支持切换趋势图显示 |