全局概览
全局概览
全局概览展示所有大模型应用整体的概览分析数据,查看所有应用的大模型调用和Token分析等数据。

面板 |
说明 |
应用数 |
已接入大模型应用数 |
LLM大模型数量 |
所有应用在指定时间段使用的大模型数量 |
LLM模型调用次数 |
所有应用在指定时间段产生的大模型调用次数 |
Token用量 |
所有应用在指定时间段产生的Token用量 |
用户数 |
指定时间段内使用大模型应用的用户数 |
Trace数 |
所有应用在指定时间段产生的调用链数量 |
Span数 |
所有应用在指定时间段产生的Span数量 |
面板 |
说明 |
Token用量趋势图 |
展示所有应用的Token用量情况趋势图,分input和output统计 |
Avg Tokens per request趋势图 |
展示所有应用用户每次request请求平均使用的Token数量趋势图,分input和output统计 |
Avg Tokens per LLM call趋势图 |
展示所有应用每次LLM模型调用平均使用的Token数量,分input和output统计 |
面板 |
说明 |
LLM模型调用次数Top5 |
基于所有应用对大模型的调用,统计调用次数Top5的大模型,支持切换趋势图显示 |
LLM模型调用错误数Top5 |
基于所有应用对大模型的调用,统计调用错误Top5的大模型,支持切换趋势图显示 |
LLM模型调用平均耗时Top5 |
基于所有应用对大模型的调用,统计调用错误平均耗时Top5的大模型,支持切换趋势图显示 |
LLM模型调用首Token平均耗时Top5 |
基于所有应用对大模型的调用,统计调用首Token平均耗时Top5的大模型,支持切换趋势图显示 |
面板 |
说明 |
LLM模型调用次数 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用次数Top5的应用,支持切换趋势图显示 |
LLM模型调用错误数 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用错误Top5的应用,支持切换趋势图显示 |
LLM模型调用平均耗时 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用平均耗时Top5的应用,支持切换趋势图显示 |
LLM模型调用首Token平均耗时 应用Top5 |
基于所有应用对大模型的调用,统计大模型调用首Token平均耗时Top5的应用,支持切换趋势图显示 |