体验优化

模型选择器

本地缓存选择的模型,切换账号时会保留之前的选择,而不是默认到 GPT-3.5。

延迟优化

优化了一些内部参数的获取速度,减少了一些不必要的延迟。
目前的回复延迟 GPT-3.5 在 1s 左右,GPT-4 在 2s 左右。

积分计算优化

目前 GPT-3.5 一次计 0.05 积分,会导致在使用 GPT-4 时用完积分后,GPT-3.5 也无法使用。
现在优化后会进行预扣费,如果积分不足以预扣(包括正好够用),则直接报错阻止本次调用。

例如 GPT-4 需要 1.0 积分,套餐积分上限是 50 积分,已使用积分为 49.0。此时使用 GPT-4 会报错,因为 49.0 + 1.0 >= 50

注意使用智能选择模型需要预扣 1.0 积分。实际使用的积分仍然会根据回复的模型计算。

负载重置显示

负载超过 50% 会显示重置时间。


2024-03-30

Last Updated:
Contributors: 18870