体验优化
模型选择器
本地缓存选择的模型,切换账号时会保留之前的选择,而不是默认到 GPT-3.5。
延迟优化
优化了一些内部参数的获取速度,减少了一些不必要的延迟。
目前的回复延迟 GPT-3.5 在 1s 左右,GPT-4 在 2s 左右。
积分计算优化
目前 GPT-3.5 一次计 0.05 积分,会导致在使用 GPT-4 时用完积分后,GPT-3.5 也无法使用。
现在优化后会进行预扣费,如果积分不足以预扣(包括正好够用),则直接报错阻止本次调用。
例如 GPT-4 需要 1.0 积分,套餐积分上限是 50 积分,已使用积分为 49.0。此时使用 GPT-4 会报错,因为 49.0 + 1.0 >= 50
。
注意使用智能选择模型需要预扣 1.0 积分。实际使用的积分仍然会根据回复的模型计算。
负载重置显示
负载超过 50% 会显示重置时间。
2024-03-30