goroutine 多不等于并发能力强:从 ModelGate 讲有界并发与 Semaphore
从 ModelGate 的 Provider 级并发治理出发,解释为什么 goroutine 很轻量仍然需要限制并发、Semaphore 与限流器有什么区别,以及流式请求为什么必须一直占用并发额度。
Topic
共 1 篇相关文章。
从 ModelGate 的 Provider 级并发治理出发,解释为什么 goroutine 很轻量仍然需要限制并发、Semaphore 与限流器有什么区别,以及流式请求为什么必须一直占用并发额度。