1 Star 0 Fork 0

openfaiss/faiss

加入 Gitee
与超过 1400万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
克隆/下载
function_cache.go 1.66 KB
一键复制 编辑 原始数据 按行查看 历史
openfaiss 提交于 2023-10-25 20:56 +08:00 . first commit
// Copyright (c) OpenFaaS Author(s). All rights reserved.
// Licensed under the MIT license. See LICENSE file in the project root for full license information.
package scaling
import (
"sync"
"time"
)
// FunctionCacher queries functions and caches the results
type FunctionCacher interface {
Set(functionName, namespace string, serviceQueryResponse ServiceQueryResponse)
Get(functionName, namespace string) (ServiceQueryResponse, bool)
}
// FunctionCache provides a cache of Function replica counts
type FunctionCache struct {
Cache map[string]*FunctionMeta
Expiry time.Duration
Sync sync.RWMutex
}
// NewFunctionCache creates a function cache to query function metadata
func NewFunctionCache(cacheExpiry time.Duration) FunctionCacher {
return &FunctionCache{
Cache: make(map[string]*FunctionMeta),
Expiry: cacheExpiry,
}
}
// Set replica count for functionName
func (fc *FunctionCache) Set(functionName, namespace string, queryRes ServiceQueryResponse) {
fc.Sync.Lock()
defer fc.Sync.Unlock()
if _, exists := fc.Cache[functionName+"."+namespace]; !exists {
fc.Cache[functionName+"."+namespace] = &FunctionMeta{}
}
fc.Cache[functionName+"."+namespace].LastRefresh = time.Now()
fc.Cache[functionName+"."+namespace].ServiceQueryResponse = queryRes
}
// Get replica count for functionName
func (fc *FunctionCache) Get(functionName, namespace string) (ServiceQueryResponse, bool) {
queryRes := ServiceQueryResponse{
AvailableReplicas: 0,
}
hit := false
fc.Sync.RLock()
defer fc.Sync.RUnlock()
if val, exists := fc.Cache[functionName+"."+namespace]; exists {
queryRes = val.ServiceQueryResponse
hit = !val.Expired(fc.Expiry)
}
return queryRes, hit
}
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/openfaiss/faiss.git
git@gitee.com:openfaiss/faiss.git
openfaiss
faiss
faiss
741517bdd2c0

搜索帮助