同步操作将从 搜狗开源/workflow 强制同步,此操作会覆盖自 Fork 仓库以来所做的任何修改,且无法恢复!!!
确定后同步将在后台操作,完成时将刷新页面,请耐心等待。
本示例通过一个用户定义文本文件来指定名称服务策略。文件格式定义与系统hosts文件兼容,目前也支持指向域名。例如:
127.0.0.1 www.myhost.com
192.168.10.10 host1
wwww.sogou.com sogou # 扩展功能,'sogou'指向'www.sogou.com'
用户在命令行输入抓取的URL和名称服务文件来抓取目标网页。如果输入URL的域名在文件中不存在,则正常使用DNS。
所有名称服务策略,从WFNSPolic派生。其唯一需要实现的是create_router_task函数。
class MyNSPolicy : public WFNSPolicy
{
public:
WFRouterTask *create_router_task(const struct WFNSParams *params, router_callback_t callback) override;
..
};
在这个示例里,我们并不需要引入很复杂的选取策略,只需要从一个文本文件把域名做转化。
所以,我们可以把转化结果交给全局的dns resolver,让dns resolve产生真正的路由任务。
WFRouterTask *MyNSPolicy::create_router_task(const struct WFNSParams *params, router_callback_t callback)
{
WFDnsResolver *dns_resolver = WFGlobal::get_dns_resolver();
if (params->uri.host)
{
FILE *fp = fopen(this->path.c_str(), "r");
if (fp)
{
std::string dest = this->read_from_fp(fp, params->uri.host);
if (dest.size() > 0)
{
/* Update the uri structure's 'host' field directly.
* You can also update the 'port' field if needed. */
free(params->uri.host);
params->uri.host = strdup(dest.c_str());
}
fclose(fp);
}
}
/* Simply, use the global dns resolver to create a router task. */
return dns_resolver->create_router_task(params, std::move(callback));
}
其中read_from_fp函数从文本文件中读取信息并做转换,这个函数的实现大家可以直接看源代码。
得到转换结果之后,用新的host覆盖原params里uri的host即可。最后,调用dns resover产生路由任务。
Workflow里,可以给每个单独的域名指定一个名称服务策略。如果一个域名找不到指定策略,则使用默认。
一般情况下,默认名称服务策略即是dns resolver。下面,我们把我定义好的策略注册到输入URL的域名上:
int main()
{
...
/* Create an naming policy. */
MyNSPolicy *policy = new MyNSPolicy(filename);
/* Get the global name service object.*/
WFNameService *ns = WFGlobal::get_name_service();
/* Add the our name with policy to global name service.
* You can add mutilply names with one policy object. */
ns->add_policy(name, policy);
...
}
其中,name为URL里的域名。这样的话,这个域名下的所有URL,都将使用我们自定义的名称服务策略了。
在程序退出之前,我们也需要把这个策略从全局名称服务中删除,防止内存泄漏:
int main()
{
...
/* clean up */
ns->del_policy(name);
delete policy;
return 0;
}
在这个例子中,其实我们并没有修改默认名称服务策略。有些情况下,我们可能想让所有的host都使用这个名称服务策略。
这种情况,我们也可以修改默认的策略,让这个策略对所有的host都生效。只需要调用全局名称服务的set_default_policy函数:
int main()
{
MyNSPolicy *policy = new MyNSPolicy(filename);
WFNameService *ns = WFGlobal::get_name_service();
ns->set_default_policy(policy);
...
/* Reset default policy to dns resolver and clean up */
ns->set_default_policy(WFGlobal::get_dns_resolver());
delete policy;
return 0;
}
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。