> 非常感谢作者提供了这么棒的工具 ## 描述 在我阅读源码到 [smart_filter.go#L576](https://github.com/Qianlitp/crawlergo/blob/551acb2b75403985493b56414d797ce5a1da480f/pkg/filter/smart_filter.go#L576) 时,对代码段产生了一些疑问 ```golang /** 计算标记后的唯一请求ID */ func (s *SmartFilter) getMarkedUniqueID(req *model.Request) string { ...... if req.URL.Fragment != "" && strings.HasPrefix(req.URL.Fragment, "/") { uniqueStr += req.URL.Fragment } ...... } ``` 1. 在最后计算 url 的唯一值时加上 fragment 的原因是为了什么呢,但是在标记时没有为 `frangment` 打上标记,这是个 bug 吗类似 #70 2. 是否可以去掉这段代码或者添加 fragment 的标记?这个代码存在的原因是什么呢。 再次感谢作者提供这么好的工具并在百忙之中抽出时间解答,希望能得到作者的指点
描述
在我阅读源码到 smart_filter.go#L576 时,对代码段产生了一些疑问
frangment打上标记,这是个 bug 吗类似 特定页面死循环爬取BUG #70再次感谢作者提供这么好的工具并在百忙之中抽出时间解答,希望能得到作者的指点