- 今日学习日报:
- 学习列表接口的分页机制,根据总数与每页条数计算总页数并循环翻页至末页;
- 学习同一POST接口的两种请求体构造方式,表单参数用NameValuePair+UrlEncodedFormEntity,JSON参数用StringEntity,并补充Content-Type、User-Agent请求头;
- 学习HTML中内嵌JSON的提取,用正则截取subjectInfoResult、notice片段后再转为JSONObject解析;
- 学习按noticeType多分支处理不同公告类型,分别取字段填充到对应的HTML模板中生成详情;
- 学习时间与链接清洗,毫秒时间戳转LocalDateTime、文本日期统一为yyyy-MM-dd,并将iframe、附件、相对a/img地址重写为可访问链接;
- 学习断点续采与WebMagic进阶,按DETAIL_LINK查重跳过已采数据,用HttpRequestBody.form发POST、addTargetRequest下钻详情、setSkip跳过列表页、context在列表页与详情页间传参。
|