【授课老师】

陈远祥，北京邮电大学副教授，博士生导师，北京大学博士，北京大学优秀博士后，人工智能资深讲师。主要科研方向：数据分析、大数据处理，人工智能。

发表SCI/EI学术论文100余篇，其中第一或通讯作者论文60余篇，授权国家发明专利20余项。主持国家自然科学基金面上项目，国家重点研发计划课题，国家自然科学基金青年项目及博士后基金等多个国家级和省部级项目。国自然函评专家。IEEE、OSA会员，多个SCI期刊审稿人。

【课程大纲】蓝色字体为本次新增内容

爬虫与文本分析概述

目标：了解爬虫和文本分析常见应用场景，如何高效分析文本价值

1) 爬虫常见应用场景，结构化数据/文本数据的获取方法概述

2) 爬虫和文本分析的技术难点，大模型如何辅助爬虫和文本分析

DeepSeek助力Python爬虫

1. 爬虫基础

目标：掌握爬虫基本概念，爬虫基本流程，掌握网页基础知识

1) 什么是网络爬虫，爬虫的注意事项

2) http基本原理

3) web网页基础

4) 爬虫基本流程

案例：

百度，网易有道，豆瓣网页结构的理解和数据的解析；
简单网页的制作

2. 页面解析和数据存储

目标：掌握正则表达式的用法，学会利用正则表达式进行文本信息提取，掌握常见文本信息存储方法

1) 常用网页数据解析方法，基于正则表达式的文本信息提取

2) 文本文件存储

3) JSON文件存储

案例：
正则表达式提取知网信息；
知网爬取数据的存储和读取（txt，csv，excel，json）

3. urllib和requests

目标：掌握两种基本的请求发送方法，通过案例展示，实现单页和多页数据爬取，掌握动态页面爬取方法，掌握模拟登录，IP代理常用方法，实现高效率、大规模的网络爬取

1) 请求头的构造

2) urllib中的get请求与post请求

3) requests单页和多页数据的爬取

4) 动态页面的数据爬取

5) 模拟登录

6) 代理的基本使用

7) 高效代理池的维护

案例：
案例1：链家房源图片的获取和下载；
案例2：链家房源数据的获取（单页和多页）；
案例3：电影分类数据的爬取（JSON数据）；
案例4：电影评论的爬取（单页跳转到多页）

4. BeautifulSoup和Xpath

目标：通过案例，掌握两种高效的网页信息解析和提取方法，实现网络数据的高效提取

1) BeautifulSoup简介

2) BeautifulSoup的页面解析

3) BeautifulSoup节点选择方法

4) 什么是Xpath

5) Xpath常用匹配规则

6) Xpath的节点选择

案例：
案例1：天气预报数据的爬取（7天和40天）；
案例2：豆瓣短评的爬取（多页）

5. Selenium和Playwright

目标：通过案例，掌握动态渲染页面的两种自动化的爬虫方法

1) Selenium的安装与配置

2) Selenium的基本使用

3) 页面的访问与节点定位

4) 节点信息的获取

5) Playwright的安装

6) Playwright的编写模式

7) Playwright代码生成

8) Playwright的常用操作方法

案例：
案例1：知网数据的爬取和论文的下载；
案例2：京东商品数据的爬取；
案例3：谷歌学术论文数据的爬取

6. 验证码的处理

目标：针对验证码反爬虫机制，掌握几种常用验证码识别方法

1) OCR识别验证码

2) 图像匹配识别滑动验证码

3) 云验证码识别

案例：
OCR验证码的识别

7. Scrapy和分布式爬虫

目标：掌握scrapy爬虫框架和常用方法

1) scrapy框架介绍

2) scrapy入门

3) scrapy的节点选择

4) Spider的用法

案例：
案例1：名言引用数据的抓取；
案例2：中国新闻网数据抓取

8. 基于大模型辅助的网络爬虫

目标：利用DeepSeek辅助爬虫，提高爬虫效率

1) 大模型在爬虫中的作用

2) 网页结构解析和信息提取：基于提示词的信息提取，生成代码进行信息提取

3) 爬虫代码的自动生成

4) 爬虫代码的解读和优化

案例：

案例1：基于deepseek提示词的评论数据抓取；

案例2：基于deepseek生成代码的评论数据抓取；
案例3：微博数据抓取

DeepSeek助力Python文本分析：

1. 文本分析概述

目标：掌握文本分析的基本概念，文本分析的发展历程，文本分析流程和挑战

1) 文本数据与文本分析

2) 自然语言处理的流派

3) 文本分析的常见应用

4) 文本分析的层次

5) 文本分析的流程

6) 文本分析的挑战

2. 文本单元的提取与标注

目标：掌握文本常用清洗方法，分词原理和方法，词性标注方法

1) 文本数据的读取：csv, excel,word, pdf, txt

2) 文本数据的清洗

3) 分词

4) 词性标注

案例：
案例1：年报数据的读取；
案例2：评论数据分词和词云图绘制；
案例3：新闻词性标注

3. 文本特征的选取与表示

目标：掌握文本的常用结构化表示方法，利用多种方法实现文本特征提取，理解每种特征提取的优缺点

1) 词袋模型

2) TF-IDF

3) Word2Vec

4) GloVe

5) Doc2vec

6) FastText

7) BERT深度学习方法

案例：
案例1：基于word2vec的西游记人物相似性分析；
案例2：基于维基百科的glove模型特征提取

4. 关键词提取

目标：掌握三种关键词提取方法

1) 基于统计的方法：TF-IDF

2) 基于图算法的方法：TextRank，RAKE

3) YAKE

4) LDA

案例：
案例1：新闻语料关键词提取；
案例2：LDA关键词提取和可视化

5. 文本分析的常见应用

目标：掌握文本分析的常见应用，和传统的机器学习方法结合，实现文本的分类，聚类，摘要提取，情感分析等功能

1) 文字云

2) 文本分类

3) 文本聚类

4) 文本摘要

5) 情感分析

案例：
案例1：评论数据词云图的绘制；
案例2：基于贝叶斯的新闻分类；
案例3：爬取豆瓣评论并构建分类器；
案例4：百科数据聚类；
案例5：豆瓣读书数据聚类

6. 基于深度学习的文本分析技术

目标：掌握最新的深度学习在文本分析中的应用，包括RNN，LSTM,CNN，注意力，Transformer等模型和机制的引入

1) RNN

2) LSTM

3) textCNN

4) GRU

5) 注意力机制

6) BERT和Transformer

案例：

案例1：基于DNN的评论分类；

案例2：基于RNN的评论分类；

案例3：基于LSTM的文本分类；

案例4：基于Text-CNN的文本分类

7. 基于大模型的文本分析

目标：AI大模型辅助文本分析，高效提取文本价值

1) 利用大模型进行文本特征提取

2）利用嵌入特征进行文本分类

3）利用嵌入特征进行回归

4）利用嵌入特征文本相似性提取和推荐

5）利用嵌入特征进行零样本分类

6）利用嵌入特征进行聚类

7）少样本学习

8）结构化数据提取

9）内容摘要的提取

10）内容分类

11）情感分析

12）文本知识图谱构建

13）文本聊天机器人构建

14）基于微调大模型的文本分析

案例：
案例1：美食点评数据分析（基于通义千问的文本嵌入特征获取）；
案例2：点评数据的分类和回归；
案例3：基于deepseek的豆瓣文本情感分析；
案例4：基于deepseek的文本情感词提取；
案例5：基于deepseek的新闻文本分类；
案例6：基于deepseek的结构化信息提取；
案例7：基于deepseek的文本情感词提取；
案例8：deepseek聊天机器人构建；
案例9：中药文本知识图谱构建；

案例10：法律大模型微实践

【联系方式】

尹老师

电话：13321178792

QQ：42884447

WeChat：JGxueshu