自然语言处理动手学Bert文本分类

AI壹号堂长期从事深度学习、计算机视觉、自然语言处理研究

课程目录
课程介绍

课时1:动手学中文文本分类开篇
课时2:课堂实战试看1
课时3:课堂实战试看2
课时4:课堂实战试看3
课时5:课堂实战试看4
课时6:课堂实战试看5
课时7:自然语言处理简介
课时8:课程资料下载方式
课时9:文本分类简介
课时10:神经网络中的数据格式讲解
课时11:本文分类模型综述
课时12:RNN理论及相关变体讲解
课时13:seq2seq理论讲解
课时14:seq2seq存在的问题
课时15:注意力机制理论讲解
课时16:注意力机制数学公式讲解
课时17:引出self-attention的两个问题
课时18:self-attention理论讲解.
课时19:self-attention数学理论讲解
课时20:Multi-head-self-attention理论讲解
课时21:Transformer理论讲解
课时22:Bert理论讲解及文本分类模型讲解
课时23:项目环境构建.及数据集简介
课时24:BruceBert配置类构建上
课时25:BruceBert配置类构建下
课时26:模型构建上
课时27:模型构建下
课时28:模型验证
课时29:bulid_dataset加载数据集讲解
课时30:数据预处理上
课时31:数据预处理下
课时32:数据预处理方法测试.
课时33:数据集迭代器上
课时34:数据集迭代器下
课时35:数据迭代器测试
课时36:参数衰减分析
课时37:训练步骤详细讲解
课时38:模型训练详细讲解
课时39:模型训练部分代码完成
课时40:模型评估方法详细讲解
课时41:模型测试方法详细讲解
课时42:模型整体debug上
课时43:模型整体debug中
课时44:模型整体debug下
课时45:GPU下完整训练第一个Epoch
课时46:GPU下完整训练第二个Epoch
课时47:GPU下完整训练第三个Epoch
课时48:GPU下完整训练后模型测试
课时49:GPU下使用Bert非fine-tuning过程
课时50:CNN整体流程讲解
课时51:CNN中的卷积详细讲解
课时52:CNN中的Pooling讲解
课时53:TextCNN中的文本卷积与N-gram关系
课时54:TextCNN原理详细讲解
课时55:TextCNN与CNN区别于联系
课时56:Bert+TextCNN配置类上
课时57:Bert+TextCNN配置类下
课时58:Bert+TextCNN配置类验证
课时59:Bert+TextCNN模型类init方法讲解
课时60:Bert+TextCNN模型forword方法上
课时61:Bert+TextCNN模型forword方法下
课时62:数据加载优化
课时63:卷积后的维度分析讲解
课时64:模型构建完成
课时65:模型训练与预测
课时66:RNN详解
课时67:LSTM详解
课时68:Config类实现及校验
课时69:BruceBertRNN类init函数实现
课时70:BruceBertRNN类forward函数实现
课时71:模型对比与结果分析
课时72:RCNN理论讲解
课时73:Config类实现及校验
课时74:BruceBertRCNN类init函数实现
课时75:BruceBertRCNN类forward函数实现
课时76:BruceBertRCNN训练过程完整演示
课时77:DPCNN理论讲解
课时78:Config类实现及校验
课时79:BruceBertDPCNN类init函数实现
课时80:BruceBertDPCNN类forward函数实现
课时81:BruceBertDPCNN类block函数实现
课时82:模型对比与结果分析
课时83:ERNIE模型理论讲解
课时84:基于ERNIE+FC文本分类实战演示
课时85:ERNIE+DPCNN文本分类实战演示

课程概述

Bert作为目前自然语言处理领域最流行的技术之一，文本分类作为自然语言处理领域最常见的任务之一，Pytorch作为目前最流程的深度学习框架之一，三者结合在一起将会产生什么样的花火，本套课程基于Pytorch最新1.4版本来实现利用Bert实现中文文本分类任务，延续动手学系列课程风格，全程手敲代码，跟着杨博一行一行代码撸起来。

自然语言处理动手学Bert文本分类

课时1:动手学中文文本分类开篇

课时2:课堂实战试看1

课时3:课堂实战试看2

课时4:课堂实战试看3

课时5:课堂实战试看4

课时6:课堂实战试看5

课时7:自然语言处理简介

课时8:课程资料下载方式

课时9:文本分类简介

课时10:神经网络中的数据格式讲解

课时11:本文分类模型综述

课时12:RNN理论及相关变体讲解

课时13:seq2seq理论讲解

课时14:seq2seq存在的问题

课时15:注意力机制理论讲解

课时16:注意力机制数学公式讲解

课时17:引出self-attention的两个问题

课时18:self-attention理论讲解.

课时19:self-attention数学理论讲解

课时20:Multi-head-self-attention理论讲解

课时21:Transformer理论讲解

课时22:Bert理论讲解及文本分类模型讲解

课时23:项目环境构建.及数据集简介

课时24:BruceBert配置类构建上

课时25:BruceBert配置类构建下

课时26:模型构建上

课时27:模型构建下

课时28:模型验证

课时29:bulid_dataset加载数据集讲解

课时30:数据预处理上

课时31:数据预处理下

课时32:数据预处理方法测试.

课时33:数据集迭代器上

课时34:数据集迭代器下

课时35:数据迭代器测试

课时36:参数衰减分析

课时37:训练步骤详细讲解

课时38:模型训练详细讲解

课时39:模型训练部分代码完成

课时40:模型评估方法详细讲解

课时41:模型测试方法详细讲解

课时42:模型整体debug上

课时43:模型整体debug中

课时44:模型整体debug下

课时45:GPU下完整训练第一个Epoch

课时46:GPU下完整训练第二个Epoch

课时47:GPU下完整训练第三个Epoch

课时48:GPU下完整训练后模型测试

课时49:GPU下使用Bert非fine-tuning过程

课时50:CNN整体流程讲解

课时51:CNN中的卷积详细讲解

课时52:CNN中的Pooling讲解

课时53:TextCNN中的文本卷积与N-gram关系

课时54:TextCNN原理详细讲解

课时55:TextCNN与CNN区别于联系

课时56:Bert+TextCNN配置类上

课时57:Bert+TextCNN配置类下

课时58:Bert+TextCNN配置类验证

课时59:Bert+TextCNN模型类init方法讲解

课时60:Bert+TextCNN模型forword方法上

课时61:Bert+TextCNN模型forword方法下

课时62:数据加载优化

课时63:卷积后的维度分析讲解

课时64:模型构建完成

课时65:模型训练与预测

课时66:RNN详解

课时67:LSTM详解

课时68:Config类实现及校验

课时69:BruceBertRNN类init函数实现

课时70:BruceBertRNN类forward函数实现

课时71:模型对比与结果分析

课时72:RCNN理论讲解

课时73:Config类实现及校验

课时74:BruceBertRCNN类init函数实现

课时75:BruceBertRCNN类forward函数实现

课时76:BruceBertRCNN训练过程完整演示

课时77:DPCNN理论讲解

课时78:Config类实现及校验

课时79:BruceBertDPCNN类init函数实现