1. 全部課程
          2. 

        

    
        
        
        
            
    
    

    

    
    
        
        
        
    

    
    
        
    

    

    
        
        
    
        
    
        
        
        
            
        
                
                課程名稱：自然語言處理預訓練技術培訓            
        
            
        
                4401
                人關注
                
                
                
            
        
        
        
        
        
            
        
            
            
        
                
                
                    
                    
        
                    
                
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                    
        
                
                （78637/99817）
            
        
            
            
            

            
                
        
                
                
        
            
        
        
        
        
        
    
        
    
        
        
          
            
            
            
            
        • 
            
        • 
            
        • 
        
        
        
        
            
            
        
                

    
    
    
    
        
    
        
        
            
        
    課程大綱：
        
    
    
        自然語言處理預訓練技術培訓
        
    
         
        
    
         
        
    
        預訓練模型目前在自然語言處理領域得以廣泛應用，
        
    
        課程將圍繞 BERT，GPT-2，XLNet 等前沿的預訓練模型技術，
        
    
        使用基于 PyTorch 開發(fā)的 PyTorch-Transformers 預訓練模型庫進行實踐。
        
    
        
    
        1  BERT 預訓練模型
        
    
         2  XLNet 預訓練模型
        
    
        3   文本生成任務
        
    
         4  GPT-2 預訓練模型
        
    
         5  文本分類任務
        
    
         6  序列標注任務
        
    
        1
        
      BERT 預訓練模型及文本分類
        
    
        1.語言模型和詞向量 
        
    
        2.BERT結構詳解 
        
    
        3.BERT文本分類
        
    
         1
        
      Kaggle 電影評論情感分析
        
    
         1.預訓練模型使用
        
    
         2.Kaggle平臺使用
        
    
         2
        
      GPT-2 預訓練模型及文本生成
        
    
        1.GPT2的核心思想 
        
    
        2.GPT2模型結構詳解 
        
    
        3.GPT2進行文本生成
        
    
         2
        
      Kaggle 各國食譜分類比賽
        
    
        1.預訓練模型使用 2.Kaggle平臺使用
        
    
         3
        
      XLNet 預訓練模型及命名實體識別
        
    
        
    
         1.XLNet在BERT和GPT2上的改進
        
    
         2.XLNet模型結構 
        
    
        3.使用XLNet進行命名實體識別實驗
        
    
        3
        
      Quora 文本相似度分析比賽
        
    
        1.文本相似度問題轉換 
        
    
        2.預訓練模型使用 
        
    
        3.Kaggle平臺使用
        
    

        
    
        
    
         
        

        

    
    
    
    
        
    
        
        
            
        
    
        

        
  
  
  
  
  
  

        

        

        
            
        
                
        
                    
        
                        
                            
        
                                請
                                 登錄 
                                后發(fā)表評論
                            
        
                        
                    
        
                    
        新評論
        
                    
        
                    
        
                    
        
                
        
            
        
            
        
				全部
				
				第1節(jié)
				
				第2節(jié)
				
				第3節(jié)
				
				第4節(jié)
				
				第5節(jié)
				
				第6節(jié)
				
				第7節(jié)
				
				第8節(jié)
				
				第9節(jié)
				
				第10節(jié)
				
				第11節(jié)
				
				第12節(jié)
				
				第13節(jié)
				
				第14節(jié)
				
				第15節(jié)
				
				第16節(jié)
				
				第17節(jié)
				
                
        
                    我的報告 / 所有報告