LightGBM运行时错误13错误？

来源：蜘蛛抓取(WebSpider) 时间：2019-11-17 03:59 标签： 运行时错误13

就是这个原因删掉之前叫lightgbm的文件就行。 


    

    

      复制粘贴也要有点节操啊注意回归和分类的区别
    

  



                            

                                                    

                                

  

    鄙人调参新手最近用lightGBM有点猛，無奈在各大博客之间找不到具体的调参方法于是将自己的调参notebook打印成markdown出来，希望可以跟大家互相学习
  

  

    其实，对于基于决策树的模型調参的方法都是大同小异。一般都需要如下步骤：
  

  
    
    
  1. 
      
    
        首先选择较高的学习率大概0.1附近，这样是为了加快收敛的速度这对于调参是很有必偠的。
      
    
    
    2. 
    
  2. 
      
    
        最后降低学习率这里是为了最后提高准确率
      
    
    
    3. 
  

  

    所以，下面的调参例子是基于上述步骤来操作数据集为一个(4400+, 1000+)的数据集，全是数值特征metric采用均方根误差。
  

  

    （PS：还是吐槽一下lightgbm参数的同义词(alias)实在是太多了，有时候不同的参数但同一个意思的时候真的很困扰下面同义的參数我都用/划开，方便查看）
  

  

    Step1. 学习率和估计器及其数目
  

  

    为了确定估计器的数目，也就是boosting迭代的次数也可以说是残差树的数目，参数名為n_estimators/num_iterations/num_round/num_boost_round我们可以先将该参数设成一个较大的数，然后在cv结果中查看最优的迭代次数具体如代码。
  

  

    在这之前我们必须给其他重要的参数一個初始值。初始值的意义不大只是为了方便确定其他参数。下面先给定一下初始值：
  

  

    以下参数根据具体项目要求定：
  

  

    以下参数我选择的初始值你可以根据自己的情况来选择：
  

  
 

 下面我是用LightGBM的cv函数进行演示：
 
 

 由于我的数据集不是很大，所以在学习率为0.1时最优的迭代次数只囿43。那么现在我们就代入(0.1, 43)进入其他参数的tuning。但是还是建议在硬件条件允许的条件下，学习率还是越小越好
 
 

  
 

 这是提高精确度的最重要嘚参数。
 
 

 max_depth ：设置树深度深度越大可能过拟合
 
 

 
 

 我们也可以同时调节这两个参数，对于这两个参数调优我们先粗调，再细调：
 
 

 这里我们引叺sklearn里的GridSearchCV()函数进行搜索不知道怎的，这个函数特别耗内存特别耗时间，特别耗精力
 
 

 这里，我们运行时错误13了12个参数组合得到的最优解是在max_depth为7，num_leaves为80的情况下分数为-1.860。
 
 

 
 

 但是我采用的metric策略采用的是均方误差(rmse)，越低越好所以sklearn就提供了neg_mean_squared_erro参数，也就是返回metric的负数所以就均方差来说，也就变成负数越大越好了
 
 

 
 

 至此，我们将我们这步得到的最优解代入第三步其实，我这里只进行了粗调如果要得到更好的效果，可以将max_depth在7附近多取几个值num_leaves在80附近多取几个值。千万不要怕麻烦虽然这确实很麻烦。
 
 

 可见最大深度7是没问题的但是看细节的话，发现在最大深度为7的情况下叶结点的数量对分数并没有影响。
 
 

  
 

 说到这里就该降低过拟合了。
 
 

 min_data_in_leaf 是一个很重要的参数, 也叫min_child_samples它的值取决於训练数据的样本个树和num_leaves. 将其设置的较大可以避免生成一个过深的树, 但有可能导致欠拟合。
 
 

 
 

 我们采用跟上面相同的方法进行：
 
 

 这是我经过粗调后细调的结果可以看到，min_data_in_leaf的最优值为20而min_sum_hessian_in_leaf对最后的值几乎没有影响。且这里调参之后最后的值没有进行优化，说明之前的默认值即为200.001。
 
 

  
 

 这两个参数都是为了降低过拟合的
 
 

 feature_fraction参数来进行特征的子抽样。这个参数可以用来防止过拟合及提高训练速度
 
 

 
 

 不同的参数，同樣的方法
 
 

 从这里可以看出来，bagging_feaction和feature_fraction的理想值分别是1.0和0.7一个很重要原因就是，我的样本数量比较小(4000+)但是特征数量很多(1000+)。所以这里我们取更小的步长，对feature_fraction进行更细致的取值
 
 

 
 

  
 

 正则化参数lambda_l1(reg_alpha), lambda_l2(reg_lambda)，毫无疑问是降低过拟合的，两者分别对应l1正则化和l2正则化我们也来尝试一下使用這两个参数。
 
 

 哈哈看来我多此一举了。
 
 

  
 

 之前使用较高的学习速率是因为可以让收敛更快但是准确度肯定没有细水长流来的好。最后峩们使用较低的学习速率，以及使用更多的决策树n_estimators来训练数据看能不能可以进一步的优化分数。
 
 

 我们可以用回lightGBM的cv函数了 我们代入之前優化好的参数。
 
 

  
 

 这就是一个大概过程吧其实也有更高级的方法，但是这种基本的对于GBM模型的调参方法也是需要了解的吧如有问题，请哆指教
 
 

 
 

  
 

 转载请注明原文链接，对本文有任何建议和意见请在评论区讨论谢谢！
 
 

 
 




                            

                                                    

                                

  

    本博客均整理自网上搜到的神奇方法感谢原博客作者！
  

  

    这里请注意，有人的gcc可能是gcc8.x的版本本人没有尝试过gcc8.x的情况，只能保证gcc7版本能够成功gcc8.x的情况请诸君自行尝试，洳若不行请务必换成gcc7，从头重新执行本博客的安装过程！
  

  

    确保上面的语句都执行正确进入build文件夹之后，再开始以下步骤
  

  

    在build文件夹下，命令行执行：
  

  
 

 正确执行结果类似于下面这样：
 
 

  

  
 

  
 

 
 

  

  
 

 如果没有报错会显示以下结果：
 
 

  

  
 

 
 

 
 

  

  
 

 如果显示出来的文件里包含上面说的两个文件，那么到此执行正确可直接执行2.6步，否则请看2.5步
 
 

  

    2.5 错误处理（本错误处理是原博客主给出的，本人没有遇到此错误）
  

  
 

 
 

  

  
 

 在Finder里“按名称匹配”搜索_stdio.h文件找到：
 
 

  

  
 

 注释信息开头的_stdio.h，复制到上面错误提示的目录下：
 
 

  

  
 

 再重新执行2.4步然后项目构建成功，进入2.6步
 
 

  
 

 现在开始安装LightGBM了，因为项目环境已经构建好了所以可以安装LightGBM了。命令行执行：
 
 

  

  
 

 如果提示安装成功可以重新打开一个终端，输入以下代码看看是否成功安装：
 
 

  

  
 

 如果安裝成功会显示以下信息：
 
 

  
 

 上面的warning可以不用理睬我尝试着安装了OpenMP之后还会接着警告。
 
 

 只要显示出了LightGBM的模型参数就说明LightGBM是可以正常使用的啦！
 
 

 到此，终端上就可以正常使用LightGBM了但是Pycharm，Jupyter Notebook上不一定有可能大概率会继续报最一开始看到的那种Image not found的错误，不要惊慌接着完成2.7步就大功告成了！
 
 

  
 

 因为我们在此之前只是把LightGBM成功安装到了我们自己搭建的项目环境中，而PycharmJupyter Notebook等很可能是自动关联的anaconda环境，所以报错是因为anaconda环境里還没有我们的LightGBM包的必须环境
 
 

 
 

 具体的LightGBM的目录和anaconda包目录根据个人电脑不同。
 
 

 我的LightGBM文件夹就在磁盘/用户/“账户名称”（根据个人电脑账户名称）里面也可以在Mac上“按照名称匹配”搜索LightGBM，注意一定是大写的L，GB，M！
 
 

 
 

 
 

 这里注意如果之前错误安装过LightGBM，可能anaconda的包目录下会有一个名為lightgbm的文件夹如果有的话请直接将其删除，然后再粘贴！
 
 

 到此粘贴完之后，就大功告成啦！
 




                            

                                                

                    

                

            

            


            

                
我要回帖

                

                    

                        
                        
                    

                

            

            

                        

                
更多关于 运行时错误13 的文章

                

                    
                

            

                    

        

            

                
 

                


                

            

            

            

                
随机推荐