关于lasso回归的代码问题

大忽悠喵 · 发表于 2019-10-15 19:59:12

您需要登录才可以下载或查看，没有账号？立即注册

x

最近在学习线性回归，学到llasso回归，有个问题就是lasso回归的惩罚项 λ||w||，这个1范数在梯度下降的时候应该怎么求导（感觉求不了导），看了很多资料都不明白，有没有大佬知道lasso代码的实现过程？

sklearn包里有lasso的方法 from sklearn.linear_model import Lasso，但是我在安装目录python\Lib\site-packages\sklearn\linear_model里面又没有找到lasso的源代码

zltzlt · 发表于 2019-10-15 20:00:02

代码被封装了

塔利班 · 发表于 2019-10-15 20:08:13

正则部分是λ倍w每个参数的绝对值和，对每个参数分别求导就是每个参数的符号函数

大忽悠喵 · 发表于 2019-10-15 21:58:34

塔利班发表于 2019-10-15 20:08
正则部分是λ倍w每个参数的绝对值和，对每个参数分别求导就是每个参数的符号函数

绝对值函数不是连续可导的，用求导貌似不行，这个方法我试过了，在程序中求导用正负1来算，但是结果明显不对

账号		自动登录	找回密码
密码			立即注册