1718|5

5858

帖子

2

TA的资源

版主

轻松看懂机器学习十大常用算法(第一节) [复制链接]

通过本篇文章可以对ML的常用算法有个常识性的认识,没有代码,没有复杂的理论推导,就是图解一下,知道这些算法是什么,它们是怎么应用的,例子主要是分类问题。

今天的算法如下:

1.决策树
2.随机森林算法
3.逻辑回归

 

1. 决策树

根据一些 feature 进行分类,每个节点提一个问题,通过判断,将数据分为两类,再继续提问。这些问题是根据已有数据学习出来的,再投入新数据的时候,就可以根据这棵树上的问题,将数据划分到合适的叶子上。

01.png

2. 随机森林

在源数据中随机选取数据,组成几个子集

02.png

 

S 矩阵是源数据,有 1-N 条数据,A B C 是feature,最后一列C是类别

03.png

 

由 S 随机生成 M 个子矩阵

04.png

 

 

这 M 个子集得到 M 个决策树
将新数据投入到这 M 个树中,得到 M 个分类结果,计数看预测成哪一类的数目最多,就将此类别作为最后的预测结果

05.png

 

 

3. 逻辑回归

当预测目标是概率这样的,值域需要满足大于等于0,小于等于1的,这个时候单纯的线性模型是做不到的,因为在定义域不在某个范围之内时,值域也超出了规定区间。

06.png

 

所以此时需要这样的形状的模型会比较好

07.png

 

那么怎么得到这样的模型呢?

这个模型需要满足两个条件 大于等于0,小于等于1
大于等于0 的模型可以选择 绝对值,平方值,这里用 指数函数,一定大于0
小于等于1 用除法,分子是自己,分母是自身加上1,那一定是小于1的了

08.png

 

再做一下变形,就得到了 logistic regression 模型

09.png

 

通过源数据计算可以得到相应的系数了

10.png

 

最后得到 logistic 的图形

11.png

 

 

最新回复

好的,仙哥,先端个小板凳。。。。。。   详情 回复 发表于 2024-5-23 12:27

回复
举报

3

帖子

0

TA的资源

一粒金砂(中级)

很好


回复

556

帖子

1

TA的资源

纯净的硅(中级)

先向仙哥致敬!

有不少疑惑,和仙哥讨教。

个人理解ML的过程是:先准备数据(数据预处理),然后选择模型(也就是这里的算法),称作即得模型(就是已经存在的,已经得到的模型),然后模型通过这个准备好的数据进行训练,其中留下小部分数据来让训练过的模型预测,验证模型训练的过程是否成功(这涉及评价指标),成功就固化这个模型,不成功继续训练或者微调直至成功,这时候模型就可以放出去用了。【不知道这个过程的理解对不对】

 

然后,如果采取决策树,那么上面过程中的模型就是决策树了,决策树如何设置节点啥的,这个DT是怎么起作用的?能细致讲解它的Step By Step吗?

【抛砖引玉呀】

点评

【决策树如何设置节点啥的】这个估计就需要实操了,用代码来讲,等我先学习学习~  详情 回复 发表于 2024-5-22 18:13

回复

556

帖子

1

TA的资源

纯净的硅(中级)

仙哥:百度了一把,原来DT是这样,

决策树(Decision Tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。在机器学习中,决策树是一个预测模型,他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度,使用算法ID3C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中的概念。

决策树是一种树形结构,其中每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。

分类树(决策树)是一种十分常用的分类方法。它是一种监督学习,所谓监督学习就是给定一堆样本,每个样本都有一组属性和一个类别,这些类别是事先确定的,那么通过学习得到一个分类器,这个分类器能够对新出现的对象给出正确的分类。这样的机器学习就被称之为监督学习。


回复

5858

帖子

2

TA的资源

版主

hellokitty_bean 发表于 2024-5-22 14:09 先向仙哥致敬! 有不少疑惑,和仙哥讨教。 个人理解ML的过程是:先准备数据(数据预处理),然后选择 ...

【决策树如何设置节点啥的】这个估计就需要实操了,用代码来讲,等我先学习学习~

点评

好的,仙哥,先端个小板凳。。。。。。  详情 回复 发表于 2024-5-23 12:27

回复

556

帖子

1

TA的资源

纯净的硅(中级)

wangerxian 发表于 2024-5-22 18:13 【决策树如何设置节点啥的】这个估计就需要实操了,用代码来讲,等我先学习学习~

好的,仙哥,先端个小板凳。。。。。。


回复
您需要登录后才可以回帖 登录 | 注册

猜你喜欢
随便看看
查找数据手册?

EEWorld Datasheet 技术支持

相关文章 更多>>
关闭
站长推荐上一条 1/10 下一条

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 国产芯 安防电子 汽车电子 手机便携 工业控制 家用电子 医疗电子 测试测量 网络通信 物联网

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved
快速回复 返回顶部 返回列表