《Deep Learning Series》
  • 深耕系列之深度学习笔记
  • 第一章 Linux学习环境相关配置
    • 1.1 Ubuntu18下有道词典的配置
    • 1.2 Ubuntu18 安装Gitbook
    • 1.3 Ubuntu18 git命令使用总结
    • 1.4 Latex 排版使用笔记
    • 1.5 Ubuntu下常用工具软件配置安装
    • 1.6 win10+ubuntu双系统修复ubuntu启动引导
    • 1.7 gitbook 插件等相关设置
    • 1.8 深度学习环境搭建
    • 1.9 hexo 实现本地图片加载
    • 1.10 hexo网页定制
    • 1.11 sublime text3插件介绍
    • 1.12 vsftpd.conf文件配置
    • 1.13 mysql 笔记
    • 1.14 ubuntu16_18安装peek工具录制gif
    • 1.15 ubuntu下goldendict有道爬虫小程序
    • 1.16 ubuntu18升级后部分应用不能中文输入的问题
    • 1.17 ubuntu下安装有道词典
    • 1.18 opencv 安装
    • 1.19 gym_gazabe安装配置
    • 1.20 docker 基础
    • 1.21 docker_配置权限问题
    • 1.22 jupyternotebook使用
  • 第二章 深度学习相关基础算法
    • 2.1 马尔科夫链
      • 2.1.1 马尔科夫简单模型预测实战笔记
      • 2.1.2 最大熵模型
      • 2.1.3 隐马尔科夫HMM
    • 2.2 矩阵相关基础知识
    • 2.3 线性回归
    • 2.4 决策树
    • 2.5 梯度下降和最小二乘法
    • 2.6 递归算法与迭代算法
    • 2.7 神经网络浅学笔记
    • 2.8 强化学习经验回放
    • 2.9 K近邻算法
    • 2.10 朴素贝叶斯法
    • 2.11 极大似然估计
    • 2.12 logistic regression
  • 第三章 深度学习框架学习
    • 3.1 PyTorch 学习
      • 3.1.2 Pytorch 之MNIST手写字识别分类
    • 3.2 tensorflow学习笔记
      • 3.2.1 tensorflow之MNIST
    • 3.3 matplotlib函数
    • 3.4 numpy函数
  • 第四章 ROS机器人
    • ROS室内仿真环境.md
    • ros and gazebo and gym_gazebo安装
    • ubuntu16 安装gym-gazebo
    • gym-gazebo安装后的测试
    • 基于DQN的gym_gazebo运行代码演示
  • 项目开发
    • Library占座小工具使用手册
  • 附录
    • Python 相关笔记
      • Python 帮助文档检索方法
      • Module篇使用future
    • Git 相关配置
      • git-推送新的文章到github其他分支上
      • gitignre 配置
      • gitignre 配置
      • Hexo 每次写好后deploy博客
      • MFC Socket 通信
      • python之tkinter入坑Pack
      • ubuntu 中安装sublime_text3
      • ubuntu18-正确-安装ShadowSocket
      • vultr+freenom实现主机域名的绑定.md
      • 值得收藏的网站
      • 搜索技巧
      • 第一篇博文
      • 简单的方法,越过付费获取在线的log设计.md
      • 网页设计基础笔记.md
      • 解决Chrome67版本以后不能离线安装插件的情况.md
    • 嵌入式相关笔记
      • STM32串口通信配置
      • STM32复位及通过函数判断是何种条件出发的复位
Powered by GitBook
On this page
  • 摘要
  • 一、组成
  • 二、 决策树的作用
  • 三、实例理解
  • 3.1 案例一
  • 3.2 实例学习2

Was this helpful?

  1. 第二章 深度学习相关基础算法

2.4 决策树

Previous2.3 线性回归Next2.5 梯度下降和最小二乘法

Last updated 5 years ago

Was this helpful?

摘要

决策树是在已知各种情况发生的概率的基础上,通过决策树来求取净现值的期望值大于或等于零的概率,从而评价项目风险,判断其可能性的决策分析方法,是直观的运用概率分析的一种图解方法。由于决策树画成的图像就像一棵树的树干,故称决策树。在机器学习中决策树是一种预测模型,他表示对象属性和对象之间的一种映射关系。决策树是一种判断其可行性的决策分析的方法,也是一种能够直观运用概率分析的一种图解法。

决策树是一种树形结构,其中每个内部节点表示一个属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。

分类树(决策树)是一种十分常用的分类方法。他是一种监管学习,所谓监管学习就是给定一堆样本,每个样本都有一组属性和一个类别,这些类别是事先确定的,那么通过学习得到一个分类器,这个分类器能够对新出现的对象给出正确的分类。这样的机器学习就被称之为监督学习。

一、组成

决策树是一种树形的结构图,在计算机预测模型中,其中每个内部节点代表一个属性上的测试,每个分支代表一个测试输出(可能的属性值),每个叶节点代表一种类别。他由分支来对该类型的对象依靠属性进行分类。当不能在进行分割或一个单独的类可以被应用于某一分支时,递归过程就完成了。

A、先画一个方框作为出发点,又称决策节点;

B、从出发点向右引出若干条直线,这些直线叫做方案枝;

C、在每个方案枝的末端画一个圆圈,这个圆圈称为概率分叉点,或自然状态点;

D、从自然状态点引出代表各自然状态的分枝,称为概率分枝;

E、如果问题只需要一级决策,则概率分枝末端画三角形,表示终点 。

二、 决策树的作用

  • 尽可能最大化地规避项目风险。

  • 能够直观地通过图示的方式传达信息背后的价值。

  • 显示出项目所有可供选择的行动方案,行动方案之间的关系,行动方案的后果以及发生的概率,甚至是每种方案的损益期望值。

三、实例理解

还是纯粹的理论有点不好理解,接下来进行实例,来进一步了解决策树算法。

3.1 案例一

为了适应市场的需要,某地准备扩大电视机生产。市场预测表明:产品销路好的概率为0.7;销路差的概率为0.3。

[ ] 备选方案有三个:第一个方案是建设大工厂,需要投资600万元,可使用10年;如销路好,每年可赢利200万元;如销路不好,每年会亏损40万元。

[ ] 第二个方案是建设小工厂,需投资280万元;如销路好,每年可赢利80万元;如销路不好,每年也会赢利60万元。

[ ] 第三个方案也是先建设小工厂,但是如销路好,3年后扩建,扩建需投资400万元,可使用7年,扩建后每年会赢利190万元。

根据如上绘制决策树如下图所示:

各点期望:

点②:0.7×200×10+0.3×(-40)×10-600(投资)=680(万元)

点⑤:1.0×190×7-400=930(万元)

点⑥:1.0×80×7=560(万元)

比较决策点4的情况可以看到,由于点⑤(930万元)与点⑥(560万元)相比,点⑤的期望利润值较大,因此应采用扩建的方案,而舍弃不扩建的方案。把点⑤的930万元移到点4来,可计算出点③的期望利润值。

点③:0.7×80×3+0.7×930+0.3×60×(3+7)-280 = 719(万元)

最后比较决策点1的情况。由于点③(719万元)与点②(680万元)相比,点③的期望利润值较大,因此取点③而舍点②。这样,相比之下,建设大工厂的方案不是最优方案,合理的策略应采用前3年建小工厂,如销路好,后7年进行扩建的方案。

3.2 实例学习2

假设有一项工程,施工管理人员需要决定下月是否开工。如果开工后天气好,则可为国家创收4万元,若开工后天气坏,将给国家造成损失1万元,不开工则损失1000元。根据过去的统计资料,下月天气好的概率是0.3,天气坏的概率是0.7。请做出决策。现采用决策树方法进行决策。

解:

  • 第一步:将题意表格化

自然状态

概率

行动方案

行动方案

开工

不开工

天气好

0.3

40000

-1000

天气坏

0.7

-10000

-1000

  • 第二步:画决策树形,根据第一步所列的表格,在绘制决策树,如下图:

  • 第三步:计算期望值

一般按反向的时间程序逐步计算,将各方案的几种可能结果的数值和它们各自的概率相乘,并汇总所得之和,其和就是该方案的期望值。

  • 第四步:确定决策方案

在比较方案考虑的是收益值时,则取最大期望值;若考虑的是损失时,则取最小期望值。 根据计算出的期望值分析,本题采取开工方案较好。

参考自百度百科:

具体的决策树绘制方法与很多,下面给一个国内的强大绘图软件:。

第一个例子是。

决策树
亿方图软件绘制决策树的方法
引用百科的
更多的可以参考这个PPT
决策树
决策树的组成
决策树的组成
案例一的决策树
决策树形