博客
关于我
Matlab 数学建模 方法(四): 机器学习
阅读量:643 次
发布时间:2019-03-14

本文共 2909 字,大约阅读时间需要 9 分钟。

1. MATLAB机器学习概况

机器学习 ( Machine Learning ) 是一门多领域交叉学科,它涉及到概率论、统计学、计算机科学以及软件工程。

机器学习是指一套工具或方法,凭借这套工具和方法,利用历史数据对机器进行“训练”进而“学习”到某种模式或规律,并建立预测未来结果的模型。

机器学习涉及两类学习方法(如图1):

有监督学习,主要用于决策支持,它利用有标识的历史数据进行训练,以实现对新数据的标识的预测。有监督学习方法主要包括分类和回归;

无监督学习,主要用于知识发现,它在历史数据中发现隐藏的模式或内在结构。无监督学习方法主要包括聚类。

                                     图1 机器学习方法

MATLAB 统计与机器学习工具箱(Statistics and Machine Learning Toolbox)支持大量的分类模型、回归模型和聚类的模型,并提供专门应用程序(APP),以图形化的方式实现模型的训练、验证,以及模型之间的比较。 

  • 分类

分类技术预测的数据对象是离散值。例如,电子邮件是否为垃圾邮件,肿瘤是癌性还是良性等等。 分类模型将输入数据分类。 典型应用包括医学成像,信用评分等。MATLAB 提供的分类算法包括:

                                   图2 分类算法家族

  • 回归

回归技术预测的数据对象是连续值。 例如,温度变化或功率需求波动。 典型应用包括电力负荷预测和算法交易等。回归模型包括一元回归和多元回归,线性回归和非线性回归,MATLAB 提供的回归算法有:

                                  图3 回归算法家族

  • 聚类

聚类算法用于在数据中寻找隐藏的模式或分组。聚类算法构成分组或类,类中的数据具有更高的相似度。聚类建模的相似度衡量可以通过欧几里得距离、概率距离或其他指标进行定义。MATLAB 支持的聚类算法有:

                                 图4 聚类算法家族

以下将通过一些示例演示如何使用 MATLAB 提供的机器学习相关算法进行数据的分类、回归和聚类。

2. 分类技术

  • 支持向量机(SVM)

SVM 在小样本、非线性及高维数据分类中具有很强的优势。在 MATLAB 中,可以利用 SVM 解决二分类问题。同时也可以使用 SVM 进行数据的多分类划分。

1) 二分类

以下示例显示了利用 MATLAB 提供的支持向量机模型进行二分类,并在图中画出了支持向量的分布情况(图5中圆圈内的点表示支持向量)。MATLAB 支持 SVM 的核函数(KernelFunction 参数)有:线性核函数(Linear),多项式核函数(Polynomial)、高斯核函数(Gaussian)。

%%支持向量机模型load fisheriris;%fisheriris数据加载到工作区,fisheriris为自带数据集,species包括'versicolor'、'virginica'和'setosa'%下面数据只取两个分类:'versicolor'和'virginica'inds =~strcmp(species,'setosa');%strcmp比较两个字符串,相等返1,不等返0,此处~代表非,不等于setosa的行取1,否则取0%使用两个维度X=meas(inds,3:4);%meas矩阵保留3:4列,保留inds为1的行y=species(inds);%species向量保留inds为1的行tabulate(y)%显示y中数据的频率表%%SVM模型训练,'KernelFunction'-'linear'值对,使用内核函数线性核函数SVMModel=fitcsvm(X,y,'KernelFunction','linear');%%查看进行数据划分的支持向量sv=SVMModel.SupportVectors;%支持向量:离最优分类平面最近的离散点,也可以称为向量gscatter(X(:,1),X(:,2),y)%gscatter按组分散图,创建X(:,1)和X(:,1)的散点图,按y分组。hold onplot(sv(:,1),sv(:,2),'ko','MarkerSize',10)legend('versicolor','virginica','Support Vector')hold off

                                    图5 频率表 

 

                               图 6 分类结果 

2) 多分类

MATLAB 多分类问题的处理是基于二分类模型。下面的示例演示如何利用 SVM 的二分类模型并结合 fitcecoc 函数解决多分类问题。

%导入fisheriris数据集load fisheririsX=meas;Y=species;tabulate(Y)%创建SVM模型(二分类模型),并对分类变量进行标准化处理%predictorst=templateSVM('Standardize',1);%基于SVM二分类模型进行训练并生成多分类模型Mdl=fitcecoc(X,Y,'Learners',t,'ClassNames',{'setosa','versicolor','virginica'})%Mdl是一个ClassificationECOC分类器

 

 

3. 回归

回归模型描述了响应(输出)变量与一个或多个预测变量(输入)变量之间的关系。 MATLAB 支持线性,广义线性和非线性回归模型。以下示例演示如何训练逻辑回归模型。

  • 逻辑回归

在 MATLAB 中,逻辑回归属于广义线性回归的范畴,可以通过使用 fitglm 函数实现逻辑回归型的训练。

%判定不同体重、年龄和性别的人吸烟概率load hospitaldsa = hospital;%指定模型使用的计算公式%公式的书写方式符合Wilkinson Notationmodelspec = 'Smoker ~ 1+ Age + Weight + Sex + Age:Weight + Age:Sex + Weight:Sex';%通过参数'Distribution'指定'binomial'构建逻辑回归模型mdl = fitglm(dsa, modelspec, 'Distribution', 'binomial')

4. 聚类

聚类是将数据集分成组或类。 形成类,使得同一类中的数据非常相似,而不同类中的数据差异非常明显。

%数据导入load fisheririseucD=pdist(meas,'euclidean');%pdist按欧几里得方法计算meas内成对距离,类内距离的计算方法:'euclidean'%MATLAB中层次聚类是通过linkage函数实现%类间距离的计算方法:'ward',最小化两个类内点之间聚类平方和Z=linkage(eucD,'ward');%使用cophenetic相关系数评价聚类计算计算过程(类内距离最小,类间距离最大)%值越大表明距离计算结果越好cophenet(Z,eucD)%生成4个类别的聚类结果c=cluster(Z,'maxclust',1);%查看层次聚类树dendrogram(Z)

                 图 11 cophenetic 相关系数 

                图12 层次聚类树

  • 层次聚类

下面以层次聚类方法为例,演示如何利用 MATLAB 进行聚类分析。

 

 

 

 

 

 

转载地址:http://bkroz.baihongyu.com/

你可能感兴趣的文章
Mysql 语句操作索引SQL语句
查看>>
MySQL 误操作后数据恢复(update,delete忘加where条件)
查看>>
MySQL 调优/优化的 101 个建议!
查看>>
mysql 转义字符用法_MySql 转义字符的使用说明
查看>>
mysql 输入密码秒退
查看>>
mysql 递归查找父节点_MySQL递归查询树状表的子节点、父节点具体实现
查看>>
mysql 通过查看mysql 配置参数、状态来优化你的mysql
查看>>
mysql 里对root及普通用户赋权及更改密码的一些命令
查看>>
Mysql 重置自增列的开始序号
查看>>
mysql 锁机制 mvcc_Mysql性能优化-事务、锁和MVCC
查看>>
MySQL 错误
查看>>
mysql 随机数 rand使用
查看>>
MySQL 面试题汇总
查看>>
MySQL 面试,必须掌握的 8 大核心点
查看>>
MySQL 高可用性之keepalived+mysql双主
查看>>
MySQL 高性能优化规范建议
查看>>
mysql 默认事务隔离级别下锁分析
查看>>
Mysql--逻辑架构
查看>>
MySql-2019-4-21-复习
查看>>
mysql-5.6.17-win32免安装版配置
查看>>