机器学习概述
外观
![]() |
机器学习与数据挖掘 |
---|
![]() |
以下是机器学习的概述和主题指南:
机器学习是计算机科学中人工智能的一个子领域,它使计算机系统能够从数据中学习并改进功能及性能,而无需显式编程。它源于对模式识别和计算学习理论的研究。[1] 1959年,亚瑟·李·塞谬尔将机器学习定义为“一门使计算机无需显式编程即可学习的学科”。[2] 机器学习涉及对能够从数据中学习并进行预测的算法的研究与构建。[3] 这些算法通过从一组示例观察数据(即训练集)构建一个数学模型,来进行数据驱动的预测或决策,而非严格遵循静态程序指令。
机器学习是当代人工智能的基础及核心驱动,推动着从搜索引擎、推荐系统到自动驾驶、医疗诊断等众多领域的革命性进展。
机器学习如何分类?
[编辑]- 一门学术学科
- 科学的一个分支
- 应用科学
- 计算机科学的一个子领域
- 人工智能的一个分支
- 软计算的一个子领域
- 统计学的应用
- 计算机科学的一个子领域
- 应用科学
机器学习的范式
[编辑]机器学习的应用
[编辑]机器学习硬件
[编辑]机器学习工具
[编辑]- 深度学习软件比较
机器学习框架
[编辑]专有机器学习框架
[编辑]- 亚马逊机器学习
- 微软Azure机器学习工作室
- DistBelief(已被TensorFlow取代)
开源机器学习框架
[编辑]- Apache Singa
- Apache MXNet
- Caffe
- PyTorch
- mlpack
- TensorFlow
- Torch
- CNTK
- Accord.NET|Accord.Net
- Jax
- MLJ.jl – 用于 Julia 的机器学习框架
机器学习库
[编辑]机器学习算法
[编辑]- Almeida–Pineda 递归反向传播
- ALOPEX
- 反向传播
- 自举聚合
- CN2 算法
- 构建技能树
- Dehaene–Changeux 模型
- 扩散图
- 基于支配关系的粗糙集方法
- 动态时间规整
- 错误驱动学习
- 进化多模态优化
- 期望最大化算法
- 快速ICA
- 前向-后向算法
- GeneRec
- 遗传算法用于规则集生成
- 生长自组织映射
- 超基函数网络
- IDistance
- k-最近邻算法|‘'k’'-最近邻算法
- 核方法用于向量输出
- 核主成分分析
- Leabra
- Linde–Buzo–Gray算法
- 局部异常因子
- 逻辑学习机
- LogitBoost
- 流形对齐
- 马尔可夫链蒙特卡洛 (MCMC)
- 最小冗余特征选择
- 专家混合模型
- 多核学习
- 非负矩阵分解
- 在线机器学习
- 袋外误差
- 前额叶皮层基底核工作记忆
- PVLV
- Q学习
- 二次无约束二进制优化
- 查询级特征
- Quickprop
- 径向基函数网络
- 随机加权多数投票算法
- 强化学习
- 重复增量修剪以减少误差(RIPPER)
- Rprop
- 基于规则的机器学习
- 技能链
- 稀疏主成分分析
- 状态-动作-奖励-状态-动作
- 随机梯度下降
- 结构化kNN
- T分布随机邻域嵌入
- 时差学习
- 唤醒-睡眠算法
- 加权多数算法(机器学习)
机器学习方法
[编辑]实例基于算法
[编辑]- 逻辑回归
- 普通最小二乘回归 (OLSR)
- 线性回归
- 逐步回归
- 多变量自适应回归样条 (MARS)
- 正则化算法
- 岭回归
- 最小绝对收缩和选择算子 (LASSO)
- 弹性网
- 最小角度回归 (LARS)
- 分类器
降维
[编辑]- 典型相关分析 (CCA)
- 因子分析
- 特征提取
- 特征选择
- 独立成分分析 (ICA)
- 线性判别分析 (LDA)
- 多维尺度分析 (MDS)
- 非负矩阵分解 (NMF)
- 偏最小二乘回归 (PLSR)
- 主成分分析 (PCA)
- 主成分回归 (PCR)
- 投影追踪
- 萨蒙映射
- t-分布随机邻域嵌入 (t-SNE)
集成学习
[编辑]元学习
[编辑]强化学习
[编辑]监督学习
[编辑]- 平均单依赖估计器 (AODE)
- 人工神经网络
- 基于案例的推理
- 高斯过程回归
- 基因表达编程
- 数据处理组方法 (GMDH)
- 归纳逻辑编程
- 实例基于学习
- 懒惰学习
- 学习自动机
- 学习向量量化
- 逻辑模型树
- 最小消息长度(决策树、决策图等)
- 最近邻算法
- 类比建模
- 可能近似正确学习(PAC)学习
- 级联规则, 一种知识获取方法
- 符号机器学习算法
- 支持向量机
- 随机森林
- 分类器集合
- 自举聚合(bagging)
- 提升(元算法)
- 有序分类
- 条件随机场
- 方差分析
- 二次分类器
- k最近邻
- 提升
- SPRINT
- 贝叶斯网络
- 朴素贝叶斯
- 隐马尔可夫模型
- 分层隐马尔可夫模型
贝叶斯
[编辑]贝叶斯统计学
- 贝叶斯知识库
- 朴素贝叶斯
- 高斯朴素贝叶斯
- 多项式朴素贝叶斯
- 平均单依赖估计器 (AODE)
- 贝叶斯信念网络 (BBN)
- 贝叶斯网络 (BN)
决策树算法
[编辑]决策树算法
线性分类器
[编辑]无监督学习
[编辑]人工神经网络
[编辑]关联规则学习
[编辑]- Apriori算法
- Eclat算法
- FP-growth算法
层次聚类
[编辑]- 单链接聚类
- 概念聚类
聚类分析
[编辑]- BIRCH
- DBSCAN
- 期望最大化 (EM)
- 模糊聚类
- 层次聚类
- ‘'k’'-均值聚类
- k-中位数|‘'k’'-中位数
- 均值漂移|均值漂移
- OPTICS算法
异常检测
[编辑]- k-最近邻算法|‘'k’'-最近邻算法 (‘'k’'-NN)
- 局部异常因子
半监督学习
[编辑]深度学习
[编辑]- 深度信念网络
- 深度玻尔兹曼机
- 深度卷积神经网络
- 深度循环神经网络
- 分层时序记忆
- 生成对抗网络
- 风格迁移
- Transformer
- 堆叠自编码器
其他机器学习方法与问题
[编辑]- 异常检测
- 关联规则
- 偏差-方差困境
- 分类
- 多标签分类
- 聚类
- 数据预处理
- 经验风险最小化
- 特征工程
- 特征学习
- 学习排序
- 奥卡姆学习
- 在线机器学习
- PAC学习
- 回归
- 强化学习
- 半监督学习
- 统计学习
- 结构化预测
- 无监督学习
- VC理论
机器学习研究
[编辑]- 人工智能项目列表
- 机器学习研究数据集列表
机器学习历史
[编辑]- 机器学习时间线
机器学习项目、组织、出版物及活动
[编辑]机器学习项目
[编辑]机器学习组织、出版物及活动
[编辑]参考资料
[编辑]- ^ http://www.britannica.com/EBchecked/topic/1116194/machine-learning [第三手来源]
- ^ Phil Simon. Too Big to Ignore: The Business Case for Big Data. Wiley. 2013年3月18日: 89. ISBN 978-1 -118-63817-0.
- ^ Ron Kohavi; Foster Provost. Glossary of terms. Machine Learning. 1998, 30: 271–274. doi:10.1023/A:1007411609915
.