机器学习的几何化（1）

作者: TiTiWung | 来源:发表于2023-06-29 19:16 被阅读0次

1.ml_basics
机器学习中 L1 和 L2 正则化的简单介绍
13- OpenCV+TensorFlow 入门人工智能图像处理
6.machine_learning_Decision_Tree
深度学习笔记
L1正则化与L2正则化学习笔记
5- 深度学习之神经网络核心原理与算法-正则化
机器学习实战
阿里面试
[机器学习入门] 李宏毅机器学习笔记-25（Sturctured

定义1：设 $M$ 是一个拓扑空间，如果 $M$ 满足以下三个条件：（1）Hausdorff公理，（2）第二可数性，（3） $M$ 的任意一点都存在一个邻域与 $n$ 维欧式空间 $\mathbb{R}^n$ 的一个开集同胚，则称 $M$ 为一个 $n$ 维拓扑流形。

定义2：设 $M$ 是一个 $m$ 维拓扑流形， $\Sigma=\{(U_\alpha,\varphi_\alpha):\alpha\in I\}$ 是 $M$ 的一些坐标卡的集合，如果 $\Sigma$ 满足以下条件：（1） $\{U_\alpha:\alpha\in I\}$ 是 $M$ 的一个开覆盖，（2） $\Sigma$ 中任意两个成员都是光滑相关的，（3） $\Sigma$ 是极大的，则称 $M$ 是一个光滑结构，指定了光滑结构 $\Sigma$ 的 $m$ 维拓扑流形 $M$ 称为 $m$ 维光滑流形。

关于拉回映射（pulling back）和推前映射（push forward），《Gauge Fields, Knots and Gravity》（以下简称Knots书）以及梁灿彬书里的定义是一致的，详见如下。

拉回映射：流形 $M$ 和流形 $N$ 之间存在一个映射 $\phi:M \rightarrow N$ ，流形 $N$ 到实数 $\mathbb{R}$ 之间存在一个映射 $f:N \rightarrow \mathbb{R}$ ，那么函数 $f$ 和 $\phi$ 的复合就是流形 $M$ 到实数 $\mathbb{R}$ 的一个映射， $f \circ \phi :M \rightarrow \mathbb{R}$ ，pulling back的定义为 $\phi ^\ast f=f \circ \phi$ ，其意义是说本来 $\phi$ 是从 $M$ 到 $N$ 之间的一个映射，是一个前向的过程， $f$ 也是一个前向的过程， $\phi ^\ast$ 却把本来是 $N$ 到 $\mathbb{R}$ 之间的映射拉回到了 $M$ 到 $\mathbb{R}$ 之间的映射，所以称之为拉回映射，同时这样的一个拉回的过程也称为是逆变的。

推前映射：设 $v\in T_pM$ ， $\phi:M \rightarrow N$ ， $\phi_\ast v\in T_{\phi(p)}N$ ，也就是说 $(\phi_\ast v)(f)=v(\phi^\ast f)$ ，这样一个推前的过程称之为协变的过程。

1.ml_basics
1 Part 1 机器学习综述从过去的大量数据中“总结”出来“泛化规律”，用于新数据预测。不同类型的机器学习 1...
机器学习中 L1 和 L2 正则化的简单介绍
机器学习中 L1 和 L2 正则化的简单介绍正则化作用在机器学习中正则化的作用如下：防止最终的模型过于复杂，...
13- OpenCV+TensorFlow 入门人工智能图像处理
我们已经学习了图像的特效，几何变换，图形绘制。机器学习是什么？机器学习的方式来达成某种功能使用场景: 人脸检...
6.machine_learning_Decision_Tree
1 机器学习决策树 1.1机器学习中的决策树模型 ① 树模型不用做scaling ② 树模型不太需要做离散化 ③ ...
深度学习笔记
[问题] 机器学习基础部分 1.如何构建机器学习算法？特定的数据集代价函数可含有附加项，如正则化项，如权重衰减...
L1正则化与L2正则化学习笔记
本文是本人学习了相关机器学习课程后的一个关于L1正则化与L2正则化的学习笔记。正则化从上图1 可知，随着训练迭...
5- 深度学习之神经网络核心原理与算法-正则化
正则化正则化是机器学习中一种常见的概念。正则化不仅在深度学习中有，在传统的机器学习中也有。单纯从名字上不好理解...
机器学习实战
机器学习实战 [tag]人工智能,机器学习,可视化,数据分析,k近邻,python,监督机器学习算法, [cont...
阿里面试
技术： 1.过拟合：数据增强，权重正则化，dropout，batch normalization。 2.机器学习的...
[机器学习入门] 李宏毅机器学习笔记-25（Sturctured
[机器学习入门] 李宏毅机器学习笔记-25（Sturctured Linear Model；结构化预测-线性模型）...