向量空间、赋范空间、内积空间、欧式空间、希尔伯特空间

从数学的本质来看，最基本的集合有两类：线性空间（有线性结构的集合）、度量空间（有度量结构的集合）。线性空间与度量空间是两个不同的概念，没有交集。

一、 线性空间

1. 线性空间的定义

定义：设V是一个非空集合，F为数域。如果对于任意两个元素α、β∈V，总有唯一的一个元素γ∈V与之对应，称为α与β的和，记作

　　　　　　　　　　　　　　　　γ=α+β

如果对于任意一个数λ∈F与任意一元素α∈V，总有一个唯一的一个元素δ∈V与之对应，称为λ与α的数量乘积，记作

　　　　　　　　　　　　　　　　δ=λα

如果上述两种运算满足以下八条运算规律，那么V就称为数域F上的线性空间

加法运算：

① 交换律：α+β = β+α

② 结合律： (α+β）+γ = α+（β+γ）

③ 零元素（唯一）：存在0∈V，对任意α∈V，使α+0=α

④ 负元素（唯一）：对任意α∈V，存在β∈V，使α+β=0

乘法运算：

⑤ 1α = α

⑥ (λμ)α = λ(μα)

⑦ (λ+μ)α = λα+μα

⑧ λ(α+β) = λα+λβ

2. 数域

定义：设F是数的集合，若其满足

① 0，1∈F

② 对F中的任意两个数a，b，总有a+b，a-b，a×b，a÷b(b≠0)∈F

则称F是一个数域，同时称F对加减乘除四种运算封闭

3. 线性空间的性质

① 零元素是唯一的；

② 负元素是唯一的；

③ 若λα = 0(λ∈F,α∈V)，则有k=0或λ=0

④  (-λ)α = λ(-α) = -(λα)

4. 小结

只有满足以下条件，才能构成线性空间

① 数集F是一个数域；

② 集合V满足加法和乘法运算的八条规律

二、由距离到希尔伯特空间

1. 距离和度量空间

实际上距离除了我们经常用到的直线距离外，还有向量距离， 函数距离如、 曲面距离、折线距离等等，这些具体的距离与距离之间的关系类似于苹果、香蕉等与水果的关系，前面是具体的事物，后面是抽象的概念。距离就是一个抽象的概念，其定义为： 

定义：设X是任一非空集，对X中任意两点x,y，有一实数d(x,y)与之对应且满足： 

① 正定性：d(x,y) ≥≥0，且d(x,y)=0当且仅当x=y; 

② 对称性：d(x,y)=d(y,x); 

③ 三角不等式： d(x,y) ≤≤d(x,z)+d(z,y)。 

称d(x,y)为X中的一个距离（度量），称X为一个对于度量d而言的度量空间。

2. 范数和线性赋范空间

范数常常被用来度量某个向量空间（或矩阵）中的每个向量的长度或大小

定义：设 是域 （实数域或复数域）上的线性空间，函数 满足条件：

① （正定性）对  ；且 当且仅当  ；

② （齐次性）对  ，有  ；

③ （三角不等式）对  ，有  。

称  是  上的一个范数，  上定义了范数  称为（线性）赋范空间，记为  ，有时简记为  

3. 距离和范数的区别

① 距离就是度量，距离定义在任意的非空集合上；

② 范数一定要在线性空间中定义；

③ 在线性空间中，范数可以诱导度量，反之不一定成立

④ 范数满足的条件2是一个数乘的运算，表明其是一个强化了的距离概念

4. 不同空间之间的关系

距离+线性空间 = 线性度量空间

范式+线性空间 = （线性）赋范空间

线性赋范空间+内积运算 = 内积空间

线性赋范空间+完备性 = 巴拿赫空间

因为有度量，所以可以在度量空间、赋范线性空间以及内积空间中引入极限，但抽象空间中的极限与实数上的极限有一个很大的不同就是，极限点可能不在原来给定的集合中，所以又引入了完备的概念

完备性的意思就是空间中的极限运算不能跑出该空间，如有理数空间中的的小数表示，其极限随着小数位数的增加收敛到，但 属于无理数，并不在有理数空间，故不满足完备性。一个通俗的理解是把学校理解为一个空间，你从学校内的宿舍中开始一直往外走，当走不动停下来时（极限收敛），发现已经走出学校了（超出空间），不在学校范围内了（不完备了）。希尔伯特就相当于地球，无论你怎么走，都还在地球内（飞出太空除外）

内积空间+有限维 = 欧几里得空间

内积空间+完备性 = 希尔伯特空间