1、AI
人工的方法在机器上实现智能:机器学习、计算机视觉、规划决策、自然语言处理、认知推理、高效搜索
2、三大学派
符号主义
连接主义:CNN
行为主义
3、两条路线
结构模仿
功能模仿
4、AI芯片
人脑结构
人脑功能
5、关系
人工智能 > 机器学习 > 多层感知机 > 深度学习
6、学习种类
规则学习
样本学习
自主学习
7、样本学习
分类问题:线性、非线性
回归问题:拟合样本曲线
空域延伸
时域延伸
8、样本学习问题
数据质量:稀疏性、小样本、偏见性、不均衡性
训练效率:收敛性、样本选择、并行化
模型规模:模型量化、模型裁剪、模型迁移
9、规则学习
从遵循规则到学习规则
专家系统---专业知识工程师
条件语言、逻辑语言
规则表==》数据挖掘
确定性逻辑=》模糊逻辑
10、规则学习问题
敏感性:鲁棒性、可重复性、可复现性
仿真成本高:延迟奖励、仿真误差、学习效率低
行为偏见:奖励偏见、局部极值、合谋欺诈
11、自主学习AutoML
12、流程:原始数据==》数据处理==》特征工程==》模型设计==》模型验证
13、自主学习:稀疏网络、多任务支持、技术复用、动态构建
------目标均衡、。。。、灾难性遗忘
14、智能系统:自组织、自学习、自适应
15、深度学习:张量、张量操作、计算图、自动微分工具、计算扩展包
16、PaddlePaddle
PaddleDection:Mask R-CNN 、YOLO V3、FPN、Casade RCNN、TridentNet
PaddleSeg:V-Net、Deep LabV3、ICNet(实时语义分割)
移动端:MobileNet
服务端:XCeption
17、流程:需求分析、技术选型、模型训练、模型调优、硬件部署、生产实测
18、PaddleSeg:车道线分割、地块分割
19、PaddleVideo
End-to-End
Two-State
视频定位:BMN、BSN
视觉检测:理解、编辑、生成
20、PaddleNLP
WordEmbedding
ELMO
GPT
BERT:基于基本语言单元语义建模
ERNIE:基于知识增强语义建模
文本相似度、问答匹配、情感分析、自然语言推断
词法、结构、语义
知识预测、句子排序、句子逻辑关系预测(因为所以、如果就、并且、尽管但是)
搜索CTR预估、搜索智能问答
ERNIE发展
任务:生成任务、篇章、匹配
行业:法律、医疗、金融
21、联邦学习
蜂巢联邦学习平台
谷歌输入法GBoard
TensorFlow Federated Pysyft
联邦学习、安全多方计算、差分隐私
FATE
搜索广告---逻辑回归
同态加密:加法同态、乘法同态
法国Snips
OWKIN
风险分析、营销分析
寿险推荐系统、客户贷款逾期率预测系统
XGBoost
LR