1.概述 · DeepLearning

[TOC] Artificial Intelligence(下文简称「AI」) ## 一.什么是AI？计算机领域，人工智能是指对“智能代理”的研究。任何可以感知环境并采取行动以最大可能达成其特定目标的任何设备都是智能代理。 ## 二.AI的三起两落 1. 第一次：1956 ~ 1980 - 过度乐观-->过度失望； - 政府大量资助，小有所成，大量AI实验室创立； - 主要方法论：符号推理； - 1974年开始进入「寒冬」：英美政府经费骤减； 2. 第二次：1980 ~ 2006 - 过度乐观-->过度失望； - 专家系统在商业中有了成功的应用 - 1980s中期，神经网络带带来了希望； - 日本的「五代机」计划，刺激了英美政府； - 1980s末期，「五代机」计划失败； - 1990-2010：进入「寒冬」，且平稳发展 - 主要方法论：人工知识+基于小数据的统计学习方法 3. 第三次：2006 ~ 至今 - 2006：多层神经网络复兴 - 2011：语音识别取得突破性进展（错误率下降一半） - 2012：图像分类取得突破性进展（错误率下降一半） - 2016：人脸识别取得突破性进展（错误率下降2~3个数量级） - 2016：机器翻译等NLP领域被深度学习大大促进 - 2016/2017：AlphaGo & AlphaGo Zero 4. 补充 1943：MCP神经元数学模型 1957：单层感知机 1969：单层感知及不能解决XOR问题 1986：再次反向传播算法 1989：万能逼近定理、卷积神经网络 1997：LSTM 1998：LeNet 2006：深度信念网 2010：Xavier 2011：ReLU 深度学习三驾马车：深度模型、大数据（互联网、传感器）、高性能计算（GPU） ## 三.AI的子任务 *或者说是AI的目标* - Reasoning，problem solving 推理和问题解决 - knowledge representation 知识表示 - planning 规划 - learning 学习 - natural language processing 自然语言处理 - perception 感知 - motion and manipulation 运动和操作 - social intelligence 社会智能 - creativity 创造力 - general intelligence 通用智能 ## 四.注释 [1] 神经网络的定义来自 Aleksander and Morton（1990） [2] 根据 Kuffler 等（1984），知「receptive field」属于最早由 Sherrington（1906）创造，冰杯 Hartline（1940）重新引入。 [3] 「权值共享」最早在 Rumelhart（1986b）中描述。 ## 五.参考 [1] 「深度学习基础课程」山世光.网易云课堂.<http://study.163.com/course/introduction/1005023019.htm> [2] Simon Haykin.神经网络宇机器学习[M].北京：机械工业出版社，2011.1（2016.5重印）