云计算、大数据、人工智能傻傻分不清楚文详解这三者的关系

今天跟大家讲讲云计算、大数据和人工智能。这三个词现在非常火，并且它们之间好像互相有关系。

一般谈云计算的时候会提到大数据、谈人工智能的时候会提大数据、谈人工智能的时候会提云计算……感觉三者之间相辅相成又不可分割。

如果你觉得比较难理解这三者之间的相互关系，今天我来给你解释一下。

内容来自华为阿里架构师的详解！

---

文章目录

• 云计算、大数据、人工智能傻傻分不清楚文详解这三者的关系
• • @[TOC](文章目录)
• 云计算最初的目标
• • 管数据中心就像配电脑
  • 灵活就是想啥时要都有，想要多少都行
  • 物理设备不灵活
  • 虚拟化灵活多了
  • 虚拟世界的赚钱与情怀
  • 虚拟化的半自动和**云计算的全自动**
• 云计算的私有与公有
• • 云计算的赚钱与情怀
  • IaaS，资源层面的灵活性
  • 总结
  • 云计算不光管资源，也要管应用
• 大数据拥抱云计算
• • 数据不大也包含智慧
  • 数据如何升华为智慧
  • 数据收集
  • 数据传输
  • 数据存储
  • 数据处理和分析
  • 数据检索和挖掘
  • 大数据时代，众人拾柴火焰高
  • 大数据需要云计算，云计算需要大数据
• 人工智能拥抱大数据
• • 机器什么时候才能懂人心/li>
  • 让机器学会推理
  • 教给机器知识
  • 算了，教不会让机器自己学吧
  • 其实在娱乐圈有很好的一个例子，可窥一斑：
  • 模拟大脑的工作方式
  • 没道理但做得到
  • 人工智能的经济学解释
  • 人工智能需要大数据
  • 基于云计算、大数据和人工智能三者关系的美好生活
• 总结

云计算最初的目标

我们首先来说云计算。

云计算最初的目标是对资源的管理，管理的主要是计算资源、网络资源、存储资源三个方面。

这时的问题就是：运营数据中心的人是怎么把这些设备统一的管理起来的呢br>

于是 Rackspace 和美国航空航天局合作创办了开源软件 OpenStack，如上图所示 OpenStack 的架构图，不是云计算行业的不用弄懂这个图。

但能够看到三个关键字：Compute 计算、Networking 网络、Storage 存储。还是一个计算、网络、存储的云化管理平台。

当然第二名的技术也是非常棒的，有了 OpenStack 之后，果真像 Rackspace 想的一样，所有想做云的大企业都疯了，你能想象到的所有如雷贯耳的大型 IT 企业**：IBM、惠普、戴尔、华为、联想等都疯了。**

原来云平台大家都想做，看着亚马逊和 VMware 赚了这么多钱，眼巴巴看着没办法，想自己做一个好像难度还挺大。

现在好了，有了这样一个开源的云平台 OpenStack，所有的 IT 厂商都加入到这个社区中来，对这个云平台进行贡献，包装成自己的产品，连同自己的硬件设备一起卖。

有的做了私有云，有的做了公有云，OpenStack 已经成为开源云平台的事实标准。

IaaS，资源层面的灵活性

随着 OpenStack 的技术越来越成熟，可以管理的规模也越来越大，并且可以有多个 OpenStack 集群部署多套。

比如北京部署一套、杭州部署两套、广州部署一套，然后进行统一的管理。这样整个规模就更大了。

在这个规模下，对于普通用户的感知来讲，基本能够做到想什么时候要就什么时候要，想要多少就要多少。

还是拿云盘举例子，每个用户云盘都分配了 5T 甚至更大的空间，如果有 1 亿人，那加起来空间多大啊。

其实背后的机制是这样的：分配你的空间，你可能只用了其中很少一点，比如说它分配给你了 5 个 T，这么大的空间仅仅是你看到的，而不是真的就给你了。

你其实只用了 50 个 G，则真实给你的就是 50 个 G，随着你文件的不断上传，分给你的空间会越来越多。

当大家都上传，云平台发现快满了的时候(例如用了 70%)，会采购更多的服务器，扩充背后的资源，这个对用户是透明的、看不到的。

从感觉上来讲，就实现了云计算的弹性。其实有点像银行，给储户的感觉是什么时候取钱都有，只要不同时挤兑，银行就不会垮。

总结

到了这个阶段，云计算基本上实现了时间灵活性和空间灵活性；实现了计算、网络、存储资源的弹性。

计算、网络、存储我们常称为基础设施 Infranstracture, 因而这个阶段的弹性称为资源层面的弹性。

管理资源的云平台，我们称为基础设施服务，也就是我们常听到的 IaaS（Infranstracture As A Service）。

云计算不光管资源，也要管应用

虽说脚本的方式能够解决自己的应用的部署问题，然而不同的环境千差万别，一个脚本往往在一个环境上运行正确，到另一个环境就不正确了。

而容器是能更好地解决这个问题。

在没有集装箱的时代，假设将货物从 A 运到 B，中间要经过三个码头、换三次船。

每次都要将货物卸下船来，摆得七零八落，然后搬上船重新整齐摆好。因此在没有集装箱时，每次换船，船员们都要在岸上待几天才能走。

那么容器如何对应用打包呢/p>

还是要学习集装箱。首先要有个封闭的环境，将货物封装起来，让货物之间互不干扰、互相隔离，这样装货卸货才方便。好在 Ubuntu 中的 LXC 技术早就能做到这一点。

封闭的环境主要使用了两种技术：

看起来是隔离的技术，称为 Namespace，也即每个 Namespace 中的应用看到的是不同的 IP 地址、用户空间、程号等。

用起来是隔离的技术，称为 Cgroups，也即明明整台机器有很多的 CPU、内存，而一个应用只能用其中的一部分。

谓的镜像，就是将你焊好集装箱的那一刻，将集装箱的状态保存下来，就像孙悟空说：“定”，集装箱里面就定在了那一刻，然后将这一刻的状态保存成一系列文件。【阿里云就是这么干的】，我可以随时开一个notebook，里面装镜像，直接用就行了

这些文件的格式是标准的，谁看到这些文件都能还原当时定住的那个时刻**。将镜像还原成运行时的过程（就是读取镜像文件，还原那个时刻的过程），就是容器运行的过程**。

有了容器，使得 PaaS 层对于用户自身应用的自动部署变得快速而优雅。

---

大数据拥抱云计算

在 PaaS 层中一个复杂的通用应用就是大数据平台。

大数据是如何一步一步融入云计算的呢/p>

数据不大也包含智慧

一开始这个大数据并不大。原来才有多少数据在大家都去看电子书，上网看新闻了，在我们 80 后小时候，信息量没有那么大，也就看看书、看看报，一个星期的报纸加起来才有多少字/p>

如果你不在一个大城市，一个普通的学校的图书馆加起来也没几个书架，是后来随着信息化的到来，信息才会越来越多。

首先我们来看一下大数据里面的数据，就分三种类型：

结构化的数据：即有固定格式和有限长度的数据。例如填的表格就是结构化的数据，国籍：中华人民共和国，民族：汉，性别：男，这都叫结构化数据。

非结构化的数据：现在非结构化的数据越来越多，就是不定长、无固定格式的数据，例如网页，有时候非常长，有时候几句话就没了；例如语音，视频都是非结构化的数据。

**半结构化数据：**是一些 XML 或者 HTML 的格式的，不从事技术的可能不了解，但也没有关系。

其实数据本身不是有用的，必须要经过一定的处理。例如你每天跑步带个手环收集的也是数据，网上这么多网页也是数据，我们称为 Data。

数据本身没有什么用处，但数据里面包含一个很重要的东西，叫做信息（Information）。

数据十分杂乱，经过梳理和清洗，才能够称为信息。信息会包含很多规律，我们需要从信息中将规律总结出来，称为知识（Knowledge），而知识改变命运。

信息是很多的，但有人看到了信息相当于白看，但有人就从信息中看到了电商的未来，有人看到了直播的未来，所以人家就牛了。

如果你没有从信息中提取出知识，天天看朋友圈也只能在互联网滚滚大潮中做个看客。

有了知识，然后利用这些知识去应用于实战，有的人会做得非常好，这个东西叫做智慧（Intelligence）。

有知识并不一定有智慧，例如好多学者很有知识，已经发生的事情可以从各个角度分析得头头是道，但一到实干就歇菜，并不能转化成为智慧。

而很多的创业家之所以伟大，就是通过获得的知识应用于实践，最后做了很大的生意。

所以数据的应用分这四个步骤：数据、信息、知识、智慧。

最终的阶段是很多商家都想要的。你看我收集了这么多的数据，能不能基于这些数据来帮我做下一步的决策，改善我的产品。

例如让用户看视频的时候旁边弹出广告，正好是他想买的东西；再如让用户听音乐时，另外推荐一些他非常想听的其他音乐。

用户在我的应用或者网站上随便点点鼠标，输入文字对我来说都是数据，我就是要将其中某些东西提取出来、指导实践、形成智慧，让用户陷入到我的应用里面不可自拔，上了我的网就不想离开，手不停地点、不停地买。

这就是推荐系统的实力，这就是你买买买的本质，这也是你不停地刷抖音的本质，你不想停，因为抖音知道你的习惯和喜好。

很多人说双十一我都想断网了，我老婆在上面不断地买买买，买了 A 又推荐 B，老婆大人说，“哎呀，B 也是我喜欢的啊，老公我要买”。

你说这个程序怎么这么牛，这么有智慧，比我还了解我老婆，这件事情是怎么做到的呢/p>

对于数据的传输：一个内存里面的队列肯定会被大量的数据挤爆掉，于是就产生了基于硬盘的分布式队列，这样队列可以多台机器同时传输，随你数据量多大，只要我的队列足够多，管道足够粗，就能够撑得住。

这就涉及底层的数据结构与算法了，这是专业程序员大佬们会学的东西

对于数据的分析：可能需要对大量的数据做分解、统计、汇总，一台机器肯定搞不定，处理到猴年马月也分析不完。

于是就有分布式计算的方法，将大量的数据分成小份，每台机器处理一小份，多台机器并行处理，很快就能算完。

例如著名的 Terasort 对 1 个 TB 的数据排序，相当于 1000G，如果单机处理，怎么也要几个小时，但并行处理 209 秒就完成了。

HDFS中的牛逼分布式计算框架：mapReduce，先map再比再并行计算，最后reduce汇总

如果我们随便写一串数字，然后按照数位依次在形容词、名词和动词中取出一个词，连在一起会怎么样呢/p>

例如取圆周率 3.1415926，对应的词语是：坚强，路，飞，自由，雨，埋，迷惘。

稍微连接和润色一下：

坚强的孩子
依然前行在路上
张开翅膀飞向自由
让雨水埋葬他的迷惘
是不是有点感觉了然，真正基于统计的学习算法比这个简单的统计复杂得多。

然而统计学习比较容易理解简单的相关性：例如一个词和另一个词总是一起出现，两个词应该有关系；而无法表达复杂的相关性。

并且统计方法的公式往往非常复杂，为了简化计算，常常做出各种独立性的假设，来降低公式的计算难度，然而现实生活中，具有独立性的事件是相对较少的。

怎么让计算机发现有关联的事物的本质呢/p>

模拟大脑的工作方式

于是人类开始从机器的世界，反思人类的世界是怎么工作的。

每个神经元有从其他神经元的输入，当接收到输入时，会产生一个输出来刺激其他神经元。于是大量的神经元相互反应，最终形成各种输出的结果。

例如当人们看到美女瞳孔会放大，绝不是大脑根据身材比例进行规则判断，也不是将人生中看过的所有的美女都统计一遍，而是神经元从视网膜触发到大脑再回到瞳孔。

在这个过程中，其实很难总结出每个神经元对最终的结果起到了哪些作用，反正就是起作用了。

于是人们开始用一个数学单元模拟神经元。

于是将 n 个神经元通过像一张神经网络一样连接在一起。n 这个数字可以很大很大，所有的神经元可以分成很多列，每一列很多个排列起来。

每个神经元对于输入的权重可以都不相同，从而每个神经元的公式也不相同。当人们从这张网络中输入一个东西的时候，希望输出一个对人类来讲正确的结果。

例如上面的例子，输入一个写着 2 的图片，输出的列表里面第二个数字最大，其实从机器来讲，它既不知道输入的这个图片写的是 2，也不知道输出的这一系列数字的意义，没关系，人知道意义就可以了。

正如对于神经元来说，他们既不知道视网膜看到的是美女，也不知道瞳孔放大是为了看的清楚，反正看到美女，瞳孔放大了，就可以了。你心情愉悦了就行

对于任何一张神经网络，谁也不敢保证输入是 2，输出一定是第二个数字最大，要保证这个结果，需要训练和学习。

毕竟看到美女而瞳孔放大也是人类很多年进化的结果。学习的过程就是，输入大量的图片，如果结果不是想要的结果，则进行调整，调整啥呢是那些权重w。

如何调整呢是每个神经元的每个权重w都向目标权重w0进行微调，由于神经元和权重实在是太多了，所以整张网络产生的结果很难表现出非此即彼的结果，而是向着结果微微地进步，最终能够达到目标结果。

当然，这些调整的策略还是非常有技巧的，需要算法的高手来仔细的调整。正如人类见到美女，瞳孔一开始没有放大到能看清楚，于是美女跟别人跑了，下次学习的结果是瞳孔放大一点点，而不是放大鼻孔。

没道理但做得到

听起来也没有那么有道理，但的确能做到，就是这么任性！

神经网络的普遍性定理是这样说的，假设某个人给你某种复杂奇特的函数，f(x)：

我们把每个神经元当成社会中从事经济活动的个体。于是神经网络相当于整个经济社会，每个神经元对于社会的输入，都有权重的调整，做出相应的输出。

比如工资涨了、菜价涨了、股票跌了，我应该怎么办、怎么花自己的钱。这里面没有规律么定有，但是具体什么规律呢难说清楚。

基于专家系统的经济属于计划经济。整个经济规律的表示不希望通过每个经济个体的独立决策表现出来，而是希望通过专家的高屋建瓴和远见卓识总结出来。但专家永远不可能知道哪个城市的哪个街道缺少一个卖甜豆腐脑的。

于是专家说应该产多少钢铁、产多少馒头，往往距离人民生活的真正需求有较大的差距，就算整个计划书写个几百页，也无法表达隐藏在人民生活中的小规律。

基于统计的宏观调控就靠谱多了，每年统计局都会统计整个社会的就业率、通胀率、GDP 等指标。这些指标往往代表着很多内在规律，虽然不能精确表达，但是相对靠谱。

然而基于统计的规律总结表达相对比较粗糙。比如经济学家看到这些统计数据，可以总结出长期来看房价是涨还是跌、股票长期来看是涨还是跌。

如果经济总体上扬，房价和股票应该都是涨的。但基于统计数据，无法总结出股票，物价的微小波动规律。

基于神经网络的微观经济学才是对整个经济规律最最准确的表达，每个人对于自己在社会中的输入进行各自的调整，并且调整同样会作为输入反馈到社会中。

想象一下股市行情细微的波动曲线，正是每个独立的个体各自不断交易的结果，没有统一的规律可循。

而每个人根据整个社会的输入进行独立决策，当某些因素经过多次训练，也会形成宏观上统计性的规律，这也就是宏观经济学所能看到的。——市场经济

例如每次货币大量发行，最后房价都会上涨，多次训练后，人们也就都学会了。

人工智能需要大数据

然而，神经网络包含这么多的节点，每个节点又包含非常多的参数，整个参数量实在是太大了，需要的计算量实在太大。

但没有关系，我们有大数据平台，可以汇聚多台机器的力量一起来计算，就能在有限的时间内得到想要的结果。

人工智能可以做的事情非常多，例如可以鉴别垃圾邮件、鉴别黄色暴力文字和图片等。

这也是经历了三个阶段的：

依赖于关键词黑白名单和过滤技术，包含哪些词就是黄色或者暴力的文字。随着这个网络语言越来越多，词也不断地变化，不断地更新这个词库就有点顾不过来。【布隆过滤器，专业程序员大佬能懂的】

基于一些新的算法，比如说贝叶斯过滤等，你不用管贝叶斯算法是什么，但是这个名字你应该听过，这是一个基于概率的算法。

基于大数据和人工智能，进行更加精准的用户画像、文本理解和图像理解。

由于人工智能算法多是依赖于大量的数据的，这些数据往往需要面向某个特定的领域(例如电商，邮箱)进行长期的积累。

如果没有数据，就算有人工智能算法也白搭，所以人工智能程序很少像前面的 IaaS 和 PaaS 一样，将人工智能程序给某个客户安装一套，让客户去用。【都是要互联网大厂里面的算法开发工程师大佬们去搞的，所以一年一年互联网大厂们都争相抢夺人才……】

因为给某个客户单独安装一套，客户没有相关的数据做训练，结果往往是很差的。

但云计算厂商往往是积累了大量数据的，于是就在云计算厂商里面安装一套，暴露一个服务接口。

比如您想鉴别一个文本是不是涉及黄色和暴力，直接用这个在线服务就可以了。这种形势的服务，在云计算里面称为软件即服务，SaaS (Software AS A Service)

于是工智能程序作为 SaaS 平台进入了云计算。

基于云计算、大数据和人工智能三者关系的美好生活

终于云计算的三兄弟凑齐了，分别是 IaaS、PaaS 和 SaaS。

infrastructure as a service IaaS
platform as a service PaaS
software as a service SaaS

所以一般在一个云计算平台上，云、大数据、人工智能都能找得到。

一个大数据公司，积累了大量的数据，会使用一些人工智能的算法提供一些服务；一个人工智能公司，也不可能没有大数据平台支撑。

所以，当云计算、大数据、人工智能这样整合起来，便完成了相遇、相识、相知的过程。

比如很多大公司可能有自己的数据，但是需要云平台存储，还需要自己的算法开发工程师利用这些大数据来研发，挖掘内在的关系，设计推荐系统，用到产品中，让你买买买，买买买买，公司们才能赚钱！！！

这就是为啥互联网大厂们的工资基本月均3–4万元，年薪平均30–40万的原因，奇数大咖一般50–100万年薪。

你的工资是多少呢/p>

想不想跟互联网大佬们齐平呢

如果你想，那请好生学习数据结构与算法，学习人工智能算法，力争凭借自己的激情与本事，进入互联网大厂吧！！

---

总结

1）云计算的三兄弟分别是 IaaS、PaaS 和 SaaS。所以一般在一个云计算平台上，云、大数据、人工智能都能找得到。
2）infrastructure as a service IaaS，platform as a service PaaS，software as a service SaaS
3）笔试求AC，可以不考虑空间复杂度，但是面试既要考虑时间复杂度最优，也要考虑空间复杂度最优。

来源：冰露可乐