Skip to content

Latest commit

 

History

History
213 lines (123 loc) · 15.6 KB

01.Data-Structures-Algorithms.md

File metadata and controls

213 lines (123 loc) · 15.6 KB

程序=算法+数据结构

数据结构是程序的骨架,而算法则是程序的灵魂。

《算法 + 数据结构 = 程序》 是 Pascal 语言之父 Niklaus Emil Wirth 写过的一本非常著名的书。而作为书名的这句话也成为了计算机科学的经典名句。可见,对于程序设计来说,算法和数据结构的关系密不可分。

在学习之前,首先我们要弄清楚什么是算法?什么是数据结构?为什么要学习算法和数据结构?

简单来说,「算法」就是解决问题的方法或者过程。如果我们把问题看成是函数,那么算法就是将输入转换为输出的过程。「数据结构」是数据的计算机表示和相应的一组操作「程序」则是算法和数据结构的具体实现

如果我们把「程序设计」比作是做菜的话,那么「数据结构」就是食材和调料,「算法」则是不同的烹饪方式,或者可以看作是菜谱。不同的食材和调料,不同的烹饪方式,有着不同的排列组合。同样的东西,由不同的人做出来,味道自然也是千差万别。

至于为什么要学习算法和数据结构?

还是拿做菜举例子。我们做菜,讲究的是「色香味俱全」。程序设计也是如此,对于待解决的问题,我们追求的是:选择更加合适的「数据结构」,使用花费时间更少、占用空间更小的「算法」。

我们学习算法和数据结构,是为了学会在编程中从时间复杂度、空间复杂度方面考虑解决方案,训练自己的逻辑思维,从而写出高质量的代码,以此提升自己的编程技能,获取更高的工作回报。

当然,这就像是做菜,掌握了食材和调料,学会了烹饪方式,并不意味着你就会做出一盘很好吃的炒菜。同样,掌握了算法和数据结构并不意味着你就会写程序。这需要不断的琢磨和思考,并持续学习,才能成为一名优秀的 厨师(程序员)。

1. 数据结构

数据结构(Data Structure):带有结构特性的数据元素的集合。

简单而言,「数据结构」 指的是:数据的组织结构,用来组织、存储数据

展开来讲,数据结构研究的是数据的逻辑结构、物理结构以及它们之间的相互关系,并对这种结构定义相应的运算,设计出相应的算法,并确保经过这些运算以后所得到的新结构仍保持原来的结构类型。

数据结构的作用,就是为了提高计算机硬件的利用率。比如说:操作系统想要查找应用程序 「Microsoft Word」 在硬盘中的哪一个位置存储。如果对硬盘全部扫描一遍的话肯定效率很低,但如果使用「B+ 树」作为索引,就能很容易的搜索到 Microsoft Word 这个单词,然后很快的定位到 「Microsoft Word」这个应用程序的文件信息,从而从文件信息中找到对应的磁盘位置。

而学习数据结构,就是为了帮助我们了解和掌握计算机中的数据是以何种方式进行组织、存储的。


对于数据结构,我们可以按照数据的 「逻辑结构」「物理结构」 来进行分类。

1.1 数据的逻辑结构

逻辑结构(Logical Structure):数据元素之间的相互关系。

根据元素之间具有的不同关系,通常我们可以将数据的逻辑结构分为以下四种:

1. 集合结构

集合结构:数据元素同属于一个集合,除此之外无其他关系。

集合结构中的数据元素是无序的,并且每个数据元素都是唯一的,集合中没有相同的数据元素。集合结构很像数学意义上的「集合」。

集合结构

2. 线性结构

线性结构:数据元素之间是「一对一」关系。

线性结构中的数据元素(除了第一个和最后一个元素),左侧和右侧分别只有一个数据与其相邻。线性结构类型包括:数组、链表,以及由它们衍生出来的栈、队列、哈希表。

线性结构

3. 树形结构

树形结构:数据元素之间是「一对多」的层次关系。

最简单的树形结构是二叉树。这种结构可以简单的表示为:根, 左子树, 右子树。 左子树和右子树又有自己的子树。当然除了二叉树,树形结构类型还包括:多叉树、字典树等。

树形结构

4. 图形结构

图形结构:数据元素之间是「多对多」的关系。

图形结构是一种比树形结构更复杂的非线性结构,用于表示物件与物件之间的关系。一张图由一些小圆点(称为 「顶点」「结点」)和连结这些圆点的直线或曲线(称为 「边」)组成。

在图形结构中,任意两个结点之间都可能相关,即结点之间的邻接关系可以是任意的。图形结构类型包括:无向图、有向图、连通图等。

图形结构

1.2 数据的物理结构

物理结构(Physical Structure):数据的逻辑结构在计算机中的存储方式。

计算机内有多种存储结构,采用最多的是这两种结构:「顺序存储结构」「链式存储结构」

1. 顺序存储结构

顺序存储结构(Sequential Storage Structure):将数据元素存放在一片地址连续的存储单元里,数据元素之间的逻辑关系通过数据元素的存储地址来直接反映。

顺序存储结构

在顺序存储结构中,逻辑上相邻的数据元素在物理地址上也必然相邻 。

这种结构的优点是:简单、易理解,且实际占用最少的存储空间。缺点是:需要占用一片地址连续的存储单元;并且存储分配要事先进行;另外对于一些操作的时间效率较低(移动、删除元素等操作)。

2. 链式存储结构

链式存储结构(Linked Storage Structure):将数据元素存放在任意的存储单元里,存储单元可以连续,也可以不连续。

链式存储结构

链式存储结构中,逻辑上相邻的数据元素在物理地址上可能相邻,可也能不相邻。其在物理地址上的表现是随机的。链式存储结构中,一般将每个数据元素占用的若干单元的组合称为一个链结点。每个链结点不仅要存放一个数据元素的数据信息,还要存放一个指出这个数据元素在逻辑关系的直接后继元素所在链结点的地址,该地址被称为指针。换句话说,数据元素之间的逻辑关系是通过指针来间接反映的。

这种结构的优点是:存储空间不必事先分配,在需要存储空间的时候可以临时申请,不会造成空间的浪费;一些操作的时间效率远比顺序存储结构高(插入、移动、删除元素)。缺点是:不仅数据元素本身的数据信息要占用存储空间,指针也需要占用存储空间,链式存储结构比顺序存储结构的空间开销大。

2. 算法

算法(Algorithm):解决特定问题求解步骤的准确而完整的描述,在计算机中表现为一系列指令的集合,算法代表着用系统的方法描述解决问题的策略机制。

简单而言,「算法」 指的就是解决问题的方法。

展开来讲,算法是某一系列运算步骤,它表达解决某一类计算问题的一般方法,对这类方法的任何一个输入,它可以按步骤一步一步计算,最终产生一个输出。它不依赖于任何一种语言,可以用 自然语言、编程语言(Python、C、C++、Java 等)描述,也可以用 伪代码、流程图 来表示。

下面我们举几个例子来说明什么是算法。

  • 示例 1:

问题描述

  • 从上海到北京,应该怎么去?

解决方法

  1. 选择坐飞机,坐飞机用的时间最少,但费用最高。
  2. 选择坐长途汽车,坐长途汽车费用低,但花费时间长。
  3. 选择坐高铁或火车,花费时间不算太长,价格也不算太贵。
  • 示例 2:

问题描述

  • 如何计算 $1 + 2 + 3 + … + 100$ 的值?

解决方法

  1. 用计算器从 $1$ 开始,不断向右依次加上 $2$,再加上 $3$,...,依次加到 $100$,得出结果为 $5050$
  2. 根据高斯求和公式:和 = (首项 + 末项) × 项数 ÷ 2,直接算出结果为:$\frac{(1+100) \times 100}{2} = 5050$。
  • 示例 3:

问题描述

  • 如何对一个 $n$ 个整数构成的数组进行升序排序?

解决方法

  1. 使用冒泡排序对 $n$ 个整数构成的数组进行升序排序。
  2. 选择插入排序、归并排序、快速排序等等其他排序算法对 $n$ 个整数构成的数组进行升序排序。

以上 $3$ 个示例中的解决方法都可以看做是算法。从上海去北京的解决方法可以看做是算法,对 $1 \sim 100$ 的数进行求和的计算方法也可以看做是算法。对数组进行排序的方法也可以看做是算法。并且从这 $3$ 个示例中可以看出对于一个特定的问题,往往有着不同的算法。

2.1 算法的基本特性

算法其实就是一系列的运算步骤,这些运算步骤可以解决特定的问题。除此之外,算法 应必须具备以下特性:

  1. 输入:对于待解决的问题,都要以某种方式交给对应的算法。在算法开始之前最初赋给算法的参数称为输入。比如示例 $1$ 中的输入就是出发地和目的地的参数(北京,上海),示例 $3$ 中的输入就是 $n$ 个整数构成的数组。一个算法可以有多个输入,也可以没有输入。比如示例 $2$ 是对固定问题的求解,就可以看做没有输入。
  2. 输出:算法是为了解决问题存在的,最终总需要返回一个结果。所以至少需要一个或多个参数作为算法的输出。比如示例 $1$ 中的输出就是最终选择的交通方式,示例 $2$ 中的输出就是和的结果。示例 $3$ 中的输出就是排好序的数组。
  3. 有穷性:算法必须在有限的步骤内结束,并且应该在一个可接受的时间内完成。比如示例 $1$,如果我们选择五一从上海到北京去旅游,结果五一纠结了三天也没决定好怎么去北京,那么这个旅游计划也就泡汤了,这个算法自然也是不合理的。
  4. 确定性:组成算法的每一条指令必须有着清晰明确的含义,不能令读者在理解时产生二义性或者多义性。就是说,算法的每一个步骤都必须准确定义而无歧义。
  5. 可行性:算法的每一步操作必须具有可执行性,在当前环境条件下可以通过有限次运算实现。也就是说,每一步都能通过执行有限次数完成,并且可以转换为程序在计算机上运行并得到正确的结果。

2.2 算法追求的目标

研究算法的作用,就是为了使解决问题的方法变得更加高效。对于给定的问题,我们往往会有多种算法来解决。而不同算法的 成本 也是不同的。总体而言,一个优秀的算法至少应该追求以下两个目标:

  1. 所需运行时间更少(时间复杂度更低)
  2. 占用内存空间更小(空间复杂度更低)

假设计算机执行一条命令的时间为 $1$ 纳秒(并不科学),第一种算法需要执行 $100$ 纳秒,第二种算法则需要执行 $3$ 纳秒。如果不考虑占用内存空间的话,很明显第二种算法比第一种算法要好很多。

假设计算机一个内存单元的大小为一个字节,第一种算法需要占用 $3$ 个字节大小的内存空间,第二种算法则需要占用 $100$ 个字节大小的内存空间,如果不考虑运行时间的话,很明显第一种算法比第二种算法要好很多。

现实中算法,往往是需要同时从运行时间、占用空间两个方面考虑问题。当然,运行时间越少,占用空间越小的算法肯定是越好的,但总是会有各种各样的因素导致了运行时间和占用空间不可兼顾。比如,在程序运行时间过高时,我们可以考虑在空间上做文章,牺牲一定量的空间,来换取更短的运行时间。或者在程序对运行时间要求不是很高,而设备内存又有限的情况下,选择占用空间更小,但需要牺牲一定量的时间的算法。

当然,除了对运行时间和占用内存空间的追求外,一个好的算法还应该追求以下目标:

  1. 正确性:正确性是指算法能够满足具体问题的需求,程序运行正常,无语法错误,能够通过典型的软件测试,达到预期的需求。
  2. 可读性:可读性指的是算法遵循标识符命名规则,简洁易懂,注释语句恰当,方便自己和他人阅读,便于后期修改和调试。
  3. 健壮性:健壮性指的是算法对非法数据以及操作有较好的反应和处理。

$3$ 个目标是算法的基本标准,是所有算法所必须满足的。一般我们对好的算法的评判标准就是上边提到的 所需运行时间更少(时间复杂度更低)占用内存空间更小(空间复杂度更低)

3. 总结

3.1 数据结构总结

数据结构可以分为 「逻辑结构」「物理结构」

  • 逻辑结构可分为:集合结构线性结构树形结构图形结构

  • 物理结构可分为:顺序存储结构链式存储结构

「逻辑结构」指的是数据之间的 关系,「物理结构」指的是这种关系 在计算机中的表现形式

例如:线性表中的「栈」,其数据元素之间的关系是一对一的,除头和尾结点之外的每个结点都有唯一的前驱和唯一的后继,这体现的是逻辑结构。而对于栈中的结点来说,可以使用顺序存储(也就是 顺序栈)的方式存储在计算机中,其结构在计算机中的表现形式就是一段连续的存储空间,栈中每个结点和它的前驱结点、后继结点在物理上都是相邻的。当然,栈中的结点也可以使用链式存储(也即是 链式栈),每个结点和它的前驱结点、后继结点在物理上不一定相邻,每个结点是靠前驱结点的指针域来进行访问的。

3.2 算法总结

「算法」 指的就是解决问题的方法。算法是一系列的运算步骤,这些运算步骤可以解决特定的问题。

算法拥有 5 个基本特性:输入输出有穷性确定性可行性

算法追求的目标有 5 个:正确性可读性健壮性所需运行时间更少(时间复杂度更低)占用内存空间更小(空间复杂度更低)


以上就是本篇的全部内容,我们将在下一篇文章具体讲解算法的「时间复杂度」和「空间复杂度」。

参考资料

  • 【文章】数据结构与算法 · 看云
  • 【书籍】大话数据结构——程杰 著
  • 【书籍】趣学算法——陈小玉 著
  • 【书籍】计算机程序设计艺术(第一卷)基本算法(第三版)——苏运霖 译
  • 【书籍】算法艺术与信息学竞赛——刘汝佳、黄亮 著