程序算法
奇妙的水-概率的公理化定义
2023年3月16日发(作者：健康知识问答)程序员必须知道⼁10⼤基础实⽤算法及其讲解！
算法⼀：快速排序算法
快速排序是由东尼·霍尔所发展的⼀种排序算法。在平均状况下，排序n个项⽬要Ο(nlogn)次⽐较。在最坏状况下则需要Ο(n2)次⽐较，但
这种状况并不常见。事实上，快速排序通常明显⽐其他Ο(nlogn)算法更快，因为它的内部循环（innerloop）可以在⼤部分的架构上很有
效率地被实现出来。
快速排序使⽤分治法（Divideandconquer）策略来把⼀个串⾏（list）分为两个⼦串⾏（sub-lists）。
算法步骤：
1从数列中挑出⼀个元素，称为“基准”（pivot），
2重新排序数列，所有元素⽐基准值⼩的摆放在基准前⾯，所有元素⽐基准值⼤的摆在基准的后⾯（相同的数可以到任⼀边）。在这个分区
退出之后，该基准就处于数列的中间位置。这个称为分区（partition）操作。
3递归地（recursive）把⼩于基准值元素的⼦数列和⼤于基准值元素的⼦数列排序。
递归的最底部情形，是数列的⼤⼩是零或⼀，也就是永远都已经被排序好了。虽然⼀直递归下去，但是这个算法总会退出，因为在每次的迭
代（iteration）中，它⾄少会把⼀个元素摆到它最后的位置去。
算法⼆：堆排序算法
堆排序（Heapsort）是指利⽤堆这种数据结构所设计的⼀种排序算法。堆积是⼀个近似完全⼆叉树的结构，并同时满⾜堆积的性质：即⼦
结点的键值或索引总是⼩于（或者⼤于）它的⽗节点。
堆排序的平均时间复杂度为Ο(nlogn)。
算法步骤：
1.创建⼀个堆H[0..n-1]
2.把堆⾸（最⼤值）和堆尾互换
3.把堆的尺⼨缩⼩1，并调⽤shift_down(0),⽬的是把新的数组顶端数据调整到相应位置
4.重复步骤2，直到堆的尺⼨为1
算法三：归并排序
归并排序（Mergesort，台湾译作：合并排序）是建⽴在归并操作上的⼀种有效的排序算法。该算法是采⽤分治法（Divideand
Conquer）的⼀个⾮常典型的应⽤。
算法步骤：
1.申请空间，使其⼤⼩为两个已经排序序列之和，该空间⽤来存放合并后的序列
2.设定两个指针，最初位置分别为两个已经排序序列的起始位置
3.⽐较两个指针所指向的元素，选择相对⼩的元素放⼊到合并空间，并移动指针到下⼀位置
4.重复步骤3直到某⼀指针达到序列尾
5.将另⼀序列剩下的所有元素直接复制到合并序列尾
算法四：⼆分查找算法
⼆分查找算法是⼀种在有序数组中查找某⼀特定元素的搜索算法。搜素过程从数组的中间元素开始，如果中间元素正好是要查找的元素，则
搜素过程结束；如果某⼀特定元素⼤于或者⼩于中间元素，则在数组⼤于或⼩于中间元素的那⼀半中查找，⽽且跟开始⼀样从中间元素开始
⽐较。如果在某⼀步骤数组为空，则代表找不到。这种搜索算法每⼀次⽐较都使搜索范围缩⼩⼀半。折半搜索每次把搜索区域减少⼀半，时
间复杂度为Ο(logn)。
算法五：BFPRT(线性查找算法)
BFPRT算法解决的问题⼗分经典，即从某n个元素的序列中选出第k⼤（第k⼩）的元素，通过巧妙的分析，BFPRT可以保证在最坏情况下
仍为线性时间复杂度。该算法的思想与快速排序思想相似，当然，为使得算法在最坏情况下，依然能达到o(n)的时间复杂度，五位算法作者
做了精妙的处理。
算法步骤：
1.将n个元素每5个⼀组，分成n/5(上界)组。
2.取出每⼀组的中位数，任意排序⽅法，⽐如插⼊排序。
3.递归的调⽤selection算法查找上⼀步中所有中位数的中位数，设为x，偶数个中位数的情况下设定为选取中间⼩的⼀个。
4.⽤x来分割数组，设⼩于等于x的个数为k，⼤于x的个数即为n-k。
5.若i==k，返回x；若ik，在⼤于x的元素中递归查找第i-k⼩的元素。
终⽌条件：n=1时，返回的即是i⼩元素。
算法六：DFS（深度优先搜索）
深度优先搜索算法（Depth-First-Search），是搜索算法的⼀种。它沿着树的深度遍历树的节点，尽可能深的搜索树的分⽀。当节点v的所
有边都⼰被探寻过，搜索将回溯到发现节点v的那条边的起始节点。这⼀过程⼀直进⾏到已发现从源节点可达的所有节点为⽌。如果还存在
未被发现的节点，则选择其中⼀个作为源节点并重复以上过程，整个进程反复进⾏直到所有节点都被访问为⽌。DFS属于盲⽬搜索。
深度优先搜索是图论中的经典算法，利⽤深度优先搜索算法可以产⽣⽬标图的相应拓扑排序表，利⽤拓扑排序表可以⽅便的解决很多相关的
图论问题，如最⼤路径问题等等。⼀般⽤堆数据结构来辅助实现DFS算法。
深度优先遍历图算法步骤：
1.访问顶点v；
2.依次从v的未被访问的邻接点出发，对图进⾏深度优先遍历；直⾄图中和v有路径相通的顶点都被访问；
3.若此时图中尚有顶点未被访问，则从⼀个未被访问的顶点出发，重新进⾏深度优先遍历，直到图中所有顶点均被访问过为⽌。
上述描述可能⽐较抽象，举个实例：
DFS在访问图中某⼀起始顶点v后，由v出发，访问它的任⼀邻接顶点w1；再从w1出发，访问与w1邻接但还没有访问过的顶点
w2；然后再从w2出发，进⾏类似的访问，…如此进⾏下去，直⾄到达所有的邻接顶点都被访问过的顶点u为⽌。
接着，退回⼀步，退到前⼀次刚访问过的顶点，看是否还有其它没有被访问的邻接顶点。如果有，则访问此顶点，之后再从此顶点出发，进
⾏与前述类似的访问；如果没有，就再退回⼀步进⾏搜索。重复上述过程，直到连通图中所有顶点都被访问过为⽌。
算法七：BFS(⼴度优先搜索)
⼴度优先搜索算法（Breadth-First-Search），是⼀种图形搜索算法。简单的说，BFS是从根节点开始，沿着树(图)的宽度遍历树(图)的节
点。如果所有节点均被访问，则算法中⽌。BFS同样属于盲⽬搜索。⼀般⽤队列数据结构来辅助实现BFS算法。
算法步骤：
1.⾸先将根节点放⼊队列中。
2.从队列中取出第⼀个节点，并检验它是否为⽬标。
如果找到⽬标，则结束搜寻并回传结果。
否则将它所有尚未检验过的直接⼦节点加⼊队列中。
3.若队列为空，表⽰整张图都检查过了——亦即图中没有欲搜寻的⽬标。结束搜寻并回传“找不到⽬标”。
4.重复步骤2。
算法⼋：Dijkstra算法
戴克斯特拉算法（Dijkstra’salgorithm）是由荷兰计算机科学家艾兹赫尔·戴克斯特拉提出。迪科斯彻算法使⽤了⼴度优先搜索解决⾮
负权有向图的单源最短路径问题，算法最终得到⼀个最短路径树。该算法常⽤于路由算法或者作为其他图算法的⼀个⼦模块。
该算法的输⼊包含了⼀个有权重的有向图G，以及G中的⼀个来源顶点S。我们以V表⽰G中所有顶点的集合。每⼀个图中的边，都是两个顶
点所形成的有序元素对。(u,v)表⽰从顶点u到v有路径相连。我们以E表⽰G中所有边的集合，⽽边的权重则由权重函数w:E→[0,∞]定
义。因此，w(u,v)就是从顶点u到顶点v的⾮负权重（weight）。边的权重可以想像成两个顶点之间的距离。任两点间路径的权重，就是该
路径上所有边的权重总和。已知有V中有顶点s及t，Dijkstra算法可以找到s到t的最低权重路径(例如，最短路径)。这个算法也可以在⼀个
图中，找到从⼀个顶点s到任何其他顶点的最短路径。对于不含负权的有向图，Dijkstra算法是⽬前已知的最快的单源最短路径算法。
算法步骤：
1.初始时令S={V0},T={其余顶点}，T中顶点对应的距离值
若存在，d(V0,Vi)为弧上的权值
若不存在，d(V0,Vi)为∞
2.从T中选取⼀个其距离值为最⼩的顶点W且不在S中，加⼊S
3.对其余T中顶点的距离值进⾏修改：若加进W作中间顶点，从V0到Vi的距离值缩短，则修改此距离值
重复上述步骤2、3，直到S中包含所有顶点，即W=Vi为⽌
算法九：动态规划算法
动态规划（Dynamicprogramming）是⼀种在数学、计算机科学和经济学中使⽤的，通过把原问题分解为相对简单的⼦问题的⽅式求解复
杂问题的⽅法。动态规划常常适⽤于有重叠⼦问题和最优⼦结构性质的问题，动态规划⽅法所耗时间往往远少于朴素解法。
动态规划背后的基本思想⾮常简单。⼤致上，若要解⼀个给定问题，我们需要解其不同部分（即⼦问题），再合并⼦问题的解以得出原问题
的解。通常许多⼦问题⾮常相似，为此动态规划法试图仅仅解决每个⼦问题⼀次，从⽽减少计算量：⼀旦某个给定⼦问题的解已经算出，
则将其记忆化存储，以便下次需要同⼀个⼦问题解之时直接查表。这种做法在重复⼦问题的数⽬关于输⼊的规模呈指数增长时特别有⽤。
关于动态规划最经典的问题当属背包问题。
算法步骤：
1.最优⼦结构性质。如果问题的最优解所包含的⼦问题的解也是最优的，我们就称该问题具有最优⼦结构性质（即满⾜最优化原理）。最优
⼦结构性质为动态规划算法解决问题提供了重要线索。
2.⼦问题重叠性质。⼦问题重叠性质是指在⽤递归算法⾃顶向下对问题进⾏求解时，每次产⽣的⼦问题并不总是新问题，有些⼦问题会被重
复计算多次。动态规划算法正是利⽤了这种⼦问题的重叠性质，对每⼀个⼦问题只计算⼀次，然后将其计算结果保存在⼀个表格中，当再次
需要计算已经计算过的⼦问题时，只是在表格中简单地查看⼀下结果，从⽽获得较⾼的效率。
算法⼗：朴素贝叶斯分类算法
朴素贝叶斯分类算法是⼀种基于贝叶斯定理的简单概率分类算法。贝叶斯分类的基础是概率推理，就是在各种条件的存在不确定，仅知其出
现概率的情况下，如何完成推理和决策任务。概率推理是与确定性推理相对应的。⽽朴素贝叶斯分类器是基于独⽴假设的，即假设样本每个
特征与其他特征都不相关。
朴素贝叶斯分类器依靠精确的⾃然概率模型，在有监督学习的样本集中能获取得⾮常好的分类效果。在许多实际应⽤中，朴素贝叶斯模型参
数估计使⽤最⼤似然估计⽅法，换⾔之朴素贝叶斯模型能⼯作并没有⽤到贝叶斯概率或者任何贝叶斯模型。
尽管是带着这些朴素思想和过于简单化的假设，但朴素贝叶斯分类器在很多复杂的现实情形中仍能够取得相当好的效果。
“我是⼀名从事了10年开发的⽼程序员，最近我花了⼀些时间整理关于C语⾔、C++，⾃⼰有做的材料的整合，⼀个完整的学习C语⾔、
C++的路线，学习材料和⼯具。全球最⼤的C/C++爱好者就在我这⾥，“企鹅”进（）。这⾥是编程爱好者的聚
集地，欢迎初学和进阶中的⼩伙伴。希望你也能凭⾃⼰的努⼒，成为下⼀个优秀的程序员。⼯作需要、感兴趣、为了⼊⾏、转⾏需要学习
C/C++的伙伴可以跟我⼀起学习！”
关注我，带你遨游代码的世界！