24、Spanner(三):严格串行化的分布式系统

你好,我是徐文浩。 Spanner在设计时候的目标之一,就是需要保障外部一致性(external consistency)。而这个外部一致性,其实也就是我们之前说过的可线性化(Linearizability)。通过上节课的学习,现在我们已经知道了,这...

大数据经典论文解读

25、从S4到Storm(一):当分布式遇上实时计算

你好,我是徐文浩。 到Spanner为止,我们已经把大数据里,关于数据存储和在线服务的重要论文解读完了。从这一讲开始,我们就要开始讲解另一个重要的主题,也就是大数据的流式处理。今天我们解读的第一篇论文,来自一个曾经辉煌但是今天已经逐渐销声匿迹的公司Y...

大数据经典论文解读

26、从S4到Storm(二):位运算是个好东西

你好,我是徐文浩。 上节课里,我们看到了随着时代的变迁,人们已经不满足于通过MapReduce这样批处理的方式进行数据分析了。于是,Yahoo推出了S4,不过S4并没有在历史舞台上站稳脚跟。在S4的论文发表的同一年,我们今天的主角,也就是Storm走...

大数据经典论文解读

27、Kafka(一):消息队列的新标准

你好,我是徐文浩。 过去的两节课里,我给你介绍了S4和Storm这两个流式计算框架相关的论文。不过,在讲解这两篇论文的时候,我们其实没有去搞清楚对应的流式数据是从哪里来的。虽然S4里有Keyless PE,Storm里也有Spout,它们都是框架自己...

大数据经典论文解读

28、Kafka(二):从Lambda到Kappa,流批一体计算的起源

你好,我是徐文浩。 在上节课里,我们已经了解了Kafka的基本架构。不过,对于基于Kafka的流式数据处理,我们还有两个重要的问题没有回答: 第一个,Kafka的分布式是如何实现的呢?我们已经看到了Kafka会对数据进行分区,以进行水平扩展。那么,...

大数据经典论文解读

29、Dataflow(一):正确性、容错和时间窗口

你好,我是徐文浩。 在 [Storm的论文]里,我们看到Storm巧妙地利用了异或操作,能够追踪消息是否在整个Topology中被处理完了,做到了“至少一次(At Least Once)”的消息处理机制。然后,在 [Kafka的论文]里,我们又看到了...

大数据经典论文解读
134567