
后端开发
文章平均质量分 84
Linux服务器开发
C/C++Linux后台服务器开发高级架构师内容包括C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,MongoDB,ZK,流媒体,音视频开发,Linux内核,TCP/IP,协程,DPDK多个高级知识点。
展开
-
详解Redis的主从同步原理
Redis为了保证服务高可用,其中一种实现就是主从模式,即一个Redis服务端作为主节点,若干个Redis服务端作为主节点的从节点,从而实现即使某个服务端不可用时,也不会影响Redis服务的正常使用。本篇文章将对主从模式中为了保证主节点和从节点数据一致而实现的主从同步机制进行学习。Redis主从模式中,一个高可用的Redis服务由一个Redis主节点(Master,后续简称为主节点)和若干Redis从节点(Slave,后续简称为从节点)组成。Redis中采用。原创 2023-03-07 17:03:24 · 1167 阅读 · 1 评论 -
设计模式第八讲:观察者模式和中介者模式详解
(1). 定义指多个对象间存在一对多的依赖关系,当一个对象的状态发生改变时,所有依赖于它的对象都得到通知并被自动更新。这种模式有时又称作发布-订阅模式模型-视图模式,它是对象行为型模式。PS: 观察者模式是 【1对多】的关系,后面的中介者模式是 【多对多】的关系。(2). 优点:A. 降低了目标与观察者之间的耦合关系,两者之间是抽象耦合关系。B. 目标与观察者之间建立了一套触发机制。(3). 缺点:A. 目标与观察者之间的依赖关系并没有完全解除,而且有可能出现循环引用。原创 2023-02-23 20:36:32 · 683 阅读 · 0 评论 -
设计模式第七讲-外观模式、适配器模式、模板方法模式详解
(1). 定义是一种通过为多个复杂的子系统提供一个一致的接口,而使这些子系统更加容易被访问的模式。该模式对外有一个统一接口,外部应用程序不用关心内部子系统的具体的细节,这样会大大降低应用程序的复杂度,提高了程序的可维护性。(2). 优点A. 降低了子系统与客户端之间的耦合度,使得子系统的变化不会影响调用它的客户类。B. 对客户屏蔽了子系统组件,减少了客户处理的对象数目,并使得子系统使用起来更加容易。原创 2023-02-17 14:38:49 · 602 阅读 · 0 评论 -
设计模式第六讲:责任链模式和迭代器模式详解
(1). 定义:为了避免请求发送者与多个请求处理者耦合在一起,将所有请求的处理者通过前一对象记住其下一个对象的引用而连成一条链;当有请求发生时,可将请求沿着这条链传递,直到有对象处理它为止。PS:责任链模式也叫职责链模式。在责任链模式中,客户只需要将请求发送到责任链上即可,无须关心请求的处理细节和请求的传递过程,所以责任链将请求的发送者和请求的处理者解耦了。(2). 优点:A. 降低了对象之间的耦合度。原创 2023-02-15 15:09:54 · 604 阅读 · 0 评论 -
设计模式第五讲-装饰器模式和代理模式详解
(1). 定义:指在不改变现有对象结构的情况下,动态地给该对象增加一些职责(即增加其额外功能)的模式,它属于对象结构型模式。(2). 优点:A. 采用装饰模式扩展对象的功能比采用继承方式更加灵活。B.可以设计出多个不同的具体装饰类,创造出多个不同行为的组合。(3). 缺点装饰模式增加了许多子类,如果过度使用会使程序变得很复杂。(1). 定义:由于某些原因需要给某对象提供一个代理以控制对该对象的访问。这时,访问对象不适合或者不能直接引用目标对象,代理对象作为访问对象和目标对象之间的中介。原创 2023-02-14 14:32:37 · 757 阅读 · 0 评论 -
设计模式-值类型与引用类型、深拷贝与浅拷贝、原型模式详解
(1). 分类值类型包括:布尔类型、浮点类型(float、double、decimal、byte)、字符类型(char)、整型(int、long、short等)、枚举(entum)、结构体(struct)。引用类型:数组、字符串(string)、类、接口、委托(delegate)。(2).内存存储值类型数据存放在栈stack中, 引用类型地址存放栈stack中,数据存放在堆heap中。值类型变量声明后,不管是否赋值,都会在在栈中分配内存空间。原创 2023-02-11 17:47:34 · 767 阅读 · 0 评论 -
设计模式-组合模式和建筑者模式详解
(1). 定义:有时又叫作部分-整体模式,它是一种将对象组合成树状的层次结构的模式,用来表示“部分-整体”的关系,使用户对单个对象和组合对象具有一致的访问性。(2). 优点:A. 组合模式使得客户端代码可以一致地处理单个对象和组合对象,无须关心自己处理的是单个对象,还是组合对象,这简化了客户端代码;B. 更容易在组合体内加入新的对象,客户端不会因为加入了新的对象而更改源代码,满足“开闭原则”;(3). 缺点A. 设计较复杂,客户端需要花更多时间理清类之间的层次关系;B. 不容易限制容器中的构件。原创 2023-02-10 20:35:05 · 898 阅读 · 0 评论 -
单线程 Redis 如此之快的 4 个原因
作为内存中数据存储,Redis 以其速度和性能着称,通常被用作大多数后端服务的缓存解决方案。但是,在内部,Redis 采用单线程架构。为什么单线程设计依然会有这么高的性能?如果利用多线程并发处理请求不是更好吗?在本文中,让我们深入探讨为什么 Redis 才有单线程架构,依然如此之快,主要从下面4个方面讲解。内存数据存储优良的数据结构单线程架构非阻塞IO让我们一一剖析。综上所述,单线程架构是Redis团队经过时间考验的深思熟虑的选择。原创 2023-02-07 16:30:45 · 1655 阅读 · 1 评论 -
深入浅出学习透析Nginx服务器的架构分析及原理分析「底层技术原理+运作架构机制」
Nginx再次回顾也许你已经忘记了Nginx是做什么的?我来再次给你夯实一下概念。多协议反向代理Nginx是个高性能的Web和反向代理服务器及HTTP服务器,它能反向代理HTTP,HTTPS和邮件相关(SMTP,POP3,IMAP)的协议链接,还可以提供了负载均衡以及HTTP缓存。原创 2023-02-03 15:16:12 · 1320 阅读 · 0 评论 -
宕机了,Redis 如何避免数据丢失?
如果有人问你:"你会把 Redis 用在什么业务场景下?我想你大概率会说:"我会把它当作缓存使用,因为它把后端数据库中的数据存储在内存中,然后直接从内存中读取数据,响应速度会非常快。没错,这确实是 Redis 的一个普遍使用场景,但是,这里也有一个绝对不能忽略的问题:一旦服务器宕机,内存中的数据将全部丢失。目前,Redis 的持久化主要有两大机制,即AOF(Append Only File)日志和 RDB(Redis DataBase) 快照。原创 2023-02-02 14:42:32 · 463 阅读 · 0 评论 -
MySQL 中主从之间是怎样保证数据一致的呢?
今天,我们介绍了 MySQL 数据库主从复制过程中可能会遇到的一些问题。其中最主要的就是 binlog 日志在 STATEMENT 类型下有着存储数据量小的优点,但是也有导致数据不一致的情况;ROW 类型能够有效地解决数据不一致这种情况,但是也有存储数据量大这一缺点;MySQL 数据库结合前面两种类型的优点,又为我们提供了一个 mixed 类型。在日常的生产环境中,常用的 binlog 日志类型就是 mixed 类型。原文链接:MySQL 中主从之间是怎样保证数据一致的呢?原创 2023-01-31 16:04:34 · 1399 阅读 · 0 评论 -
树与二叉树深度剖析(二)
(1). 第一个节点先成为表示树的根(2). 第二个结点插入时变为根,原根结点变为新结点的左孩子。(3). 插入节点为数字时,沿根结点右链插入到最右端。(4). 插入节点为操作符时,先与根结点操作符优先级对比。a.优先级不高时,新结点成为根结点,原表达式成为新结点的左子树。b.优先级高时,新结点成为根结点的右孩子,原根结点的右孩子成为新结点的左子树。代码分享:/// 树节点类set;} //左孩子set;} //右孩子set;} //数据} //是否为操作符/// 数据构造。原创 2023-01-29 14:54:51 · 303 阅读 · 0 评论 -
树与二叉树深度剖析(一)
(1) 树结构是一种非线性存储结构,存储的是具有“一对多”关系的数据元素的集合。(2) 树(Tree)是n(n≥0)个节点(Node)的有限集合。在任意一颗非空树中,有且仅有一个特定的成为根(Root)的节点,当n>1时,其余节点分成m(m>0)个互不相交的有限集T1,T2,……,Tm,其中每一个集合本身又是一棵树,并且称为根的子树。树的定义是递归的,即在树的定义中又用到了树的概念,它刻画了树固有的特性,即一棵树有若干个子树构成,而子树又由更小的若干子树构成。原创 2023-01-28 16:13:43 · 616 阅读 · 0 评论 -
从状态机的角度async和await的实现原理
(1).含义:通常我们所说的状态机(State Machine)指的是有限状态自动机的简称,是现实事物运行规则抽象而成的一个数学模型,可以理解成一个状态转换图。(状态机是计算机科学的重要基础概念之一,也可以说是一种总结归纳问题的思想,应用范围非常广泛)(2).例子:自动门有两个状态,open 和 closed ,closed 状态下,如果读取开门信号,那么状态就会切换为 open。原创 2023-01-13 14:30:43 · 791 阅读 · 0 评论 -
怎样快速地迁移 MySQL 中的数据?
我们可以看到的是查询数据的时候报了一个 1146 的错误,这是因为 INnoDB 存储引擎中的数据表是需要在 MySQL 数据库的数据字典中注册的,我们直接将数据文件复制过去的时候并没有在数据字典中注册,换句话说就是在把数据复制过去之后,还需要在数据字典中注册数据库系统才能正常识别。更多C++后台开发技术点知识内容包括C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,MongoDB,ZK,流媒体,音视频开发,Linux内核,TCP/IP,协程,DPDK多个高级知识点。原创 2023-01-12 14:37:52 · 638 阅读 · 0 评论 -
TiDB 底层存储结构 LSM 树原理介绍
LSM 树(Log-Structured-Merge-Tree) 日志结构合并树由 Patrick O’Neil 等人在论文《The Log-Structured Merge Tree》(www.cs.umb.edu/~poneil/lsm…LSM 树的核心特点是利用顺序写来提高写性能,代价就是会稍微降低读性能(读放大),写入量增大(写放大)和占用空间增大(空间放大)。原创 2023-01-11 15:02:26 · 434 阅读 · 0 评论 -
从实战出发,聊聊缓存数据库一致性
在云服务中,缓存是极其重要的一点。所谓缓存,其实是一个高速数据存储层。当缓存存在后,日后再次请求该数据就会直接访问缓存,提升数据访问的速度。但是缓存存储的数据通常是短暂性的,这就需要经常对缓存进行更新。而我们操作缓存和数据库,分为读操作和写操作。读操作的详细流程为,请求数据,如缓存中存在数据则直接读取并返回,如不存在则从数据库中读取,成功之后将数据放到缓存中。原创 2023-01-10 15:33:30 · 625 阅读 · 0 评论 -
MySQL字符集和排序规则详解
更多C++后台开发技术点知识内容包括C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,MongoDB,ZK,流媒体,音视频开发,Linux内核,TCP/IP,协程,DPDK多个高级知识点。排序规则的命令通常是以对应的字符集的名字为开头,并以自己的特定属性结尾,比如排序规则utf8_general_ci和latin1_swedish_ci就分别是对应utf8和latin1字符集的排序规则。A. 当仅指定了字符集而没有指定排序规则时,则会使用该字符集的默认排序规则。原创 2023-01-07 14:24:18 · 973 阅读 · 0 评论 -
高性能网关基石——OpenResty
这边推荐使用 xxx_by_lua_file,它彻底分离了配置文件与业务代码,让两者可以独立部署,而且文件形式也让我们更容易以模块的方式管理组织 Lua 程序。更多C++后台开发技术点知识内容包括C/C++,Linux,Nginx,ZeroMQ,MySQL,Redis,MongoDB,ZK,流媒体,音视频开发,Linux内核,TCP/IP,协程,DPDK多个高级知识点。【文章福利】另外还整理一些C++后台开发架构师 相关学习资料,面试题,教学视频,以及学习路线图,免费分享有需要的可以点击领取。原创 2023-01-04 14:59:25 · 1062 阅读 · 0 评论 -
说透IO多路复用模型
在说IO多路复用模型之前,我们先来大致了解下Linux文件系统。在Linux系统中,不论是你的鼠标,键盘,还是打印机,甚至于连接到本机的socket client端,都是以文件描述符的形式存在于系统中,诸如此类,等等等等,所以可以这么说,一切皆文件。来看一下系统定义的文件描述符说明:从上面的列表可以看到,文件描述符0,1,2都已经被系统占用了,当系统启动的时候,这三个描述符就存在了。其中0代表标准输入,1代表标准输出,2代表错误输出。当我们创建新的文件描述符的时候,就会在2的基础上进行递增。原创 2022-12-29 15:32:04 · 616 阅读 · 0 评论 -
内网穿透你真的了解吗?
本文所介绍的内网穿透技术相关的实现方式其实在我们的日常开发生活中有更多的使用场景,当我们深入了解了当前 IP 地址以及内外网的实现方式后,我们不难发现,当我们将内网穿透的图片稍加修改后就成为了我们常用的另一种功能的实现方式(VPN实现原理):原文作者:内网穿透你真的了解吗?- 掘金。原创 2022-12-28 15:44:25 · 803 阅读 · 0 评论 -
MySQL的数据类型和存储引擎介绍
存储引擎是 MySQL 中具体与文件打交道的子系统,它是根据 MySQL AB 公司提供的文件访问层抽象接口定制的一种文件访问机制,这种机制就叫作存储引擎,下面是一些常用的存储引擎,有远古时期的 MyISAM、支持事务的 InnoDB、内存类型的 Memory、归档类型的 Archive、列式存储的 Infobright,以及一些新兴的存储引擎,以 RocksDB 为底层基础的 MyRocks 和 RocksDB,和以分形树索引组织存储的 TokuDB。InnoDB 支持外键,MyISAM 不支持;原创 2022-12-23 15:01:26 · 432 阅读 · 0 评论 -
Redis架构演变之主从、Sentinel哨兵、Cluster(通信、分片、路由等机制)
(1). 客户端分片方案A. 哈希取模:hash(key)% N,hash代表一种散列算法,N代表redis服务器的数量。这种算法实现起来非常简单,但是缺点也是非常明显的,当服务器数量N增加或者减少的时候,原先的缓存数据定位几乎失效,缓存数据定位失效意味着要到数据库重新查询,这对于高并发的系统来说是致命的。B. 一致性哈希算法:将key和server都进行hash,分配在闭环上,采用临近原则,key 找 离它最近的server节点进行存储。原创 2022-12-22 15:10:00 · 715 阅读 · 0 评论 -
消息中间件执行原理
消息中间件是指在分布式系统中完成消息的发送和接收的基础软件。消息中间件也可以称消息队列(Message Queue / MQ),用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型,可以在分布式环境下扩展进程的通信。简而言之,互联网场景中经常使用消息中间件进行消息路由、订阅发布、异步处理等操作,来缓解系统的压力。原创 2022-12-21 14:40:34 · 671 阅读 · 0 评论 -
数据存储,消息队列的高可用保障
理解好RabbitMQ 中 Broker 存储的组成要素 CommitLog,ConsumeQueue,IndexFile。当 Broker 收到消息存储请求时,通过调用 CommitLog 对应的 MappedFile,把消息写入MappedFile的MeppedByteBuffer(内存映射)。原创 2022-12-20 14:49:48 · 227 阅读 · 0 评论 -
掌握分布式环境缓存更新策略,提高缓存与数据库双写一致性!
三种缓存模式优缺点:Cache Aside 更新模式实现起来比较简单,但是需要维护两个数据存储,一个是缓存(Cache),一个是数据库(Repository)。Read/Write Through 更新模式只需要维护一个数据存储(缓存),但是实现起来要复杂一些。原创 2022-12-13 15:42:01 · 259 阅读 · 0 评论 -
线性表→顺序表→链表 逐个击破
顺序表,全名"顺序存储结构",是线性表的一种。我们知道线性表是用来存储逻辑关系为 "一对一" 的数据,顺表也不例外。顺序表存储数据时,会提前申请一整块足够大小的物理空间,然后将数据依次存储起来,存储时做到数据元素之间不留一丝缝隙。例如,使用顺序表存储集合 {1,2,3,4,5},数据最终的存储状态如下图:由此我们可以得出,将“具有 '一对一' 逻辑关系的数据按照次序连续存储到一整块物理空间上”的存储结构就是顺序存储结构。顺序表存储数据同数组非常接近。其实,顺序表存储数据使用的就是数组。原创 2022-12-10 14:14:31 · 849 阅读 · 0 评论 -
Redis 为什么这么快,你知道 I/O 多路复用吗?
现在,我们知道啦,Redis 为什么快了吧。Redis 单线程是指在网络 I/O 和 键值的读写操作是有一个线程来完成的,采用单线程的好处是避免了多线程并发需要竞争获取锁。单线程之所以性能高效是因为其选择了 I/O 多路复用模型。搞懂了 select/epoll 这这些,慢慢会发现自己会逐渐比身边的伙伴优秀一些。原文链接:https://juejin.cn/post/7170712250880606221。原创 2022-12-09 14:39:29 · 235 阅读 · 0 评论 -
Redis缓存雪崩、击穿、穿透、双写一致性、并发竞争、热点key重建优化、BigKey的优化 等解决方案
在Redis中,一个字符串最大512MB,一个二级数据结构(例如hash、list、set、zset)可以存储大约40亿个(2^32-1)个元素,但实际中如果下面两种情况,我就会认为它是bigkey。(1). 字符串类型:它的big体现在单个value值很大,一般认为超过10KB就是bigkey。(2). 非字符串类型:哈希、列表、集合、有序集合,它们的big体现在元素个数太多。一般来说,string类型控制在10KB以内,hash、list、set、zset元素个数不要超过5000。原创 2022-12-08 14:50:31 · 2121 阅读 · 1 评论 -
Redis数据持久化机制(备份恢复)、缓存淘汰策略、主从同步原理、常见规范与优化详解
Redis 提供了 RDB 和 AOF 两种持久化方式,默认开启的是RDB,如果需要AOF,需要手动修改配置文件进行开启。 RDB:是一种对Redis存在内存中的数据周期性的持久化机制,将内存中的数据以快照的形式硬盘,实质上是fork了一个子进程在执行数据存储,采用的是二进制压缩的存储模式。如图: AOF:是以文本日志的形式记录Redis的每一个写入、删除请求(查询请求不处理),它是以追加的方式(append-only)写入,没有磁盘寻址的开销,所以写入速度非常快(类似mysql的binlog)。如图:(原创 2022-12-07 15:08:07 · 713 阅读 · 0 评论 -
Redis事务、pub/sub、PipeLine-管道、benchmark性能测试详解
(1). 原子性一个事务(transaction)中的所有操作,要么全部完成,要么全部不完成,不会结束在中间某个环节。事务在执行过程中发生错误,会被恢复(Rollback)到事务开始前的状态,就像这个事务从来没有执行过一样。 Redis的事务并不是我们传统意义上理解的事务,我们都知道 单个 Redis 命令的执行是原子性的,但 Redis 没有在事务上增加任何维持原子性的机制,所以 Redis 事务的执行并不是原子性的。事务可以理解为一个打包的批量执行脚本,但批量指令并非原子化的操作,中间某条指令的失败不会原创 2022-12-06 14:55:27 · 818 阅读 · 0 评论 -
Nginx动静分离、缓存配置、性能调优、集群配置
1个web程序:部署在7061端口,启动 【dotnet NginxWeb.dll --urls="http://*:7061" --ip="127.0.0.1" --port=7061】Nginx程序:监听7000端口 比如单独启动部署在7061端口下的web程序,进行访问,我们会发现,除了请求的加载,还有很多静态 css、js、图片等资源的加载,这些资源的加载也是占服务器带宽的,假设带宽为1m,几个大图片直接就占满了。所以这里引入动静分离,将静态资源单独隔离出来,不占据主服务器的带宽,同时也有利于静态原创 2022-12-03 14:53:41 · 913 阅读 · 0 评论 -
Redis之String类型和Hash类型的介绍和案例应用
典型的Key-Value集合,如果要存实体,需要序列化成字符串,获取的时候需要反序列化一下。原创 2022-12-02 14:50:02 · 730 阅读 · 0 评论 -
MySQL索引底层数据结构原理剖析
我们平时所说的:聚集索引(主键索引),次要索引,覆盖索引,复合索引,前缀索引,唯一索引在MySQL5.7和 8.0版本默认都是使用索引,除此之外还有。至于MySQL5.7之前版本,这里就不过多探究了。原创 2022-12-01 15:25:56 · 294 阅读 · 0 评论 -
ThreadPool的线程开启、线程等待、线程池的设置、定时功能
ThreadPool简介:ThreadPool是一个线程池,当你需要开启n个线程时候,只需把这个指令抛给线程池,它将自动分配线程进行处理,它诞生于.Net 2.0时代。ThreadPool与Thread的区别:①:Thread每开启一个异步任务,就需要使用一个Thread,具有专一性,即使Thread已经死掉,仍然需要占用资源。②:ThreadPool能实现n个线程处理n+m个异步任务,且没有死线程,默认都是初始化的。原创 2022-11-25 14:03:41 · 477 阅读 · 0 评论 -
Nginx负载均衡配置、限流配置、Https配置详解
通过proxy_pass 可以把请求代理至后端服务,但是为了实现更高的负载及性能, 我们的后端服务通常是多个, 这个是时候可以通过upstream 模块实现负载均衡。原创 2022-11-24 15:17:37 · 886 阅读 · 0 评论 -
MySQL的存储引擎及常用数据类型介绍
MySQL中的数据用各种不同的技术存储在文件(或者内存)中。这些技术中的每一种技术都使用不同的存储机制、索引技巧、锁定水平并且最终提供不同的功能和能力。通过选择不同的技术,你能够获得额外的速度或者功能,从而改善你的应用的整体功能。。。InnoDB 存储引擎提供了具有提交、回滚和崩溃恢复能力的事务安全。但,且会占用更多的磁盘空间以保留数据和索引。原创 2022-11-23 15:25:06 · 171 阅读 · 0 评论 -
栈简介、手撸顺序栈、手撸链栈和栈的应用
栈是一种只能从表的一端存取数据且遵循 "先进后出"("后进先出") 原则的线性存储结构。栈也是用来存储逻辑关系为 "一对一" 数据的线性存储结构。C#中提供顺序栈:Stack,它不是线程安全的;分析:(1). 栈只能从表的一端存取数据,另一端是封闭的(2). 在栈中,无论是存数据还是取数据,都必须遵循"先进后出"的原则,即最先进栈的元素最后出栈。原创 2022-11-22 15:25:07 · 250 阅读 · 0 评论 -
数据库索引和EFCore的索引映射
索引用于快速找出在某个列中有某一特定值的行,不使用索引,数据库必须从第一条记录开始读完整个表,直到找出相关的行。表越大,查询数据所花费的时间越多, 如果表中查询的列有一个索引,数据库能快速到达一个位置去搜索数据。原创 2022-11-21 15:50:08 · 306 阅读 · 0 评论 -
Redis分布式锁剖析和客户端的实现
在传统的单体项目中,即部署到单个IIS上,针对并发问题,比如进销存中的出库和入库问题,多个人同时操作,属于一个IIS进程中多个线程并发操作的问题,这个时候可以引入线程锁lock/Monitor等,轻松解决这类问题。但是随着业务量的逐渐增大,比如"秒杀业务", 肯定是集群部署,这个时候线程锁已经没用了, 必须引入分布式锁。 常见的分布式锁有:数据库、zookeeper、redis. 本节重点介绍redis的分布式锁.如下图: (1).在分布式系统环境下,一个锁在同一时间只能被一个服务器获取;(这是所有分布式原创 2022-11-19 15:01:12 · 186 阅读 · 0 评论