MongoDB集群

MongoDB主从复制

主从复制原理

	在主从结构中，主节点的操作记录成为oplog(operation log)。oplog保存在系统数据库local中的oplog.$main中，这个集合的每个文档就是在主服务器上执行的操作。
	从服务器会定期从主服务中获取oplog记录，然后在本机执行，以确保从服务器与主服务器的数据一致

示例：搭建主从复制

环境描述：
	192.168.122.101	node01	master服务器
	192.168.122.102	node02	slave服务器

1、确保时间同步、主机名解析、关闭防火墙及SELinux

2、在两台机器上安装mongodb

3、配置master服务器如下

[root@node01 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.101
port=6000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

master=true

4、配置slave服务器如下

[root@node02 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.102
port=7000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

slave=true
source=192.168.122.101:6000

5、分别在两台机器上启动mongod服务，并查看端口

[root@node01 ~]# netstat -antp | grep mongo

6、验证主从数据复制

mongo在从库上默认不可读，需要设置才行。mongodb 3.0版本设置如下：

> rs.slaveOk()

MongoDB副本集(replSet)

mongo副本集/复制集是mongo高可用性特征之一，是有自动故障恢复功能的主要集群。由一个Primary节点和一个或多个Secondary节点组成。
Mongodb客户端的所有数据都写入Primary，Secondary从Primary同步写入的数据，来保持复制集内所有成员存储相同的数据集，提供数据的高可用

复制集的原理

主节点记录所有的变更到oplog日志

辅助节点(Secondary)复制主节点的oplog日志并且将这些日志在辅助节点进行重放

各个节点之间会定期发送心跳信息，一旦主节点宕机，则触发选举一个新的主节点，剩余的辅助节点指向新的主

10s内各辅助节点无法感知主节点的存在，则开始触发选举

通常1分钟内完成主辅助节点切换，10-30s内感知主节点故障，10-30s内完成选举及切换

示例：搭建MongoDB副本集

环境描述：
	192.168.122.101	node01	PRIMARY服务器
	192.168.122.102	node02	SECONDARY服务器
	192.168.122.103	node03	SECONDARY服务器

1、确保时间同步、主机名解析、关闭防火墙及SELinux

2、在各节点安装mongoDB

3、各节点配置文件如下，配置完后启动mongod服务

192.168.122.101：

[root@node01 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.101
port=6000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

replSet=mycluster/192.168.122.102:7000

192.168.122.102：

[root@node02 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.102
port=7000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

replSet=mycluster/192.168.122.103:8000

192.168.87.104:

[root@node03 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.87.104
port=8000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

replSet=mycluster/192.168.122.101:6000

4、连接任意一台机器，初始化副本集

[root@node01 ~]# mongo --host 192.168.122.101 --port 6000

> config = 
	{
		_id: 'mycluster', 
		members: 
		[
			{
				"_id":1,
				"host":"192.168.122.101:6000",
				priority: 3
			},
			
			{
				"_id":2,
				"host":"192.168.122.102:7000",
				priority: 2
			},
			
			{
				"_id":3,
				"host":"192.168.122.103:8000",
				priority: 1
			}
		]
	}	

> rs.initiate(config)
{ "ok" : 1 }

初始化副本集完毕后，会发现三台机器的命令提示符会产生变化如下，其中一台机器被选举为PRIMARY，另外两台机器为SECONDARY

mycluster:PRIMARY>
mycluster:SECONDARY>
mycluster:SECONDARY>

集群创建好后，可以通过> rs.status()查看状态信息

5、测试在PRIMARY中写入数据，并分别在两台secondary查看数据

注意：seondary默认是不允许执行数据读写操作，执行会报错。在seondary执行> rs.slaveOk()后可查看数据，但无法写入数据

6、关闭PRIMARY节点，一断时间后会发现其中一台SECONDARY机器会提升为PRIMARY角色，并可进行读写操作；其他的SECONDARY机器会重新连接新的PRIMARY服务器进行数据复制

MongoDB分片集群

集群角色

	1) mongos
	数据库集群请求的入口，所有的请求都通过mongos进行协调，不需要在应用程序添加一个路由选择器，mongos自己就是一个请求分发中心，它负责把对应的数据请求请求转发到对应的shard服务器上。在生产环境通常有多mongos作为请求的入口，防止其中一个挂掉所有的mongodb请求都没有办法操作。

2)config server
	配置服务器，存储所有数据库元信息（路由、分片）的配置。mongos本身没有物理存储分片服务器和数据路由信息，只是缓存在内存里，配置服务器则实际存储这些数据。mongos第一次启动或者关掉重启就会从 config server 加载配置信息，以后如果配置服务器信息变化会通知到所有的 mongos 更新自己的状态，这样 mongos 就能继续准确路由。在生产环境通常有多个 config server 配置服务器，因为它存储了分片路由的元数据，防止数据丢失！

3)shard
	分片（sharding）是指将数据库拆分，将其分散在不同的机器上的过程。将数据分散到不同的机器上，不需要功能强大的服务器就可以存储更多的数据和处理更大的负载。基本思想就是将集合切成小块，这些块分散到若干片里，每个片只负责总数据的一部分，最后通过一个均衡器来对各个分片进行均衡（数据迁移）。

示例：搭建MongoDB分片集群

环境描述：
	192.168.122.101 node01	shard服务器		端口：6000
	192.168.122.102	node02	shard服务器		端口：7000
	192.168.122.103	node03	配置服务器 		端口：8000.
	192.168.122.104	node05	配置服务器 		端口：8001
	192.168.122.105	node04	路由服务器	    端口：9000

1、确保时间同步、主机名解析、关闭防火墙及SELinux

2、在各节点安装mongoDB

3、两台分片服务器配置如下，并启动mongod服务

192.168.122.101:

[root@node01 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.101
port=6000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

shardsvr=true

[root@node01 ~]# mongod -f /app/mongodb/mongodb.conf

[root@node01 ~]# netstat -antp | grep mongo
tcp 0 0 192.168.122.101:6000 0.0.0.0:* LISTEN 39869/mongod

192.168.122.102:

[root@node02 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.102
port=7000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

shardsvr=true

[root@node02 ~]# mongod -f /app/mongodb/mongodb.conf

[root@node02 ~]# netstat -antp | grep mongo
tcp 0 0 192.168.122.102:7000 0.0.0.0:* LISTEN 40049/mongod

4、MongoDB 3.4版本后要求配置服务器必须配置副本集保证高可用，下述为配置过程【建议使用3台以上的奇数的服务器】

192.168.122.103:

[root@node03 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.103
port=8000
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

replSet=configsrv/192.168.122.104:8001
configsvr=true

[root@node03 ~]# mongod -f /app/mongodb/mongodb.conf

[root@node03 ~]# netstat -antp | grep mongo
tcp 0 0 192.168.122.103:8000 0.0.0.0:* LISTEN 39424/mongod

192.168.122.104:

[root@node05 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.104
port=8001
dbpath=/app/mongodb/data
logpath=/app/mongodb/log/mongo.log
fork=true
logappend=true
directoryperdb=true
auth=false

replSet=configsrv/192.168.122.103:8000
configsvr=true

[root@node05 ~]# mongod -f /app/mongodb/mongodb.conf

[root@node05 ~]# netstat -antp | grep mongo
tcp 0 0 192.168.122.104:8001 0.0.0.0:* LISTEN 1592/mongod

连接任意一台机器，初始化副本集

[root@node03 ~]# mongo --host 192.168.122.103 --port 8000

config =
{
_id: 'configsrv',
members:
[
{
"_id":1,
"host":"192.168.122.103:8000",
priority: 3
},
{
"_id":2,
"host":"192.168.122.104:8001",
priority: 2
}
]
}

rs.initiate(config)
{ "ok" : 1 }

5、配置启动路由服务器，连接配置服务器集群

[root@node04 ~]# cat /app/mongodb/mongodb.conf

bind_ip=192.168.122.105
port=9000
fork=true
logpath=/app/mongodb/log/mongo.log
logappend=true

configdb=configsrv/192.168.122.103:8000,192.168.122.104:8001

[root@node04 ~]# mongos -f /app/mongodb/mongodb.conf

[root@node04 ~]# netstat -antp | grep mongo
tcp 0 0 192.168.122.105:9000 0.0.0.0:* LISTEN 1217/mongos
tcp 0 0 192.168.122.105:58999 192.168.122.103:8000 ESTABLISHED 1217/mongos
tcp 0 0 192.168.122.105:59003 192.168.122.103:8000 ESTABLISHED 1217/mongos
tcp 0 0 192.168.122.105:54410 192.168.122.104:8001 ESTABLISHED 1217/mongos
tcp 0 0 192.168.122.105:54414 192.168.122.104:8001 ESTABLISHED 1217/mongos
[root@node05 ~]#

6、登录路由，添加分片服务器

[root@node04 ~]# mongo --host 192.168.122.105 --port 9000

mongos> use admin

mongos> db.runCommand({addshard: "192.168.122.101:6000",allowLocal:true})
mongos> db.runCommand({addshard: "192.168.122.102:7000",allowLocal:true})
mongos> db.stats()

7、在路由服务器上设置针对哪个数据库进行分片

mongos> db.runCommand({enablesharding: "testdb"})
{ "ok" : 1 }
mongos> db.runCommand({shardcollection: "testdb.tb01",key:{id:1}})
{ "collectionsharded" : "testdb.tb01", "ok" : 1 }
mongos>

8、测试结果，连接路由服务器存储数据

mongos> use testdb

mongos> function add(){
for(var i=0;i<20000;i++){
db.tb01.insert({"id":i+10,"name":"jim"})
}
}
mongos> add()

mongos> db.tb01.stats()
在此命令输出中可看到数据的两个分片

---

修改分片的方式为hash

mongos> use admin
mongos> db.runCommand({enablesharding: "db02"})
mongos> db.runCommand({shardcollection:"db02.tb01", key:{id:"hashed"}})

mongos> use db02
switched to db db02
mongos> function add(){ for(var i=0;i<20000;i++){ db.tb01.insert({id:i+20,"name":"jim"}) } }
mongos> add()