Codis集群3.03安装配置基础

wenjun8888 • • Linux干货

Codis基础


01.codis是一个分布式的Redis解决方案，对于上层的应用来说，连接Codis Proxy和连接原生的Redis Server没有明显的区别。

  • codis底层会处理请求的转发，不停机的数据迁移等工作，所有后边的一切事情，对于前面客户端来说是透明的，可以简单的认为后边连接是一个内存无限大的Redis服务。

  • codis架构图如下：

clipboard.png

02.codis由codis-proxy，codis-redis，codis-dashboard和zookeeper组成。

  • codis-dashboard，codis的主控制节点。

  • codis-proxy，客户端连接redis的代理工具，本身实现了redis协议，和原生的redis没有太多区别。

  • codis-redis，实现redis实例功能。

  • zookeeper，用来存放数据路由和codis-proxy的节点元信息；codis-proxy之间通过zookeeper来同步信息。

03.实现环境：

  • zookeeper，10.1.20.1

  • zookeeper，10.1.20.2

  • zookeeper，10.1.20.3

  • codis-redis，10.1.20.4

  • codis-redis，10.1.20.5

  • codis-proxy，10.1.20.6

  • codis-proxy，10.1.20.7

  • dashboard，10.1.20.24


zookeeper安装


对象：10.1.20.1，10.1.20.2，10.1.20.3

01.zookeeper是一个分布式的开源框架，它能很好的管理集群，而且提供协调分布式应用的基本服务。

  • 它向外部应用暴露一组通用服务——分布式同步（Distributed Synchronization）、命名服务（Naming Service）、集群维护（Group Maintenance）等，简化分布式应用协调及其管理的难度，提供高性能的分布式服务。

  • zookeeper本身可以以standalone模式（单节点状态）安装运行，不过它的长处在于通过分布式zookeeper集群（一个leader，多个follower），基于一定的策略来保证zookeeper集群的稳定性和可用性，从而实现分布式应用的可靠性。

02.zookeeper集群中主要有两个角色，分别是领导者和学习者。

  • 领导者（leader），用于负责进行投票的发起和决议，更新系统状态。

  • 学习者（learner），包括跟随者（follower）和观察者（observer）。

  • 跟随者用于接受客户端请求并向客户端返回结果，在选主过程中参与投票。

  • 观察者用于接受客户端连接，将写请求转发给领导者；但observer不参加投票过程，只同步leader的状态，observer的目的是为了扩展系统并提高读取速度。

03.zookeeper的集群数量：

  • zookeeper节点部署的越多，服务的可靠性也就越高。

  • zookeeper集群中，超过半数的节点宕机才造成整个集群宕机，所以节点应配置为奇数个。


04.安装jdk：

  • cd /root/Downloads，进入下载目录。

  • tar -zxvf jdk-7u60-linux-x64.tar.gz -C /usr/local/，解压至指定目录。

  • vim /etc/profile，修改profile文件，添加如下内容：

export JAVA_HOME=/usr/local/jdk1.7.0_60

export PATH=$JAVA_HOME/bin:$PATH

export PATH=$JAVA_HOME/jre/bin:$PATH

export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

  • source /etc/profile，载入profile文件。

  • java -version，确认出现“Java(TM) SE Runtime Environment”等信息确保jdk安装好。

05.安装zookeeper：

  • cd /root/Downloads，进入下载目录。

  • wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.8/zookeeper-3.4.8.tar.gz，下载zookeeper安装包。

  • tar -zxvf zookeeper-3.4.8.tar.gz -C /usr/local/，解压至指定目录。

  • mv /usr/local/zookeeper-3.4.8 /usr/local/zookeeper，更改目录名。

  • chown -R root:root /usr/local/zookeeper，更改目录属主属组。

  • vim /etc/profile，修改profile文件，添加如下内容：

export ZOOKEEPER_HOME=/usr/local/zookeeper

export PATH=$PATH:$ZOOKEEPER_HOME/bin

  • source /etc/profile，载入profile文件。

  • cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg，修改配置文件名称。

06.启动zookeeper：

  • /usr/local/zookeeper/bin/zkServer.sh start，在任意一台服务器上启动zookeeper。

  • netstat -ntlp | grep 2181，查看2181是否启动。

  • /usr/local/zookeeper/bin/zkServer.sh status，确认zookeeper已启动，并且为standalone状态。

07.配置zookeeper集群：

  • vim /usr/local/zookeeper/conf/zoo.cfg，修改如下参数：

dataLogDir=/usr/local/zookeeper/log

dataDir=/usr/local/zookeeper/data

clientPort=2181

server.1=10.1.20.1:2888:3888

server.2=10.1.20.2:2888:3888

server.3=10.1.20.3:2888:3888

  • mkdir -p /usr/local/zookeeper/{log，data}，创建对应的目录。

  • echo "1" > /usr/local/zookeeper/data/myid，在10.1.20.1服务器上执行，数字根据配置文件中，ip对应的server.#中的数字决定。

  • echo "2" > /usr/local/zookeeper/data/myid，在10.1.20.2服务器上执行。

  • echo "3" > /usr/local/zookeeper/data/myid，在10.1.20.3服务器上执行。

  • /usr/local/zookeeper/bin/zkServer.sh start，启动每天服务器上的zookeeper。

  • /usr/local/zookeeper/bin/zkServer.sh status，分别查询状态，应有1台为leader，2台为follewer。

  • /usr/local/zookeeper/bin/zkCli.sh -server 10.1.20.2:2181，从服务器连接其他zookeeper，查看是否成功。


Codis安装

对象：10.1.20.4，10.1.20.5，10.1.20.6，10.1.20.7，10.1.20.24

01.安装基本依赖包：

  • yum install -y git gcc make g++ gcc-c++ automake openssl-devel zlib-*

02.安装go语言包：

export GOROOT=/usr/local/go

export GOPATH=/usr/local/codis

export PATH=$PATH:$GOPATH/bin:$GOROOT/bin

  • source /etc/profile，刷新/etc/profile文件。

  • go version，测试go语言是否正常。

  • vim /opt/hello.go，测试go命令是否能正常使用，添加如下内容：

package main

    import "fmt"


    func main(){

        fmt.Printf("hello world\n")

        }

  • go run /opt/hello.go，测试输出hello world。

03.安装godep：

  • mkdir -p /usr/local/codis/src/github.com/tools，创建codis目录。

  • cd /usr/local/codis/src/github.com/tools，进入codis工具目录。

  • go get -u github.com/tools/godep，下载godep。

  • cd godep/，进入安装目录。

  • go install ./，安装godep，检查该程序有无安装在/usr/local/codis/bin下。

  • which godep，测试系统是否识别。

04.安装codis：

  • mkdir -p /usr/local/codis/src/github.com/CodisLabs，创建安装目录。

  • cd /root/Downloads，进入下载目录。

  • tar -zxvf /root/Downloads/codis-3.0.3.tar.gz，解压安装文件。

  • cp -rf /root/Downloads/codis-3.0.3 /usr/local/codis/src/github.com/CodisLabs/codis，复制安装目录。

  • cd /usr/local/codis/src/github.com/CodisLabs/codis，进入安装目录。

  • make && make gotest，测试安装，确定不报错为安装成功。

  • 安装成功后，会在/usr/local/codis/src/github.com/CodisLabs/codis/bin目录下产生如下文件：

1.png

Codis集群3.03安装配置基础

05.创建程序目录：

  • mkdir -p /codis/{bin,conf,log,scripts,run,database}，创建目录结构。

  • cp -rp /usr/local/codis/src/github.com/CodisLabs/codis/bin/* /codis/bin/，复制因公程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/src/{redis-benchmark,redis-check-aof,redis-check-dump,redis-cli} /codis/bin/，复制redis的程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6379.conf，复制redis配置文件至redis主配置。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6380.conf，复制redis配置文件至redis从配置。

集群配置


01.配置并启动codis-dashboard（10.1.20.24）。

  • /codis/bin/codis-dashboard –default-config | tee /codis/conf/dashboard.toml，生成配置文件。

  • vim /codis/conf/dashboard.toml，修改如下配置：

coordinator_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

product_name = "codis-jym"

  • coordinator_name为外部存储的类型，为zookeeper或者etcd，不能用其他名称；coordinator_addr为外部存储zookeeper的集群地址。

  • product_name为codis集群名称，可以自定义；product_auth为codis集群认证密码，默认为空。

  • nohup /codis/bin/codis-dashboard –config=/codis/conf/dashboard.toml –log=/codis/log/dashboard.log &，启动codis-dashboard，启动后会产生一个18080的端口。


02.配置并启动codis-proxy（10.1.20.6，10.1.20.7）。

  • /codis/bin/codis-proxy –default-config | tee /codis/conf/proxy.toml，产生默认配置文件。

  • vim /codis/conf/proxy.toml，修改如下配置：

product_name = "codis-jym"

jodis_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

  • nohup /codis/bin/codis-proxy –config=/codis/conf/proxy.toml –log=/codis/log/proxy.log &，启动codis-proxy。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.6:11080，将proxy添加进集群管理中。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.7:11080，将proxy添加进集群管理中。

  • http://10.1.20.24:18080/topom，获取dashboard的json文件，查看proxy的状态，如下图：

12.png

  • Codis集群3.03安装配置基础/codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-proxy，查看proxy集群。

03.配置并启动codis-sever（10.1.20.4，10.1.20.5）。

  • vim /codis/conf/redis6379.conf，将6379配置为master服务器，修改如下配置：

pidfile /codis/run/redis6379.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6379.log"

#save 900 1

#save 300 10

#save 60 10000

dbfilename dump6379.rdb

dir /codis/database/redis6379

  • vim /codis/conf/redis6380.conf，将6380配置为master服务器，修改如下配置：

pidfile /codis/run/redis6380.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6380.log"

dbfilename dump6380.rdb

dir /codis/database/redis6380

  • /codis/bin/codis-server /codis/conf/redis6379.conf &，启动6379实例。

  • /codis/bin/codis-server /codis/conf/redis6380.conf &，启动6380实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=1，新建一个redisgroup，gid为1。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=2，新建一个redisgroup，gid为2。

10.1.20.4上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.4:6379，将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.4:6380，将6380加入gid2。

10.1.20.5上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.5:6379，将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.5:6380，将6379加入gid1。

  • 实例的放置倾向于交叉放置，每台codis-sever上放置不同的主从实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-group，查看group情况。

04.配置并启动codis-sever（10.1.10.24，可选）：

  • /codis/bin/codis-admin –dashboard-list –zookeeper=10.1.20.1:2181 | tee /codis/conf/fe.json，通过zookeeper下载fe配置文件。

  • nohup /codis/bin/codis-fe –dashboard-list=/codis/conf/fe.json –listen=10.1.20.24:8080 &，启动codis-fe。

  • http://10.1.20.24:8080/，访问图形化界面。

原创文章，作者：wenjun8888，如若转载，请注明出处：http://www.178linux.com/49320

赞 (0)
wenjun8888wenjun8888
0
上一篇 2016-09-26
下一篇 2016-09-26

相关推荐

  • keepalived双主模型高可用Nginx服务 Linux干货

    keepalived双主模型高可用Nginx服务

    配置前提： (1) 各节点时间必须同步；             ntp, chrony (2) 确保iptables及selinux不会成为阻碍； (3) 各节点之间可通过主机名互相通信（对KA并非必须）；   &nb…

    2017-07-06

  • Python修饰器的函数式编程

    Python的修饰器的英文名叫Decorator，当你看到这个英文名的时候，你可能会把其跟Design Pattern里的Decorator搞混了，其实这是完全不同的两个东西。虽然好像，他们要干的事都很相似——都是想要对一个已有的模块做一些“修饰工作”，所谓修饰工作就是想给现有的模块加上一些小装饰（一些小功能，这些小功能可能好多模块都会用到），但又不让这个小…

    Linux干货 2016-08-15

  • HTTP详解(1)-工作原理

    1. HTTP简介          HTTP协议（HyperText Transfer Protocol，超文本传输协议）是用于从WWW服务器传输超文本到本地浏览器的传送协议。它可以使浏览器更加高效，使网络传输减少。它不仅保证计算机正确快速地传输超文本文档，还确定传输…

    Linux干货 2015-04-04
  • Linux命令中特殊符号的用法 Linux干货

    Linux命令中特殊符号的用法

    Linux命令中特殊符号的用法 在马哥教育学习了将近一周的Linux运维，由最初对Linux系统的一无所知，到了解了Linux的发展历程，学习了一些基本命令，惊叹于Linux的强大功能。下面根据我学到的，介绍一下关于Linux命令中特殊符号的用法。 $的用法 1.$（）或’’引用命令执行的结果 例如：如果我们想要创建一个以当前日期命名的目录，可以执行 #mk…

    2017-07-15
  • linux 磁盘管理与文件挂载 Linux干货

    linux 磁盘管理与文件挂载

        磁盘对于linux来说是至关重要的而且与它 的中心思想相关联，一切皆文件，因此就把磁盘分为了好多类型， 如：块设备，字符设备。对于每类磁盘的使用，我们对它进行了分区与规划，这就用到我们的分区与查看工具 fdisk，理论上磁盘容量足够时，可以建立任意数量的分区。  一.磁盘的管理与工具 1.  fdisk 强大的…

    2017-06-17
  • vim的简单应用 Linux干货

    vim的简单应用

    vim的简单应用         之前我们学习过Linux的思想，其中有一条就是一切皆文本，所以在这里大部分配置文件都是文本模式存在的，那么使用简单的文字编辑器就可以修改配置了，之前我们学习过nano文本编辑器，但是Vim会比nano使用的更为方便，也更强大。 基本现在所有的Li…

    2017-06-17
电话咨询
在线咨询