Codis集群3.03安装配置基础

Codis基础


01.codis是一个分布式的Redis解决方案,对于上层的应用来说,连接Codis Proxy和连接原生的Redis Server没有明显的区别。

  • codis底层会处理请求的转发,不停机的数据迁移等工作,所有后边的一切事情,对于前面客户端来说是透明的,可以简单的认为后边连接是一个内存无限大的Redis服务。

  • codis架构图如下:

clipboard.png

02.codis由codis-proxy,codis-redis,codis-dashboard和zookeeper组成。

  • codis-dashboard,codis的主控制节点。

  • codis-proxy,客户端连接redis的代理工具,本身实现了redis协议,和原生的redis没有太多区别。

  • codis-redis,实现redis实例功能。

  • zookeeper,用来存放数据路由和codis-proxy的节点元信息;codis-proxy之间通过zookeeper来同步信息。

03.实现环境:

  • zookeeper,10.1.20.1

  • zookeeper,10.1.20.2

  • zookeeper,10.1.20.3

  • codis-redis,10.1.20.4

  • codis-redis,10.1.20.5

  • codis-proxy,10.1.20.6

  • codis-proxy,10.1.20.7

  • dashboard,10.1.20.24


zookeeper安装


对象:10.1.20.1,10.1.20.2,10.1.20.3

01.zookeeper是一个分布式的开源框架,它能很好的管理集群,而且提供协调分布式应用的基本服务。

  • 它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。

  • zookeeper本身可以以standalone模式(单节点状态)安装运行,不过它的长处在于通过分布式zookeeper集群(一个leader,多个follower),基于一定的策略来保证zookeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。

02.zookeeper集群中主要有两个角色,分别是领导者和学习者。

  • 领导者(leader),用于负责进行投票的发起和决议,更新系统状态。

  • 学习者(learner),包括跟随者(follower)和观察者(observer)。

  • 跟随者用于接受客户端请求并向客户端返回结果,在选主过程中参与投票。

  • 观察者用于接受客户端连接,将写请求转发给领导者;但observer不参加投票过程,只同步leader的状态,observer的目的是为了扩展系统并提高读取速度。

03.zookeeper的集群数量:

  • zookeeper节点部署的越多,服务的可靠性也就越高。

  • zookeeper集群中,超过半数的节点宕机才造成整个集群宕机,所以节点应配置为奇数个。


04.安装jdk:

  • cd /root/Downloads,进入下载目录。

  • tar -zxvf jdk-7u60-linux-x64.tar.gz -C /usr/local/,解压至指定目录。

  • vim /etc/profile,修改profile文件,添加如下内容:

export JAVA_HOME=/usr/local/jdk1.7.0_60

export PATH=$JAVA_HOME/bin:$PATH

export PATH=$JAVA_HOME/jre/bin:$PATH

export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

  • source /etc/profile,载入profile文件。

  • java -version,确认出现“Java(TM) SE Runtime Environment”等信息确保jdk安装好。

05.安装zookeeper:

  • cd /root/Downloads,进入下载目录。

  • wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.8/zookeeper-3.4.8.tar.gz,下载zookeeper安装包。

  • tar -zxvf zookeeper-3.4.8.tar.gz -C /usr/local/,解压至指定目录。

  • mv /usr/local/zookeeper-3.4.8 /usr/local/zookeeper,更改目录名。

  • chown -R root:root /usr/local/zookeeper,更改目录属主属组。

  • vim /etc/profile,修改profile文件,添加如下内容:

export ZOOKEEPER_HOME=/usr/local/zookeeper

export PATH=$PATH:$ZOOKEEPER_HOME/bin

  • source /etc/profile,载入profile文件。

  • cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg,修改配置文件名称。

06.启动zookeeper:

  • /usr/local/zookeeper/bin/zkServer.sh start,在任意一台服务器上启动zookeeper。

  • netstat -ntlp | grep 2181,查看2181是否启动。

  • /usr/local/zookeeper/bin/zkServer.sh status,确认zookeeper已启动,并且为standalone状态。

07.配置zookeeper集群:

  • vim /usr/local/zookeeper/conf/zoo.cfg,修改如下参数:

dataLogDir=/usr/local/zookeeper/log

dataDir=/usr/local/zookeeper/data

clientPort=2181

server.1=10.1.20.1:2888:3888

server.2=10.1.20.2:2888:3888

server.3=10.1.20.3:2888:3888

  • mkdir -p /usr/local/zookeeper/{log,data},创建对应的目录。

  • echo "1" > /usr/local/zookeeper/data/myid,在10.1.20.1服务器上执行,数字根据配置文件中,ip对应的server.#中的数字决定。

  • echo "2" > /usr/local/zookeeper/data/myid,在10.1.20.2服务器上执行。

  • echo "3" > /usr/local/zookeeper/data/myid,在10.1.20.3服务器上执行。

  • /usr/local/zookeeper/bin/zkServer.sh start,启动每天服务器上的zookeeper。

  • /usr/local/zookeeper/bin/zkServer.sh status,分别查询状态,应有1台为leader,2台为follewer。

  • /usr/local/zookeeper/bin/zkCli.sh -server 10.1.20.2:2181,从服务器连接其他zookeeper,查看是否成功。


Codis安装

对象:10.1.20.4,10.1.20.5,10.1.20.6,10.1.20.7,10.1.20.24

01.安装基本依赖包:

  • yum install -y git gcc make g++ gcc-c++ automake openssl-devel zlib-*

02.安装go语言包:

export GOROOT=/usr/local/go

export GOPATH=/usr/local/codis

export PATH=$PATH:$GOPATH/bin:$GOROOT/bin

  • source /etc/profile,刷新/etc/profile文件。

  • go version,测试go语言是否正常。

  • vim /opt/hello.go,测试go命令是否能正常使用,添加如下内容:

package main

    import "fmt"


    func main(){

        fmt.Printf("hello world\n")

        }

  • go run /opt/hello.go,测试输出hello world。

03.安装godep:

  • mkdir -p /usr/local/codis/src/github.com/tools,创建codis目录。

  • cd /usr/local/codis/src/github.com/tools,进入codis工具目录。

  • go get -u github.com/tools/godep,下载godep。

  • cd godep/,进入安装目录。

  • go install ./,安装godep,检查该程序有无安装在/usr/local/codis/bin下。

  • which godep,测试系统是否识别。

04.安装codis:

  • mkdir -p /usr/local/codis/src/github.com/CodisLabs,创建安装目录。

  • cd /root/Downloads,进入下载目录。

  • tar -zxvf /root/Downloads/codis-3.0.3.tar.gz,解压安装文件。

  • cp -rf /root/Downloads/codis-3.0.3 /usr/local/codis/src/github.com/CodisLabs/codis,复制安装目录。

  • cd /usr/local/codis/src/github.com/CodisLabs/codis,进入安装目录。

  • make && make gotest,测试安装,确定不报错为安装成功。

  • 安装成功后,会在/usr/local/codis/src/github.com/CodisLabs/codis/bin目录下产生如下文件:

1.png

Codis集群3.03安装配置基础

05.创建程序目录:

  • mkdir -p /codis/{bin,conf,log,scripts,run,database},创建目录结构。

  • cp -rp /usr/local/codis/src/github.com/CodisLabs/codis/bin/* /codis/bin/,复制因公程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/src/{redis-benchmark,redis-check-aof,redis-check-dump,redis-cli} /codis/bin/,复制redis的程序至程序目录。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6379.conf,复制redis配置文件至redis主配置。

  • cp /usr/local/codis/src/github.com/CodisLabs/codis/extern/redis-2.8.21/redis.conf /codis/conf/redis6380.conf,复制redis配置文件至redis从配置。

集群配置


01.配置并启动codis-dashboard(10.1.20.24)。

  • /codis/bin/codis-dashboard –default-config | tee /codis/conf/dashboard.toml,生成配置文件。

  • vim /codis/conf/dashboard.toml,修改如下配置:

coordinator_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

product_name = "codis-jym"

  • coordinator_name为外部存储的类型,为zookeeper或者etcd,不能用其他名称;coordinator_addr为外部存储zookeeper的集群地址。

  • product_name为codis集群名称,可以自定义;product_auth为codis集群认证密码,默认为空。

  • nohup /codis/bin/codis-dashboard –config=/codis/conf/dashboard.toml –log=/codis/log/dashboard.log &,启动codis-dashboard,启动后会产生一个18080的端口。


02.配置并启动codis-proxy(10.1.20.6,10.1.20.7)。

  • /codis/bin/codis-proxy –default-config | tee /codis/conf/proxy.toml,产生默认配置文件。

  • vim /codis/conf/proxy.toml,修改如下配置:

product_name = "codis-jym"

jodis_addr = "10.1.20.1:2181,10.1.20.2:2181,10.1.20.3:2181"

  • nohup /codis/bin/codis-proxy –config=/codis/conf/proxy.toml –log=/codis/log/proxy.log &,启动codis-proxy。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.6:11080,将proxy添加进集群管理中。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –create-proxy -x 10.1.20.7:11080,将proxy添加进集群管理中。

  • http://10.1.20.24:18080/topom,获取dashboard的json文件,查看proxy的状态,如下图:

12.png

  • Codis集群3.03安装配置基础/codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-proxy,查看proxy集群。

03.配置并启动codis-sever(10.1.20.4,10.1.20.5)。

  • vim /codis/conf/redis6379.conf,将6379配置为master服务器,修改如下配置:

pidfile /codis/run/redis6379.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6379.log"

#save 900 1

#save 300 10

#save 60 10000

dbfilename dump6379.rdb

dir /codis/database/redis6379

  • vim /codis/conf/redis6380.conf,将6380配置为master服务器,修改如下配置:

pidfile /codis/run/redis6380.pid

timeout 3600

tcp-keepalive 60

logfile "/codis/log/redis6380.log"

dbfilename dump6380.rdb

dir /codis/database/redis6380

  • /codis/bin/codis-server /codis/conf/redis6379.conf &,启动6379实例。

  • /codis/bin/codis-server /codis/conf/redis6380.conf &,启动6380实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=1,新建一个redisgroup,gid为1。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080  –create-group –gid=2,新建一个redisgroup,gid为2。

10.1.20.4上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.4:6379,将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.4:6380,将6380加入gid2。

10.1.20.5上

    1. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=2 –addr=10.1.20.5:6379,将6379加入gid1。

    2. /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –group-add –gid=1 –addr=10.1.20.5:6380,将6379加入gid1。

  • 实例的放置倾向于交叉放置,每台codis-sever上放置不同的主从实例。

  • /codis/bin/codis-admin –dashboard=10.1.20.24:18080 –list-group,查看group情况。

04.配置并启动codis-sever(10.1.10.24,可选):

  • /codis/bin/codis-admin –dashboard-list –zookeeper=10.1.20.1:2181 | tee /codis/conf/fe.json,通过zookeeper下载fe配置文件。

  • nohup /codis/bin/codis-fe –dashboard-list=/codis/conf/fe.json –listen=10.1.20.24:8080 &,启动codis-fe。

  • http://10.1.20.24:8080/,访问图形化界面。

原创文章,作者:wenjun8888,如若转载,请注明出处:http://www.178linux.com/49320

(0)
上一篇 2016-09-26 11:14
下一篇 2016-09-26 14:59

相关推荐

  • sed&awk

    Evernote Export 1、总结sed和awk的详细用法; awk Linux文本处理工具三剑客:grep、sed和awk。其中grep是一种文本过滤工具,sed是文本编辑器,而awk是一种报表生成器,就是对文件进行格式化处理的,这里的格式化不是文件系统的格式化,而是对文件内容进行各种“排版”,进而格式化显示。 在Linux之上我们使用的是GNU a…

    Linux干货 2017-01-05
  • 第三章 Linux文件系统初步

    用户界面:      可分为两种GUI和CLI         GUI(Graphical User Interface,简称 GUI,又称图形用户接口)是指采用图形方式显示的计算机操作用户界面。 GNOME(英语发音:/ɡˈnoʊm/或英语发音:/…

    Linux干货 2016-06-03
  • shell脚本编程小节及作业

    使用read命令来接收输入          使用read来把输入值分配给一个或多个shell变量:         -p:指定要显示的提示     &nbsp…

    Linux干货 2016-08-22
  • 8月5日第七节课作业

    一、当天练习 1、找出ifconfig命令结果中本机的所有IPv4地址 2、查出分区空间使用率的最大百分比值 3、查出用户UID最大值的用户名、UID及shell类型 4、查出/tmp的权限,以数字方式显示 5、统计当前连接本机的每个远程主机IP的连接数,并按从大 到小排序 1、显示/proc/meminfo文件中以大小s开头的行;(要求:使 用两种方式) …

    Linux干货 2016-08-08
  • Linux文本处理工具

    知识框架图 学习笔记 查看文本 查看文本内容 cat -A:显示控制符 -E:显示行结束符$ -n:打印行号,显示空行 -b:打印行号,空行不编号 -s:压缩连续空白行 tac:反向查看文件内容 rev:文本每行倒序显示 分页查看 more less 查看文件头尾内容 head -c:前n个字节 -n:前n行 tail -c -n -f:跟踪显示文件变化,常…

    2018-03-17
  • Linux网络配置基础二(网络模块与nmcli命令)

    Linux网络配置基础二 相关命令 lsmod命令 lsmod命令用于显示已经加载到内核中的模块的状态信息。执行lsmod命令后会列出所有已载入系统的模块。Linux操作系统的核心具有模块化的特性,应此在编译核心时,务须把全部的功能都放入核心。您可以将这些功能编译成一个个单独的模块,待需要时再分别载入。第一列:表示模块的名称第二列:表示模块的大小第三列:表示…

    Linux干货 2016-09-09