K8S&微服务&阿里云生产实践

Wesley13
• 阅读 696

目录

(1).前置阅读

(2).前置说明

(3).基础镜像

1.oraclejdk-docker-image

2.oraclejdk-skywalking-docker-image

3.apollo-skywalking-pro镜像

(4).apollo&skywalking生产级容器化

(5).关键配置

(6).特别注意

1.sk-agent和sky-oap一定要配置正确的时区

2.sk-oap的elasticsearch版本选择

3.制作apollo-skywalking-docker-image镜像注意sk-plugin选择

4.apollo-portal开启多副本要注意配置session亲和性

5.使用oraclejdk

6.修改支持的环境

(7).相关文章

(1).前置阅读

1.阿里云&kubernetes&微服务生产实践-6:skywalking-6.4.0生产级别容器化

2.阿里云&kubernetes&微服务生产实践-1:apollo架构-1

(2).前置说明

本例相对于官方做了如下几处改动:

1.修改基础镜像为oracle-jdk,并增加redis-cli, telnet等常用工具包。

2.基础镜像增加skywalking-agent的支持,通过configmap中的配置参数来决定在启动apollo服务的时候是否开启链路追踪。

(3).基础镜像

1.oraclejdk-docker-image

第一层基础镜像。

使用oraclejdk8制作的镜像,包含telnet, redis-cli, mysql-client等工具包。

地址: https://github.com/hepyu/oraclejdk-docker-image

2.oraclejdk-skywalking-docker-image

第二层镜像,基于oraclejdk-docker-image镜像。

加入了skywalking-agent支持。

地址: https://github.com/hepyu/oraclejdk-skywalking-docker-image

3.apollo-skywalking-pro镜像

基于镜像oraclejdk-skywalking-docker-image制作。

(4).apollo&skywalking生产级容器化

笔者提供生产级的配置文件,位于:

https://github.com/hepyu/k8s-app-config/tree/master/product/standard/apollo-skywalking-pro

注意本例配置中pv默认是本地存储,生产环境需要改为云存储。

顺次执行:

kubectl apply -f apollo-namespace.yaml

cd apollo-configservice

kubectl apply -f .

cd apollo-adminservice

kubectl apply -f .

cd apollo-portal

kubectl apply -f .

最终的生产效果:

原图文件位于:

https://github.com/hepyu/k8s-app-config/blob/master/product/standard/apollo-skywalking-pro/images/apollo-skywalking.png

K8S&微服务&阿里云生产实践

(5).关键配置

skywalking的关键配置位于config/admin/portal下的config.yaml文件,通过环境变量SKYWALKING_AGENT来配置是否开启skywalking-agent探针;当然也可以在这里调整JVM启动参数。

当配置如下时表示关闭skywalking-agent探针:SKYWALKING_AGENT: ''

  SERVICE_NAME: apollo-configservice

(6).特别注意

1.sk-agent和sky-oap一定要配置正确的时区

都要配置: TIME_ZONE: Asia/Shanghai

因为skywalking的默认时区是UTC0,大陆的APP的服务的时区是UTC8,如果sk-agent和sk-oap的时区不一致时,sk-ui不会显示数据/拓扑。

2.sk-oap的elasticsearch版本选择

尽量选择sk使用的版本,比如sk6.4.0用的是es6.3.2那我们搭建es时就要选择这个版本。避免es版本差异带来的各种奇怪问题。

3.制作apollo-skywalking-docker-image镜像注意sk-plugin选择

参照官方/社区的issue:https://github.com/ctripcorp/apollo/issues/2448

我们的目的是:

a. 监控Apollo-Config、Admin、Portal之间的调用以及拓扑

b. 监控Apollo-Client 与 Config之间的调用及拓扑

第一种情况:Portal与Config/Admin之间采用RestTemplate/HttpClient 发起调用,这个插件在Skywalking支持列表。

第二种情况,Apollo-Client 采用的是 HttpURLConnection 发起Http请求。和 HttpClient 有些区别,默认插件不支持。需要使用可选插件:bootstrap-plugins/apm-jdk-http-plugin-6.4.0.jar,将这个jar包拷贝到plugins目录下。

4.apollo-portal开启多副本要注意配置session亲和性

config/admin/portal的负载均衡都需要配置:sessionAffinity: ClientIP;

如果你还是用的ingress代理apollo-portal,那么ingress也需要配置亲和性保证session的正确传递:

nginx.ingress.kubernetes.io/affinity: cookie

ingress的亲和性配置参见文件:

https://github.com/hepyu/k8s-app-config/blob/master/product/standard/apollo-pro/apollo-portal/apollo-portal-ingress.yaml

如果不配置亲和性,apollo-portal开启多副本后将出现无法登陆的现象。

5.使用oraclejdk

因为apollo官方的镜像里没有调试工具,如jstat等,很不方便。

6.修改支持的环境

在apolloPortalDB的ServerConfig表中存放了支持的环境:pro,uat,fat,dev,如果只配置了pro,需要把其余的3个删除,否则portal会一直报错:

''' Env is down. env: UAT, failed times: 39, meta server address: http://apollo.meta '''

(7).相关文章

1.官方地址容器化配置地址:

https://github.com/ctripcorp/apollo/tree/master/scripts/apollo-on-kubernetes/kubernetes

2.官方apollo容器化步骤(Step by Step):

https://github.com/ctripcorp/apollo/blob/master/scripts/apollo-on-kubernetes/README.md

3.笔者apollo容器化步骤(Step by Step):

kubernetes-6:使用yaml方式进行apollo容器化

本文分享自微信公众号 - 千里行走(a_thousands_of_miles)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
3个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Stella981 Stella981
3年前
KVM调整cpu和内存
一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签,将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid
Wesley13 Wesley13
3年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
3年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
9个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这