Kubernetes Ingress日志分析入门

Stella981
• 阅读 713

本文主要介绍如何基于日志服务构建Kubernetes Ingress日志分析平台,并提供一些简单的动手实验方便大家快速了解日志服务相关功能。

部署Ingress日志方案

  1. 登录容器服务管理控制台

  2. 将上述CRD配置保存成编排模板。编排模板文档请参见创建编排模板

  3. 基于该模板创建应用,选择您所在集群的default命名空间

    apiVersion: log.alibabacloud.com/v1alpha1 kind: AliyunLogConfig metadata:

    your config name, must be unique in you k8s cluster

    name: k8s-nginx-ingress spec:

    logstore name to upload log

    logstore: nginx-ingress

    product code, only for k8s nginx ingress

    productCode: k8s-nginx-ingress

    logtail config detail

    logtailConfig: inputType: plugin # logtail config name, should be same with [metadata.name] configName: k8s-nginx-ingress inputDetail: plugin: inputs: - type: service_docker_stdout detail: IncludeLabel: io.kubernetes.container.name: nginx-ingress-controller Stderr: false Stdout: true processors: - type: processor_regex detail: KeepSource: false Keys: - client_ip - x_forward_for - remote_user - time - method - url - version - status - body_bytes_sent - http_referer - http_user_agent - request_length - request_time - proxy_upstream_name - upstream_addr - upstream_response_length - upstream_response_time - upstream_status - req_id - host NoKeyError: true NoMatchError: true Regex: ^(\S+)\s-\s[([^]]+)]\s-\s(\S+)\s[(\S+)\s\S+\s"(\w+)\s(\S+)\s([^"]+)"\s(\d+)\s(\d+)\s"([^"])"\s"([^"])"\s(\S+)\s(\S+)+\s[([^]])]\s(\S+)\s(\S+)\s(\S+)\s(\S+)\s(\S+)\s(\S*).* SourceKey: content

Kubernetes Ingress日志分析入门

验证Ingress日志方案

  1. 登录容器服务控制台
  2. 进入路由页面,点击【Ingress概览】,若跳转出Ingress概览页则表示Ingress日志方案创建成功。

Kubernetes Ingress日志分析入门

部署Ingress日志脚本

apiVersion: apps/v1
kind: Deployment
metadata:
  name: mock-ingress
  namespace: default
  labels:
    app: mock-ingress
spec:
  replicas: 1
  selector:
    matchLabels:
      app: mock-ingress
  template:
    metadata:
      labels:
        app: mock-ingress
    spec:
      containers:
      - name: mock-ingress
        image: registry.cn-shanghai.aliyuncs.com/log-service/mock-ingress:latest
        command: ["/data/replay_log"]
        args:
          - '-ecs=true'
          - '-project=k8s-log-{cluster-id}'
          - '-endpoint=cn-shanghai.log.aliyuncs.com'
          - '-source=/data/data.txt'
          - '-dist=/data/distribute.csv'
  1. 登录容器服务控制台,复制集群列表中的集群ID并保存到记事本。
  2. 替换上述配置模板中的{cluster-id}为您实际的集群ID。
  3. 使用上述配置模板创建无状态应用。

Kubernetes Ingress日志分析入门

查看Ingress详细报表

  1. 登录日志服务控制台
  2. 单击左侧导航栏中的Project管理,选择创建集群时设置的日志Project,单击名称进入日志Project页面(默认创建的project名称为 **k8s-log-{cluster-id}**)。
  3. 在Project详情页面,默认进入日志库页面。名称为nginx-ingress的日志库(logstore)存放着所有的Ingress访问日志。单击左侧导航栏中的仪表盘进入仪表盘列表,可查看到所有Ingress的分析报表。

设置告警

Kubernetes Ingress日志分析入门

  1. 打开Ingress监控中心,在【请求成功率】图表右上角的菜单栏中点击【创建告警】
  2. 在弹出的告警框中输入告警名称,选择查询区间、执行区间
  3. 触发条件设置为: total < 100 ,即非100%就触发告警(实际场景中可设置的小一些)
  4. 点击【下一步】
  5. 在【通知类型】中选择【钉钉机器人】,填入钉钉机器人的WebHook地址 https://oapi.dingtalk.com/robot/send?access_token=a2c6d68cdb67dbe6ad38361b91f24bf669a551ccb6c4ceef9d6a0f8ced044676即可完成告警设置。

订阅定时报告

日志服务除支持通过告警方式通知外,还支持报表订阅功能,您可使用该功能将报表定期渲染成图片并通过邮件、钉钉群等方式发送。
下述示例为Ingress概览配置订阅功能,每分钟将报表发送到指定钉钉群:

  1. 进入Ingress概览报表,单击报表右上角的订阅按钮。
  2. 在弹出的配置页面中,频率选择CronJob,输入 0/5 * * * *  (每5分钟发送一次报告,实际场景可设为每天固定时间),打开添加水印选项。
  3. 通知类型中选择钉钉机器人,填入钉钉机器人的WebHook地址 https://oapi.dingtalk.com/robot/send?access_token=a2c6d68cdb67dbe6ad38361b91f24bf669a551ccb6c4ceef9d6a0f8ced044676(WebHook地址请参见自定义机器人获取)即可完成订阅。

高级功能

自定义分析Ingress日志

  1. 登录日志服务控制台
  2. 单击左侧导航栏中的Project管理,选择创建集群时设置的日志Project,单击名称进入日志Project页面(默认创建的project名称为 **k8s-log-{cluster-id}**)。
  3. 在Project详情页面,默认进入日志库页面。点击名称为nginx-ingress的日志库(logstore)右侧的【查询】链接进入查询页面。

日志服务支持丰富的查询与分析功能,详情参考日志查询与分析。在查询页面支持自定义的查询与分析,例如:

  1. 查询状态码大于200的请求: status > 200 
  2. 查询host(域名)为 inner.njkj.com 且响应延迟高于30ms的请求:host :  inner.njkj.com and request_time > 0.03
  3. 统计状态码非200的Top10服务: not status : 200 | SELECT proxy_upstream_name, count(1) as total group by proxy_upstream_name order by total desc limit 10 
  4. 统计各省份UV分布: * | select ip_to_province(x_forward_for) as province, approx_distinct(x_forward_for) as total group by province order by total desc limit 1000
  5. 统计host(域名)为 inner.njkj.com最近1天的访问平均延迟,并和昨天以及上周同一天的对比:host :  inner.njkj.com  |  select d[1] as "Today", d[2] as "Yesterday", d[1] - d[2] / d[2] as "Yesterday Delta",  d[3] as "Last Week", d[1] - d[3] / d[3] as "Last Week Delta"  from( select compare(val, 86400, 604800 ) as d from(select avg(request_time) as val from log ) )

Ingress报表均基于日志服务的分析功能实现,您可以从系统默认提供的Ingress报表中查找对应功能实现的SQL:点击对应图表的右上角菜单选项,选择【查看分析详情】,则会跳到对应的查询页面。

Kubernetes Ingress日志分析入门

从审计日志中查询部署操作

  1. 登录日志服务控制台
  2. 单击左侧导航栏中的Project管理,选择创建集群时设置的日志Project,单击名称进入日志Project页面(默认创建的project名称为 **k8s-log-{cluster-id}**)。
  3. 进入左侧导航栏中的仪表盘列表,选择【Kubernetes资源操作详细列表】进入。
  4. 在左上角【资源类型】筛选框中输入Deployments,即可查询到之前部署的Deployment。
  5. 可点击左下角【资源创建列表】中的事件ID查询详细的事件信息。

Kubernetes Ingress日志分析入门

接入其他日志(会后作业)

您可以使用日志服务Logtail接入业务应用的日志来实现自定义的查询、分析、可视化、告警等功能,您可以使用以下任意一种方式接入日志:

1. 基于日志服务控制台创建采集配置:

2. 使用环境变量创建采集配置:

3. 使用CRD方式创建采集配置:

原文链接
本文为云栖社区原创内容,未经允许不得转载。

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
3个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Stella981 Stella981
3年前
Opencv中Mat矩阵相乘——点乘、dot、mul运算详解
Opencv中Mat矩阵相乘——点乘、dot、mul运算详解2016年09月02日00:00:36 \牧野(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fme.csdn.net%2Fdcrmg) 阅读数:59593
Stella981 Stella981
3年前
Nepxion Discovery 5.5.0 发布
!(https://oscimg.oschina.net/oscnet/f81c043194ef4732880459d00c1a720e.png)发布日志功能更新:增加基于Opentracing调用链的支持,目前支持UberJaeger,实现在SpringCloudGateway、Zuul和服务上的灰度
Stella981 Stella981
3年前
KVM调整cpu和内存
一.修改kvm虚拟机的配置1、virsheditcentos7找到“memory”和“vcpu”标签,将<namecentos7</name<uuid2220a6d1a36a4fbb8523e078b3dfe795</uuid
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
3年前
Google地球出现“无法连接到登录服务器(错误代码:c00a0194)”解决方法
Google地球出现“无法连接到登录服务器(错误代码:c00a0194)”解决方法参考文章:(1)Google地球出现“无法连接到登录服务器(错误代码:c00a0194)”解决方法(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fwww.codeprj.com%2Fblo
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
9个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这