阿里云日志服务实时采集JAVA的catalina.out文件

在生产环境中要保证程序正确稳定运行,通过日志进行监控告警是很必要的一项措施,采集日志可以自建ELK系统,但是因为自建ELK比较占用系统资源,同时还需要自己进行维护,不太方便,所以就采用阿里云的日志服务+OSS存储进行日志监控及告警。

1.在日志服务里创建Project,所属地域选择自己服务器所在地域

2.进入创建好的日志服务,创建Logstore

3.创建完日志服务后会弹出以下对话框

4此时我们需要进行数据接入向导(即从哪边获取日志信息),可以看到支持很多种,因为我们这边需要监控的是catalina.out的文件,我们选择文本文件,点击下一步

5.然后在数据源设置中输入catalina.out的文件地址,然后点击下一步

6 对机器组进行设置(即要收集日志的服务器(输入的内网地址)),在该页面中可新建也可选择已创建好的机器组处理好后,点击下一步

7.进入查询分析,这边我们可以先不处理,直接点下一步

8.进入投递界面(即对收集到的日志进行存储&进一步的分析),我先进行日志归档至OSS

9.OSS投递配置,填入在阿里云创建的OSS Bucket,以及RAM角色(RAM角色的创建你们可以看 https://help.aliyun.com/document_detail/29002.html?spm=5176.2020520165.120.d29002.6a867029IfPeEn 中的步骤一访问控制授权进行快捷授权,即可新建角色,打开访问控制,将访问控制里角色AliyunLogDefaultRole里的Arm填入到Ram输入框中)

10配置好后就可以在查询分析里面看到对应的日志了

以上就是实时收集catalina.out日志的步骤,你可以根据关键字进行搜索和告警配置。

处理Docker运行中产生的Log日志

随着系统运行的时间越长,Log日志所占的空间也越来越大,但是磁盘空间是一定的,这时就需要清理一下这些无用的日志文件,主要有以下两个方式进行清理

1.手动清理

进入 /var/lib/docker/container 中找到较大的 .log 文件,在管理员权限下(sudo su root)使用命令 cat /dev/null > xxx.log 清空文件。 注意直接删除文件可能导致后续log无法写入

这个方法比较累人,所以推荐下面的方法

2.对日志设置自动回滚写入以及清除

通过logrotate服务实现日志定期清理和回卷

logrotate是个十分有用的工具,它可以自动对日志进行截断(或轮循)、压缩以及删除旧的日志文件。例如,你可以设置logrotate,让/var/log/foo日志文件每30天轮循,并删除超过6个月的日志。配置完后,logrotate的运作完全自动化,不必进行任何进一步的人为干预。

但如果按照之前的部署方式,需要手动在每个节点上都安装和配置对应logrotate工具。如果通过Kubernetes容器服务编排的能力,将logrotate通过Kubernetes中服务的方式部署到各个节点上,这样既可以实现只需要一次部署,部署到所有节点。并且通过容器的方式保证了logrotate配置的一致性。

方案的具体实现是在Kubernetes集群中,创建DaemonSet资源实现。DaemonSet资源会在每个Node节点上都部署一个logrotate的容器实例,并且在容器实例中设置映射主机的log日志目录,从而实现日志的定时清理和回卷。

将以下内容写入logrotate_ds.yaml文件中

apiVersion: extensions/v1beta1

kind: DaemonSet

metadata:

name: logrotate

spec:

template:

metadata:

labels:

app: logging

id: logrotate

name: logrotate

spec:

containers:

- name: logrotate-es

image: blacklabelops/logrotate

securityContext:

privileged: true

volumeMounts:

- name: containers

mountPath: /var/lib/docker/containers

- name: varlog

mountPath: /var/log/docker

- name: logs

mountPath: /logs

env:

- name: LOGS_DIRECTORIES

value: "/var/lib/docker/containers /var/log/docker"

- name: LOGROTATE_INTERVAL

value: "hourly"

- name: LOGROTATE_OLDDIR

value: "/logs"

volumes:

- hostPath:

path: /var/lib/docker/containers

name: containers

- hostPath:

path: /var/log/docker

name: varlog

- hostPath:

path: /var/log/containers/

name: logs

 

创建完这个文件后,可以直接在Kubernetes中进行部署。

运行这个命令
kubectl create -f logrotate_ds.yaml

后显示

daemonset "logrotate" created

则成功

在示例的yaml文件中,logrotate服务将按照定时(1小时)的对日志进行回卷,回卷超过5个副本后则会对日志进行清理。如果有需要,可以修改相应的参数,设置不同的回卷规则和清理规则。详细的参数说明可以参考:https://github.com/blacklabelops/logrotate 

 

3最后一种,不建议对stdout大量写入日志

 

 

 

CentOS6.x 安装 Docker

Docker 官方要求要 CentOS7.0 及以上系统版本,但是有时候不能为了安装Docker就把稳定运行的服务器升级系统版本,还是需要在已有的 CentOS6.x 的系统上进行安装。

比如之前Memcached爆出的UDP11211的bug时,直接在原系统中升级Memcached版,很麻烦,需要各种编译,安装Docker是很快速方便的解决方案,但是看到CentOS6.x,瞎了。。同时安装Docker以后升级Memcached版本也是方便加愉快的事情,^_^

SO,研究了下怎么在CentOS6.x下安装Docker

参考https://www.liquidweb.com/kb/how-to-install-docker-on-centos-6/

1.安装EPEL仓库

rpm -iUvh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm

2.更新

yum update -y

3.安装

yum -y install docker-io

4.安装完后启动

service docker start

5.设置开机启动

chkconfig docker on

6.使用docker

docker pull xxxx

 

以上你就可以在CentOS6.x中使用Docker了