背景
传统项目里面记录日志大多数都是将日志记录到日志文件,升级到分布式架构以后,日志开始由文件转移到elasticsearch(es)中来存储,达到集中管理。在kubernetes平台里面把日志记录到es有两种简单的方案:
-
容器外记录。
首先在docker容器里面做挂载,指定一个固定的虚拟机目录,然后应用程序把日志写入到这个目录,虚拟机上开启logstash服务来收集日志文件,然后把日志传输到es,在通过kibana做展示,这种方案也是最传统的ELK的做法。
优点:应用程序耦合相对较低,使用传统的日志组件比如log4net就能把日志输出到文件,对于系统的改造成本来说较低。也没有语言依赖。
缺点:需要在宿主机上面做很多额外的配置,每增加一台宿主机,这个工作就要重复做一次,需要运维人员参与。 -
容器内记录。
直接在代码层面把日志写入es。
优点:日志在应用层面处理了,不需要虚拟机上做额外的工作。
缺点:日志和应用程序耦合的非常高,每个应用程序都需要单独的配置,配置有变化都可能导致日志收集失败。如果一个项目由多种语言开发需要开发各种语言的SDK来支持日志的写入。
回到我们的标题的问题。有没有一种方案能够不依赖日志组件,就单纯的把日志输出到控制台就能记录日志呢?在应用层面不依赖各种组件,在宿主机上面也不用大量额外的配置就能统一的收集日志呢?答案是有的。
log-pilot
介绍我们今天的主角:log-pilot
log-pilot是阿里云开发的一款开源的容器日志采集工具,可以直接获取容器的标准输入和内部文件日志,在每台机器上都安装一个log-pilot实例,这样就能收集整个kubernetes集群的docker容器的日志。该项目地址是 https://github.com/AliyunContainerService/log-pilot
下面我们一步一步将log-pilot部署出来。
阿里云提供了一些安装脚本,感兴趣的同学可以看脚本源码
下面的演示基于阿里云的kubernetes集群
演示
安装es
kubectl apply -f https://acs-logging.oss-cn-hangzhou.aliyuncs.com/elasticsearch.yml部署log-polot
kubectl apply -f https://acs-logging.oss-cn-hangzhou.aliyuncs.com/log-pilot.yml因为要在集群所有的机器上面都安装log-polot,所以要指定
kind: DaemonSet
为了方便展示我们再部署一个kibana
kubectl apply -f https://acs-logging.oss-cn-hangzhou.aliyuncs.com/kibana.ymla) 要让kibana能够外网展示所以还需要配置一个ingress
apiVersion: extensions/v1beta1 kind: Ingress metadata: name: kibana-ingress namespace: kube-system spec: rules: - http: paths: - path: / backend: serviceName: kibana servicePort: 80 b) 创建成功以后获取访问地址
kubectl get ingress -n=kube-system准备一个应用程序通过logger打印日志,并部署到kubernetes
任意语言应用程序都行,日志输出到控制台即可,笔者用的的一个dotnet core应用程序
修改这个应用程序的kubernetes编排文件
