Tag: logstash

Logstash与stream畅的input编解码器不工作

我已经使用gest已经logstash,并希望检查stream畅的input(主要是由于基于TCP的docker日志驱动程序的stream畅,而不是唯一的UDP的gelf)。 我的testingconfiguration是这样的: input { gelf { port => 12345 } tcp { codec => fluent port => 23456 } } filter { } output { stdout { codec => rubydebug { metadata => true } } } 我可以使用以下方式发送gelf日志 : docker run -it \ –log-driver gelf \ –log-opt gelf-address=udp://localhost:12345 \ –log-opt tag=gelf-test \ ubuntu:16.04 /bin/bash -c […]

Sebp / elk没有在docker上运行,出现错误

你好所有的工程在世界上Im 1问题后安装ELK堆栈在docker上我的基础设施:1- Windows 10新的创作者更新2-我的笔记本电脑型号:N552VX(8G内存)3-docker工具箱没有先决条件=示例Java机器和更多。 ..和安装sebp / elkterminaldocker上的命令:$ docker拉sebp / elk安装成功,并没有运行—>一个错误指出,一些错误SEE FULL ERROR == http://textuploader.com / d99r1 PLZ检查错误! bootstrap checks failed max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144] [2017-05-12T08:47:16,687][INFO ][oenNode ] [Zn8_vUw] stopping … [2017-05-12T08:47:16,721][INFO ][oenNode ] [Zn8_vUw] stopped [2017-05-12T08:47:16,721][INFO ][oenNode ] [Zn8_vUw] closing … [2017-05-12T08:47:16,749][INFO ][oenNode ] [Zn8_vUw] […]

集成Rancher服务器和ELK堆栈

我对rancher和新的ELK stack.I从来没有使用过logstash / Kibana。 我跟着这个urlhttp://rancher.com/running-our-own-elk-stack-with-docker-and-rancher/ 然而,我现在坚持如何发送日志以及如何查看它们。 我尝试下面的步骤。 1)我创build了一个图像vishnuvpotti / hostrouting,端口7990的新容器,并设置环境variables如ROUTE_URIS = logstash:// [LogstashIP]:5000 2)我创build了一个映像vishnuvpotti / hostrouting,端口7990的新容器,并将安全选项卡中的日志驱动程序设置为gelf,并添加到具有密钥的日志选项中,作为gelf-address和值,如udp:// logstashhostIP:5000。 我不知道如何在Kibana上查看这些容器的日志。 当我打开Kibana时,我正在显示这个页面 任何人都可以让我知道接下来的步骤应该是什么。 注意: 我首先按照步骤1创build了容器,但由于找不到任何日志,我按照步骤2创build了容器。 谢谢, 毗湿奴

将Logstash日志位置从控制台更改为文件

我已经使用logstash安装了logstash 。 它运行良好。 在Docker安装中,默认情况下,日志输出转到控制台。 我希望日志输出也应该与控制台一起去文件。 为此,我将下面的configuration项添加到我的logstash log4j.properties文件中 appender.file.type = File appender.file.name = LOGFILE appender.file.fileName = /usr/share/logstash/logs/logstash.log appender.file.layout.type = PatternLayout appender.file.layout.pattern = [%d{ISO8601}][%-5p][%-25c] %m%n 之后,我使用下面的命令重新启动docker容器托pipelogstash docker restart logstash 但是日志不会写入日志文件。 它仍然要安慰。 还有什么我错过了。 另外,如何识别控制台日志文件 任何帮助将不胜感激。

login到Logstash:将不同应用程序的日志分隔在一个容器中

我有轨道应用程序在客运networking服务器运行docker集装箱。 我正在尝试将应用程序日志redirect到Logstash。 我将rails日志redirect到STDOUT并将容器configuration为使用gelf日志驱动程序,将stdoutredirect到给定的Logstash服务器。 但问题出现了:乘客networking服务器也写他自己的日志到STDOUT。 而且我得到了两个日志的混合,这使得很难分离和分析。 这种情况下的最佳做法是什么? 我怎样才能标记每个日志stream来分隔logstash?

Logstash嵌套对象聚合不起作用

我有3个表格:用户,post,评论和左连接。 我试图为每个用户创build一个嵌套的对象(职位)。 我能够聚合post对象,但我也想聚集每个post对象里面的评论对象,它给了我每个评论在分离的对象,而多个评论都有相同的postID,我想结合所有发表评论一个数组。 这是我的filter: filter { mutate { rename => { "post_id" => "[posts][post_id]" "post_user" => "[posts][post_user]" "comment_id" => "[posts][comments][comment_id]" "comment_post" => "[posts][comments][comment_post]" } } aggregate { task_id => "%{user_id}" code => " map['posts'] ||= [] " push_previous_map_as_event => true } aggregate { task_id => "%{[posts][post_id]}" code => " map['posts']['comments'] ||= [] " push_previous_map_as_event => […]

为DockerconfigurationLogstash

我是Docker中的新成员,在运行Docker的简单logstash.conf时遇到了问题。 我的Dockerfile: FROM docker.elastic.co/logstash/logstash:5.0.0 RUN rm -f ~/desktop/docker_logstash/logstash.conf Logstash.conf: input { file { path => "~/desktop/filename.log" start_position => "beginning" sincedb_path => "/dev/null" } } filter { grok { match => { "message" => "%{COMBINEDAPACHELOG}" } } } output { stdout { codec => rubydebug } } Docker命令: docker build -t logstashexample . docker run logstashexample […]

Spring启动docker mount共享logbackconfiguration文件

我有一个微型服务架构的春季启动应用程序。 像10弹簧启动容器运行。 加载我打算做的logback.xml的设置看起来像这样。 当我启动容器时,如何在弹簧引导embedded式jar /容器中装载和加载logback.xml。 我的想法是这样的。 这将运行春季启动应用程序确定。 docker run -d –name=app1 app_image 像这样的东西是我正在寻找实现加载logback.xml docker run -d –name=app1 –volume=/home/host-path/log-back-conig-dir/:/container-app-dir/ app_image docker run -d –name=app2 –volume=/home/host-path/log-back-conig-dir/:/container-app-dir/ app_image docker run -d –name=app3 –volume=/home/host-path/log-back-conig-dir:/container-app-dir/ 更多信息 我正在使用从官方spring引导中获取的Dockerfile示例 spring.io/guides/gs/spring-boot-docker Dockerfile FROM openjdk:8-jdk-alpine VOLUME /tmp ARG JAR_FILE ADD ${JAR_FILE} app.jar ENTRYPOINT ["java","-Djava.security.egd=file:/dev/./urandom","-jar","/app.jar"] logback.xml看起来像这样 <?xml version="1.0" encoding="UTF-8"?> <configuration> <springProperty scope="context" name="springAppName" source="spring.application.name"/> <include […]

安装docker撰写logstash插件

我试图parsingCSV文件中的date字段,并使用logstash将其转换为所需的date格式,但是当我尝试使用docker运行logtstash时,我不断收到错误 Problems loading a plugin with {:type=>"filter", :name=>"date_formatter", 我的logstashfilterconfiguration如下 date { match => ["start_date", "MM/dd/yy"] target => "start_date" } date_formatter { source => "start_date" pattern => "YYYY-MM-dd" } 我试图创buildDockerfile与docker撰写和添加插件那里它仍然无法正常工作 Dockerfile FROM docker.elastic.co/logstash/logstash-oss:5.6.3 RUN logstash-plugin install logstash-filter-date_formatter Docker撰写 version: '2' services: # Service : logstash logstash-5-6: image: docker.elastic.co/logstash/logstash:5.6.3 container_name: logstash-5-6

DockerFile与Filebeat的SpringBoot应用程序

我有一个简单的Docker的Spring Boot App,有了这个简单的DockerFile FROM openjdk MAINTAINER matteoroxis ADD target/example-service.jar example-service.jar ENTRYPOINT ["java", "-jar", "/example-service.jar"] EXPOSE 2222 我有必要使用Filebeat将日志发送到logstash环境; 如何使用我的DockerFile启动Filebeat?