Назад | Перейти на главную страницу

Как загрузить в Elasticsearch журнал предупреждений Snort?

Я начал вчера с ELK howto и довольно легко установил и запустил ELK. Следующее, что я хотел сделать, это подключить к нему мой журнал предупреждений Snort. Я настроил Logstash (показанный ниже) с фильтром и абсолютно неприятным регулярным выражением Grok, чтобы разделить все поля, используя Grokdebug чтобы проверить это. Затем я включил snort, и журнал предупреждений начал заполняться с последующим перезапуском logstash (после выполнения --configtest конечно). Я установил плагин ES "Head", чтобы немного покопаться. Кажется, что мои оповещения о фырканье сопоставляются с моим сопоставлением системного журнала, как было создано в инструкции (рис. Ниже). В ES я не могу выполнять поиск по любому из полей, определенных в конфигурации logstash (ids_proto, src_ip, dst_ip). Почему это? Нужно ли мне определять отображение или здесь что-то еще не так?

input 
{
  file {
    path => "/var/log/snort/alert"
    type => "snort_tcp"  # a type to identify those logs (will need this later)
    start_position => beginning 
    ignore_older => 0      # Setting ignore_older to 0 disables file age checking so that the tutorial file is processed even though it’s older than a day. 
    sincedb_path => "/dev/null"
  }
}


filter {
 if [type] == "snort_tcp" {
      grok {
        add_tag => [ "IDS" ]
        match => [ "message", "%{MONTHNUM:month}\/%{MONTHDAY:day}-%{HOUR:hour}:%{MINUTE:minute}:%{SECOND:second}\s+\[\*\*\]\s+\[%{INT:ids_gid}\:%{INT:ids_sid}\:%{INT:ids_rev}\]\s+%{DATA:ids_proto}\s+\[\*\*\]\s+\[Classification:\s+%{DATA:ids_classification}\]\s+\[Priority:\s+%{INT:priority}\]\s+\{%{WORD:ids_proto}\}\s+%{IP:src_ip}\:%{INT:src_port}\s+\-\>\s+%{IP:dst_ip}\:%{INT:dst_port}"]
      }
    }
    geoip {
      source => "[src_ip]"
      target => "SrcGeo"
    }
    geoip {
      source => "[dst_ip]"
      target => "DstGeo"
    }
        if [priority] == "1" {
      mutate {
        add_field => { "severity" => "High" }
      }
    }
    if [priority] == "2" {
      mutate {
        add_field => { "severity" => "Medium" }
      }
    }
    if [priority] == "3" {
      mutate {
        add_field => { "severity" => "Low" }
      }
    }
    if [ids_proto] {
      if [ids_proto] =~ /^GPL/ {
        mutate {
          add_tag => [ "Snort-ET-sig" ]
          add_field => [ "ids_rule_type", "Emerging Threats" ]
        }
      }
      if [ids_proto] =~ /^ET/ {
        mutate {
          add_tag => [ "Snort-ET-sig" ]
          add_field => [ "ids_rule_type", "Emerging Threats" ]
        }
      }
      if "Snort-ET-sig" not in [tags] {
        mutate {
          add_tag => [ "Snort-sig" ]
          add_field => [ "ids_rule_type", "Snort" ]
        }
      }
    }
if "Snort-sig" in [tags] {
      if [ids_gid] == "1" {
        mutate {
          add_field => [ "Signature_Info", "http://rootedyour/.com/snortsid?sid=%{ids_sid}" ]
        }
      }
      if [ids_gid] != "1" {
        mutate {
          add_field => [ "Signature_Info", "http://rootedyour.com/snortsid?sid=%{ids_gid}-%{ids_sid}" ]
        }
      }
    }
    if "Snort-ET-sig" in [tags] {
      mutate {
        add_field => [ "Signature_Info", "http://doc.emergingthreats.net/bin/view/Main/%{ids_sid}" ]
      }
    }
  }



output 
{
  elasticsearch 
   {
    hosts => ["localhost:9200"]
    manage_template => false
    index => "snort_tcp-%{+YYYY.MM.dd}"     
  }
}

Вот пара вещей:

  • При отображении по умолчанию logstash устанавливает, что все строковые поля не анализируются, что, как правило, более удобно для последующих инструментов просмотра.
  • Не настраивать сопоставление вообще, как вы делаете, использует ElasticSearch по умолчанию динамическое отображение, что не подходит для Logstash.

Для тестирования я рекомендую следующий раздел вывода:

output 
{
 elasticsearch 
  {
    hosts => ["localhost:9200"]
    manage_template => true
    index => "logstash-%{+YYYY.MM.dd}"     
  }
}

При такой настройке индексы logstash получат сопоставления logstash по умолчанию, которые могут вести себя ближе к ожидаемому. В этом случае вам, вероятно, придется определить файл сопоставления.

output 
{
 elasticsearch 
  {
    hosts => ["localhost:9200"]
    manage_template => true
    index => "snort_tcp-%{+YYYY.MM.dd}"
    template => "/etc/logstash/template.json"
    template_name => "snort_tcp"
  }
}