jumpserver命令记录膨胀问题 发表于 2023-08-10 | 分类于 DevOps一.背景 jumpserver堡垒机针对只是接管ssh来说,正常操作Linux的指令记录应该不会太多,每天有个几千条都已经算很多了。所以默认jumpserver采用MySQL作为存储介质本身也没啥问题。但是我们使用jumpserver对【MySQL应用】进行了托管,导致查询SQL记录以及使用例如DBeaver这样的客户端工具会在后台发送一些查询SQL如 ...阅读全文 »
Crontab的sendmail邮件发送引发磁盘问题 发表于 2023-07-02一.背景大清早的收到一台服务器的内存占用高达98%的钉钉告警。 回想了一下,这台服务器没跑什么业务啊,咋从凌晨1点就开始告警呢? 赶紧登录服务器,top 按照内存倒序一下,没发现占用特别大的进程。内存监控图如下:但是发现了很多sendmail和postdrop进程,统计了一下这两个进程高达4-5K个进程。难怪负载和内存占用很高, 当时来不及分析原因,先解决问题再说。sendmail和postdr ...阅读全文 »
Freeswitch入门与网络架构 发表于 2023-06-30一. 简介与背景在当前的互联网时代,想必大家对于网络电话或者通过网络进行语音、视频的场景再熟悉不过了。基于IP的语音传输(英语:Voice over Internet Protocol,缩写为VoIP)是一种语音通话技术,经由网际协议(IP)来达成语音通话与多媒体会议,也就是经由互联网来进行通信。我们通俗称这种拨打电话的方式叫”网络电话”。VoIP走的是我们的TCP/IP网络,硬件设备如麦克风通过 ...阅读全文 »
snmp_exporter监控交换机网络流量 发表于 2023-06-28一.背景与需求最近收到机房账单多出了将近70M下行带宽,多交了8K多的费用,很是蛋疼。IDC机房使用每月保底带宽模式, 例如保底100M带宽/月,如果利用955计费方式,没超出100M则只收机柜和保底带宽的费用,如果超出1M则按照额外进行收费。 这里比较蛋疼的是,上行和下行带宽默认不做限制,最高可以跑到1G。。。,之前没做好交换机流量监控,导致没能及时发现问题。Zabbix可以根据交换机开启的sn ...阅读全文 »
Cloudcanal数据同步神器 发表于 2023-05-17一.背景与需求最近有个OLAP的需求,我们需要将MySQL的一些数据(这种数据有一种特性就是一旦产生记录,以后不会再进行修改、删除操作,例如登录日志、操作日志等诸如此类)。这种数据特性正好符合Clickhouse的用武之地,我们经过调研最终确定使用Clickhouse作为OLAP系统的数据库。但是也随之迎来一个问题,运营人员对于这些数据的实时性还是有要求的,例如做一些实时报表分析。 我们大部分的业 ...阅读全文 »
Python消费Kafka与优化 发表于 2023-05-16一.背景与问题之前使用kafka-python库进行消费数据处理业务逻辑,但是没有深入里面的一些细节,导致会遇到一些坑。正常普通我们常见的一个消费者代码:(假设topic的分区数是20个)12345678from kafka import KafkaConsumer bootstrap_servers = ['localhost:9092']group_id = 'python-consumer' ...阅读全文 »
Centos7安装freeswitch-1.10.8(2023) 发表于 2023-02-20 | 分类于 DevOps1.安装FreeSwitch 在Centos7安装FreeSwitch遇到了很多依赖包的坑,在此记录一下完整的安装过程。亲测有效,顺利安装上。花费了我一下午的试错时间,觉得有用的点个赞呗~2.安装过程12345678910111213141516171819202122232425262728293031323334353637383940414243 ...阅读全文 »
Centos6源码安装Haproxy进行四层代理 发表于 2023-01-13 | 分类于 DevOps一.背景 公司使用专线与第三方公司进行系统交互,给定了我们业务IP的使用范围,防火墙策略只开放业务IP范围之内的IP地址才能访问,如果源IP不在业务IP范围之内,那么通过互联IP过去是访问不了的。我们的做法是为了不影响现有业务,找一台服务器配置业务IP,然后通过台服务器做4层代理进行转发即可。 四层代理常见的开源方案有Haproxy、Nginx等,Ng ...阅读全文 »
prom-elastic-alert日志告警工具 发表于 2023-01-12 | 分类于 ELK , DevOps一.背景 目前市场上基于ELK的日志系统,其中数据采集、数据过滤、数据存储可以采用Filebeat、Logstash、Elasticsearch进行实现。采集数据固然重要且是一个不能忽略的过程,但是数据落盘存储之后,我们还需要关注两件事情: 1.针对数据的展示和分析我们可以采用Kibana进行可视化分析,同 ...阅读全文 »
Filebeat采集数据到ES保证数据不重复 发表于 2022-12-08 | 分类于 ELK , DevOps一.背景业务需求使然,API接口负责收集用户传递上来的json数据,为了保证接口性能和数据的可靠性。我们没有直接拿到数据,然后存储到mysql或者kafka,而是直接使用最稳妥的方式,写文件。之后采用filebeat对数据文件进行采集,最后推送到Elasticsearch进行存储便于检索。为什么选择filebeat采集文件的这种方案,而不是自己实现或者采用别的方案呢?1.filebeat资源占用小 ...阅读全文 »