flume提供了一个度量框架，可以通过http的方式进行展现，当启动agent的时候通过传递参数 -Dflume.monitoring.type=http参数启动。
flume监控
根据你配置的端口地址，flume将会启动一个http服务器。通过http://flume-agent-host:port/metrics访问。
通过python requests发送post请求
import requests
url = "http://flume-agent-host:port/metrics"
r = requests.get(url)
info = r.json()
通过打印info的内容你可以查看到如下内容：
{
"SOURCE.src-1":{
"OpenConnectionCount":"0", //目前与客户端或sink保持连接的总数量(目前只有avro source展现该度量)
"Type":"SOURCE",
"AppendBatchAcceptedCount":"1355", //成功提交到channel的批次的总数量
"AppendBatchReceivedCount":"1355", //接收到事件批次的总数量
"EventAcceptedCount":"28286", //成功写出到channel的事件总数量，且source返回success给创建事件的sink或RPC客户端系统
"AppendReceivedCount":"0", //每批只有一个事件的事件总数量(与RPC调用中的一个append调用相等)
"StopTime":"0", //source停止时自Epoch以来的毫秒值时间
"StartTime":"1442566410435", //source启动时自Epoch以来的毫秒值时间
"EventReceivedCount":"28286", //目前为止source已经接收到的事件总数量
"AppendAcceptedCount":"0" //单独传入的事件到Channel且成功返回的事件总数量
},
"CHANNEL.ch-1":{
"EventPutSuccessCount":"28286", //成功写入channel且提交的事件总数量
"ChannelFillPercentage":"0.0", //channel满时的百分比
"Type":"CHANNEL",
"StopTime":"0", //channel停止时自Epoch以来的毫秒值时间
"EventPutAttemptCount":"28286", //Source尝试写入Channe的事件总数量
"ChannelSize":"0", //目前channel中事件的总数量
"StartTime":"1442566410326", //channel启动时自Epoch以来的毫秒值时间
"EventTakeSuccessCount":"28286", //sink成功读取的事件的总数量
"ChannelCapacity":"1000000", //channel的容量
"EventTakeAttemptCount":"313734329512" //sink尝试从channel拉取事件的总数量。这不意味着每次事件都被返回，因为sink拉取的时候channel可能没有任何数据
},
"SINK.sink-1":{
"Type":"SINK",
"ConnectionClosedCount":"0", //下一阶段或存储系统关闭的连接数量(如在HDFS中关闭一个文件)
"EventDrainSuccessCount":"28286", //sink成功写出到存储的事件总数量
"KafkaEventSendTimer":"482493",
"BatchCompleteCount":"0", //与最大批量尺寸相等的批量的数量
"ConnectionFailedCount":"0", //下一阶段或存储系统由于错误关闭的连接数量（如HDFS上一个新创建的文件因为超时而关闭）
"EventDrainAttemptCount":"0", //sink尝试写出到存储的事件总数量
"ConnectionCreatedCount":"0", //下一个阶段或存储系统创建的连接数量（如HDFS创建一个新文件）
"BatchEmptyCount":"0", //空的批量的数量，如果数量很大表示souce写数据比sink清理数据慢速度慢很多
"StopTime":"0",
"RollbackCount":"9", //
"StartTime":"1442566411897",
"BatchUnderflowCount":"0" //比sink配置使用的最大批量尺寸更小的批量的数量，如果该值很高也表示sink比souce更快
}
}
发送钉钉告警
钉钉群是目前工作中一般都会使用的。通过钉钉机器人的接口实现钉钉告警，可以方便实时查看服务状态，避免上线服务异常崩溃。
我主要监控的channel的状态，主要监控的参数是ChannelSize,ChannelFillPercentage。
from dingtalkchatbot.chatbot import DingtalkChatbot
# 钉钉群的token
token = "token"
url = "https://oapi.dingtalk.com/robot/send?access_token={token}".format(token=token)
ding = DingtalkChatbot(url)
def send_markdown(size, channel, percentage, host):
ding.send_markdown(title="flume监控提醒", text="> ### host :{host}\n\n"
"> Channel :{Channel}\n\n"
"> ChannelSize :{ChannelSize}\n\n"
"> ChannelFillPercentage :{ChannelFillPercentage}\n\n"
.format(ChannelSize=size, Channel=channel,
ChannelFillPercentage=percentage, host=host
))
至此告警模块就这样了。
总结
基本完善整个架构个个节点服务的告警。
