教你如何用Python上传日志并监控告警
在我们的日常生活工作中,经常会遇到需要上传日志的场景,比如多台机器运行同一个程序,并且需要记录每台机器程序产生的日志,根据相关关键词告警,或者进行无数据告警,如果自己搭建这套系统需要耗费不少时间,因此如果能使用市面上现成的系统会很方便。
本文将教你如何通过阿里云日志服务搭建一套通过Python上传日志、配置日志告警的监控服务。
1.准备
开始之前,你要确保Python和pip已经成功安装在电脑上,如果没有,可以访问这篇文章:超详细Python安装指南进行安装。
(可选1)如果你用Python的目的是数据分析,可以直接安装Anaconda:Python数据分析与挖掘好帮手—Anaconda,它内置了Python和pip.
(可选2)此外,推荐大家用VSCode编辑器,它有许多的优点:Python 编程的最好搭档—VSCode 详细指南。
请选择以下任一种方式输入命令安装依赖:1. Windows 环境 打开 Cmd (开始-运行-CMD)。2. MacOS 环境 打开 Terminal (command+空格输入Terminal)。3. 如果你用的是 VSCode编辑器 或 Pycharm,可以直接使用界面下方的Terminal.
pip install aliyun-log-python-sdk
接下来,登陆阿里云控制台,进入日志应用,通过下面的步骤创建日志Project和Logstore:
点击Python - SDK 写入,再根据你的需要创建Project和Logstore:
随后会进入这个页面,直接点击确定即可:
2.使用阿里云SDK上传Python日志
为了使用阿里云SDK上传日志,我们需要先获取Access Token, 将鼠标移动到右上角头像上点击AccessKey管理:
然后点击创建AccessKey,输入相关验证信息就能获取 accessKeyId 和 accessKey:
编写Python代码,配置AccessKey和你在第一步骤创建的Project及logstore名称:
fromaliyun.log importLogClient, PutLogsRequest, LogItem, GetLogsRequest, IndexConfigimporttime# 配置AccessKey、服务入口、Project名称、Logstore名称等相关信息。# 阿里云访问密钥AccessKey。更多信息,请参见访问密钥。# 阿里云账号AccessKey拥有所有API的访问权限,风险很高。强烈建议您创建并使用RAM用户进行API访问或日常运维。accessKeyId = "你的AccessKey ID"accessKey = "你的AccessKey"# 日志服务的域名。更多信息,请参见服务入口。此处以广州为例,其它地域请根据实际情况填写。endpoint = "cn-guangzhou.log.aliyuncs.com"# 创建日志服务Client。client = LogClient(endpoint, accessKeyId, accessKey)# Project名称。project_name = "aliyun-test-project"#Logstore名称logstore_name = "aliyun-test-logstore"# 查询语句。query = "*| select dev,id from "+ logstore_name# from_time和to_time表示查询日志的时间范围,Unix时间戳格式。from_time = int(time.time()) - 3600to_time = time.time() + 3600
然后我们就可以编写Python代码创建索引(日志的索引可以理解为MySQL中的数据库)和插入日志了:
# 向Logstore写入数据。defput_logs():print("ready to put logs for %s"% logstore_name)log_group = []fori inrange(0, 100):log_item = LogItem()contents = [("dev", "test_put"),("id", str(i))]log_item.set_contents(contents)log_group.append(log_item)request = PutLogsRequest(project_name, logstore_name, "", "", log_group, compress=False)client.put_logs(request)print("put logs for %s success "% logstore_name)time.sleep(5)if__name__ == "__main__":# 向Logstore写入数据。put_logs()
运行程序后出现对应的提示,说明日志上传成功:
python test.py# ready to put logs for tradingview# put logs for tradingview success
进入控制台对应的Project,你会看到刚刚上传的日志已经显示在上面:
3.配置日志告警
日志告警的配置也非常简单,输入你的查询条件,获得输出后点击上方另存为告警:
在查询统计中添加你需要监控并触发告警的条件,比如我设置出现一次该日志的时候触发告警:
效果如下,我这里文本配置得太简单了,你也可以在标注中配置复杂一点的文本:
用起来挺方便的,如果你有类似的多机器日志监控服务,比如分布式模型训练监控、交易服务监控等等,可以考虑使用这个日志服务。
我们的文章到此就结束啦,如果你喜欢今天的Python 实战教程,请持续关注Python实用宝典。
有任何问题,可以在公众号后台回复:加群,回答相应红字验证信息,进入互助群询问。
原创不易,希望你能在下面点个赞和在看支持我继续创作,谢谢!
点击下方阅读原文可获得更好的阅读体验
Python实用宝典(pythondict.com)不只是一个宝典欢迎关注公众号:Python实用宝典
相关阅读
-
世界热推荐:今晚7:00直播丨下一个突破...
今晚19:00,Cocos视频号直播马上点击【预约】啦↓↓↓在运营了三年... -
NFT周刊|Magic Eden宣布支持Polygon网...
Block-986在NFT这样的市场,每周都会有相当多项目起起伏伏。在过去... -
环球今亮点!头条观察 | DeFi的兴衰与...
在比特币得到机构关注之后,许多财务专家预测世界将因为加密货币的... -
重新审视合作,体育Crypto的可靠关系才能双赢
Block-987即使在体育Crypto领域,人们的目光仍然集中在FTX上。随着... -
简讯:前端单元测试,更进一步
前端测试@2022如果从2014年Jest的第一个版本发布开始计算,前端开发... -
焦点热讯:刘强东这波操作秀
近日,刘强东发布京东全员信,信中提到:自2023年1月1日起,逐步为...