使用IDEA和maven快速搭建SpringBoot项目
由于单位项目使用java开发,框架用的spring,之前一直觉得java特别麻烦,所以一直避免和java接触,这下跑不掉了。所以近两周一直在学习java。在此记录一下学习过程,和下一步学习计划。
由于单位项目使用java开发,框架用的spring,之前一直觉得java特别麻烦,所以一直避免和java接触,这下跑不掉了。所以近两周一直在学习java。在此记录一下学习过程,和下一步学习计划。
昨晚发现放在腾讯云主机上通过crontab定时执行用以爬去斗鱼分类页面数据的爬虫在执行的时候速度特别慢,于是想通过多线程来提高效率。 打开浏览器,键入关键字“python 多线程”,发现大多数内容都是使用threading、Queue这些看起来很笨重的实例。不过直到multiprocessing.dummy出现在眼前之后,一切都变得辣么简单。
在拥有了数据获取和存储的能力之后,如何利用好这些数据成为一个问题。 本来也一直打算把之前学习的flask框架用起来,现在有了这些数据,我打算利用这些数据做一个对斗鱼网站的小型监控页面。
在上一篇文章中,主要讲了我获取斗鱼弹幕和某些静态页面的方法,在数据获取到之后,如何有效的组织和存储数据直接关系到后续数据能否可以背有效使用。
距离上次更新又有一段时间了,毕业答辩之后,确实和同学们一起出去嗨了一段时间,由于还没入职,在家清净的环境中可以好好学一下一直感兴趣的东西啦。
Mongodb作为一款非常流行的NOSQL数据库,应用范围非常广泛,它和Nginx-gridfs组合可以构建性能非常出色的应用。下边简单介绍一下如何搭建这套应用。
最近在做一个在客户端进行mongodb数据集选择,然后重写Nginx配置文件,最后重启Nginx的小工具。遇到最大的问题是,现在生成了Nginx配置文件,但是没法重启Nginx,使生成的配置文件即刻生效。 于是想到了一个办法,在服务器上写一个重启Nginx的脚本,使用php来运行这个脚本,客户端通过http访问php来完成Nginx的重启。
在redis3.2版本中,增加了geohash的扩展,这下可以使用Redis来作更多有意思的事情了。