Wang's blog Wang's blog
首页
  • 前端文章

    • HTML教程
    • CSS
    • JavaScript
  • 前端框架

    • Vue
    • React
    • VuePress
    • Electron
  • 后端技术

    • Npm
    • Node
    • TypeScript
  • 编程规范

    • 规范
  • 我的笔记
  • Git
  • GitHub
  • VSCode
  • Mac工具
  • 数据库
  • Google
  • 服务器
  • Python爬虫
  • 前端教程
更多
收藏
关于
  • 分类
  • 标签
  • 归档
GitHub (opens new window)

Wang Mings

跟随大神,成为大神!
首页
  • 前端文章

    • HTML教程
    • CSS
    • JavaScript
  • 前端框架

    • Vue
    • React
    • VuePress
    • Electron
  • 后端技术

    • Npm
    • Node
    • TypeScript
  • 编程规范

    • 规范
  • 我的笔记
  • Git
  • GitHub
  • VSCode
  • Mac工具
  • 数据库
  • Google
  • 服务器
  • Python爬虫
  • 前端教程
更多
收藏
关于
  • 分类
  • 标签
  • 归档
GitHub (opens new window)
  • Python爬虫

    • 爬虫的基础知识

    • 请求的发送方法

    • 数据提取方法

    • 高性能爬虫

    • selenium

    • 反爬以及解决方案

    • MONGODB数据库

    • scrapy框架

    • scrapy_redis

    • 爬虫的部署

      • scrapyd的使用
      • pycharm发布代码
      • crontab实现定时任务
        • crontab定时任务
          • 学习目标:
          • 1\. crontab的安装和介绍
          • 2\. crontab在爬虫中的使用
          • 2.1 使用流程
          • 2.2 myspier.sh例子
          • 小结
      • 小结
    • 爬虫框架开发分析

    • 框架雏形实现

    • 框架功能完善

    • 框架功能升级

    • 项目实战

    • pywin32介绍

  • 前端教程

  • 教程
  • Python爬虫
  • 爬虫的部署
wangmings
2022-07-19
目录

crontab实现定时任务

# crontab定时任务

# 学习目标:

了解 crontab定时任务


# 1. crontab的安装和介绍

# 2. crontab在爬虫中的使用

# 2.1 使用流程

  1. 把爬虫启动命令写入sh文件
  2. 给sh脚本添加可执行权限
  3. 编辑crontab的配置文件

# 2.2 myspier.sh例子

先把要执行的命令写入脚本

cd `dirname $0` || exit 1
python ./main.py >> run.log 2>&1 
1
2

其中>>表示重定向,把print等信息导入log中

cd `dirname $0` || exit 1 
1

固定写法,表示先进入当前目录,如果失败则退出该sh脚本 2>&1表示把标准错误作为标准输出,输入用0表示,标准输出用1表示,标准错误用2标识,通过该命令能够把错误一起输出到log中

添加可执行权限

sudo chmod +x myspder.sh 
1

写入crontab中

crontab -e 
1

进入编辑页面并添加:

 0 6 * * * /home/ubuntu/..../myspider.sh >> /home/ubuntu/.../run2.log 2>&1 
1

sh脚本文件也可能会报错,对应的可以把其输出和错误重定向到run2.log中


# 小结

了解crontab的使用

编辑 (opens new window)
pycharm发布代码
小结

← pycharm发布代码 小结→

最近更新
01
theme-vdoing-blog博客静态编译问题
09-16
02
搜索引擎
07-19
03
友情链接
07-19
更多文章>
Theme by Vdoing | Copyright © 2019-2022 Evan Xu | MIT License
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式