美文网首页
pyspider使用save传递变量过大导致不执行的问题。

pyspider使用save传递变量过大导致不执行的问题。

作者: UU小宝 | 来源:发表于2018-08-21 03:17 被阅读0次

使用save传递参数,如果传递的值太大,则会出现不执行的情况。

是因为默认pyspider + mysql数据库使用的是blob类型,blob类型最大64KB,超过了就会报错:“Data too long for column 'fetch' at row 1”、

解决方案1: 手动把blob字段改成longblob(任务太多的话太麻烦)

解决方案2:改pyspider源代码, 自动建表的时候。字段创建成longblob。

解决方案3(推荐):不要传递太大的参数,因为太大的参数也会占用过多的数据库空间。建议从爬虫代码上去优化。

相关文章

  • pyspider使用save传递变量过大导致不执行的问题。

    使用save传递参数,如果传递的值太大,则会出现不执行的情况。 是因为默认pyspider + mysql数据库使...

  • Sql注入漏洞

    原理: 网站数据传输中,接受变量传递的值未进行过滤,导致直接带入数据库查询执行的操作问题。 必备条件: 1.变量接...

  • 解决paramiko远程不加载环境变量的问题

    1. 问题描述 使用paramiko远程ssh,执行shell脚本时,由于没有加载用户的环境变量,导致执行某些命令...

  • Python pyspider的安装错误

    在安装pyspider的时候出现 因为pycurl 的ssl导致的错误 pyspider的使用需要用到pycurl...

  • Spark原理图

    为什么使用广播变量因为一个变量在Driver端定义,如果执行计算需要传递到executor的task线程中获取变量...

  • --save

    这是一个使用npm时的基本的问题; 简单来说: 使用命令 --save 或者说不写命令 --save ,都会...

  • 关于Java代码unreachable code问题

    在使用一个变量之前,该变量已经return导致该问题的出现。

  • manjaro安装pyspider

    在安装pyspider时出现各种问题,这里记录一下。 直接使用pip install pyspider,在安装py...

  • groovy-闭包

    定义和执行闭包 闭包作为参数返回 闭包作为参数传递 闭包使用外部变量 注意: 闭包可使用(引用)闭包外部定义的变量...

  • Mac python3.7环境 安装 pyspider 排坑

    正常操作安装pip3 install pyspider 然后使用pyspider all 然后遇到第一个问题Fil...

网友评论

      本文标题:pyspider使用save传递变量过大导致不执行的问题。

      本文链接:https://www.haomeiwen.com/subject/feariftx.html