[PHP语言] PHP如何结合MySQL进行千万级数据处理

[复制链接]
查看2361 | 回复12 | 2020-10-31 15:07:46 | 显示全部楼层 |阅读模式

mysql分表思路


一张一亿的订单表,可以分成五张表,这样每张表就只有两千万数据,分担了原来一张表的压力,分表需要根据某个条件进行分,这里可以根据地区来分表,需要一个中间件来控制到底是去哪张表去找到自己想要的数据。
中间件:根据主表的自增id作为中间件(什么样的字段适合做中间件?要具备唯一性)
怎么分发?主表插入之后返回一个id,根据这个id和表的数量进行取模,余数是几就往哪张表中插入数据。
注意:子表中的id要与主表的id保持一致
以后只有插入操作会用到主表,修改,删除,读取,均不需要用到主表

相关学习推荐:PHP编程从入门到精通

redis消息队列

1,什么是消息队列?
消息传播过程中保存消息的容器
2,消息队列产生的历史原因

消息队列的特点:先进先出
把要执行的sql语句先保存在消息队列中,然后依次按照顺利异步插入的数据库中
应用:新浪,把瞬间的评论先放入消息队列,然后通过定时任务把消息队列里面的sql语句依次插入到数据库中

修改

操作子表进行修改

这样修改有一个问题,主表和子表的数据会出现不一致,如何让主表和字表数据一致?

redis队列保持主表子表数据一致

修改完成后将要修改主表的数据,存入redis队列中

然后linux定时任务(contble)循环执行redis队列中的sql语句,同步更新主表的内容

mysql分布式之分表(查,删)

查询只需要查询子表,不要查询总表

删除,先根据id找到要删除的子表,然后删除,然后往消息队列中压入一条删除总表数据的sql语句
然后执行定时任务删除总表数据

定时任务:

mysql分布式之分库

分库思路

分库原理图:

mysql分布式之分库(增)


注意:操作完一个数据库一定要把数据库连接关闭,不然mysql会以为一直连接的同一个数据库

还是取模确定加载哪个配置文件连接哪个数据库

mysql分布式之分库(改)

原理同新增

mysql分布式之分库(查,删)

原理类似


删除


执行队列

mysql分布式之缓存(memcache)的应用

将数据放入缓存中,节省数据库开销,先去缓存中查,如果有直接取出,如果没有,去数据库查,然后存入缓存中

在编辑信息之后需要删除缓存,不然一直读取的是缓存的数据而不是修改过的数据

以上就是PHP如何结合MySQL进行千万级数据处理的详细内容,更多请关注爱上源码网其它相关文章!

  • 微信
  • 分享
  • 相关标签:PHP MySQL 数据处理
  • 本文转载于:learnku,如有侵犯,请联系916990011@qq.com删除
    • 上一篇:php获取当前时间戳、日期并精确到毫秒(三种方法)
    • 下一篇:收好100个最常用的PHP函数

    相关文章

    相关视频

    • 怎样通过PHP MySQL 读取数据
    • PHP MYSQL简易交互式站点开发详解
    • php mysql怎么实现点赞功能
    • php mysql怎么查询数据?
    • PHP如何结合MySQL进行千万级数据处理
    • PHP变量的命名
    • PHP魔术常量与系统常量
    本文有爱上源码下载完入驻作者发布,如果对您版权造成侵害,可以联系本站站长管理进行维权删除,本站收到维权24小时内进行处理,谢谢您关注23ym.cn! 本站分享大量程序员技术文章以及对编程开发的初级入门教程,包括图文讲解笔记和高清视频下载~
    回复

    使用道具 举报

    穿雨捶 | 2020-11-7 15:03:09 | 显示全部楼层
    这个资源都有真不错
    回复

    使用道具 举报

    淑侠 | 2021-8-7 10:58:51 | 显示全部楼层
    站长真良心,这么大的资源站都是免费下载
    回复

    使用道具 举报

    楚一帆 | 2021-10-8 05:49:24 | 显示全部楼层
    站长真良心,这么大的资源站都是免费下载
    回复

    使用道具 举报

    我是来围观的逊 | 2021-12-10 05:15:12 | 显示全部楼层
    厉害了悟空源码,这么多资源
    回复

    使用道具 举报

    壮壮妈2017 | 2022-1-17 13:46:03 | 显示全部楼层
    支持悟空源码,越来越好
    回复

    使用道具 举报

    普通人物怨 | 2022-2-17 11:53:27 | 显示全部楼层
    这个资源都有真不错
    回复

    使用道具 举报

    流动532 | 2022-6-1 20:07:59 | 显示全部楼层
    加油!悟空源码,继续努力!支持你!
    回复

    使用道具 举报

    hecgdge4 | 2022-6-2 17:13:55 | 显示全部楼层
    资源太多了,准备办个会员
    回复

    使用道具 举报

    陆子525630 | 2022-6-16 13:04:44 | 显示全部楼层
    找了好多地方,终于找到了
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则