1. Oinone社区Home

深度分页问题优化方案

• • Uncategorized • 1207 views

问题原因

Mysql使用select * from table limit offset, rows分页在深度分页的情况下, 性能急剧下降。

例如：select * 的情况下直接⽤limit 600000，10 扫描的是约60万条数据，并且是需要回表 60W次，也就是说⼤部分性能都耗在随机访问上，到头来只⽤到10条数据(总共取600010条数据只留10条记录)

优化方案

前端方案：业务层面限制跨度比较大的跳页

提供2种风格分页器供用户选择

  1. 标准分页器，展示最后一页和跳转指定页输入框
    image.png
  2. 简单分页器
    image.png

参考
百度方案: 不展示最后一页和直接跳转指定分页的输入框
image.png
Google方案：只展示查看下一页的按钮
image.png

界面设计器选表格/画廊的属性面板提供分页器风格的属性下拉选择

image.png

xml示例

<!-- 表格使用的标准分页器 -->
<view type="TABLE" paginationStyle="SIMPLE">
 <!-- fields -->
</view>

<!-- 画廊使用默认的标准分页器 -->
<view type="GALLERY" paginationStyle="STANDARD">
 <!-- fields -->
</view>

后端方案

  1. 使用索引：确保数据库表中的相关字段上创建了适当的索引。索引可以加快查询速度，特别是在处理大数据量时。

  2. 分批查询：将大数据分成多个较小的批次进行查询，而不是一次性查询全部数据。可以通过限制每次查询的数据量和使用合适的偏移量来实现分批查询，例如使用LIMIT和OFFSET子句。

  3. 基于游标的分页：使用基于游标的分页技术，而不是传统的偏移分页。游标分页是通过记录上一次查询的游标位置，在下一次查询时从该位置开始获取新的数据，避免了大偏移量的影响。这可以通过数据库自身的功能（例如MySQL的CURSOR）或使用第三方库来实现。

  4. 缓存数据：如果数据变化较少，可以考虑将查询结果缓存到内存中，以避免频繁地查询数据库。这样可以提高页面相应速度，并减轻数据库负担。缓存的数据应该根据业务需要及时更新。

  5. 数据预处理：如果查询结果经常需要进行复杂的计算或处理，可以考虑提前对数据进行预处理并缓存结果，以减少每次查询的计算负担。

  6. 数据库优化：针对具体数据库系统，可以根据实际情况进行数据库调优。例如，合理设置数据库连接池大小、调整数据库参数等。

  7. 分布式存储和计算：对于非关系型数据库或分布式存储系统，可以考虑使用分布式存储和计算方案，将数据分散存储在多个节点上，并通过计算节点并行处理查询请求，以提高性能和可伸缩性。

参考链接

MySQL深分页场景下的性能优化

Oinone社区 作者：原创文章，如若转载，请注明出处：https://doc.oinone.top/other/75.html

访问Oinone官网:https://www.oinone.top获取数式Oinone低代码应用平台体验

Like (0)
's avatar
0 0
Previous 2023年6月20日 pm4:07
Next 2023年11月2日 pm1:58

相关推荐

  • MINIO无公网访问地址下OSS的配置 运维实践

    MINIO无公网访问地址下OSS的配置

    在实际项目中，会存在MINIO外网不能访问，只能通过应用的域名(IP)进行转发才能访问的情况。该篇文章主要是为解决这种场景。 PS：如果MINIO外网可以直接访问，正常配置MINIO的OSS配置即可。 oss 配置 前后端上传地址不同的情况下，可以使用 uploadUrlFormat 配置前端上传地址的前缀。如此，前端上传走的是uploadUrlFormat配置的地址，用 Nginx 拦截该地址转到实际的 minion 地址即可。 NGINX配置（MINIO配置） upstream minio { #真实的MINIO的地址 server 39.103.145.77:9000 weight=100 max_fails=2 fail_timeout=30s; } server { listen 9091; server_name 127.0.0.1; location / { proxy_set_header Host $http_host; proxy_set_header X-Forwarded-For $remote_addr; client_body_buffer_size 10M; client_max_body_size 50M; proxy_buffers 1024 4k; proxy_read_timeout 3000; proxy_next_upstream error timeout http_404; proxy_pass http://minio; } } 同理：如需后端下载配置downloadUrlFormat即可

    望闲's avatar 望闲
    2024年5月9日
    3.2K00
  • 如何改变调度策略，让Schedule独立执行线程 代码实践

    如何改变调度策略，让Schedule独立执行线程

    schedule里，相同的taskType跑多个业务任务，如果其中一个任务大量重试占满了调度线程，会影响别的业务任务及时被执行，如下面截图中，taskType用的是平台内置的常量，这个常量会被其他任务也使用，如果当前任务出现了异常占用了这个taskType的所有线程，那么这个taskType下面的其他任务就会被阻塞延后执行。应该给需要业务及时性的任务单独建立自定义的taskType，这样每个taskType的线程就是独立的，A任务异常不会影响B任务的执行。 1、后台创建task type相关的类，继承BaseScheduleNoTransactionTask，要加springbean的注解，参考：task type建议使用类名 2、提交任务的时候，设置tasktype为步骤1的TaskType 3、控制台新增策略和任务bean名称为步骤1的spring beanName，任务名称 $xxx，右边的占位符内容为yml里面配置的ownSign字段任务的名称也是步骤1的 spring beanName 4、配置完成后，控制台启动任务，就可以测试了

    shao's avatar shao
    2024年2月20日
    1.1K00
  • 文件 Oinone 7天入门到精通

    文件

    文件应用下包含“导入/导出模版、导入任务、导出任务”三个菜单。其中导入/导出任务菜单比较常用。 导入/导出模版 当前版本会为租户的表格视图自动创建导出模版，此处可进行编辑、查看详情的操作。 导入任务 导入任务可以下载导入文档，点击详情可以查看该条记录的导入结果，任务信息分组中可以查看错误信息。 导出任务 和导入任务一致，导出任务菜单中可以下载导出文档，点击详情可以查看该条记录的导出结果，任务信息分组中可以查看错误信息。

    史, 昂's avatar 史, 昂
    2024年6月20日
    1.2K00
  • 数据可视化-图表在业务页面如何加动态查询条件 数据可视化

    数据可视化-图表在业务页面如何加动态查询条件

    前提 阅读此文章前，默认读者已了解了界面设计器和数据可视化的基本操作图表基础操作文档 1.新建一个表单视图，要求表单的模型里有动态查询条件的字段 从左侧组件库找到“图表”组件，拖入到视图区域，在右侧属性面板选择已经发布过的图表 2.将“组件库”->“模型”下的查询条件字段拖入到视图区域，然后再选择图表，设置图表组件属性面板内的“查询条件” 查询条件为rsql语法，里面的变量需要用${}包裹起来，其中的activeRecord为当前视图的数据对象，下图中的activeRecord.field000015为推荐导购员的对象，我们拿了这个对象的id传到查询条件内 3.绑定菜单后，可以去运行时页面查看效果 通过浏览器的开发者工具，我们可以看到，选中导购员后查询条件发生了改变，页面的数据也同步发生了变化

    nation's avatar nation
    2024年8月28日
    2.0K00

  • 第3章 Oinone的基础入门

    本章主要介绍如何快速入门，了解如何在Oinone上进行开发。我们将通过准备环境、构建自己的第一个Oinone模块、完成一些小功能等方式来全面了解Oinone，这将是一个很好的开始。 具体来说，本章包括以下几个方面： 环境搭建：准备Windows或Mac版环境。 Oinone以模块为组织：了解Oinone模块的概念和如何创建和使用模块。 Oinone以模型为驱动：了解Oinone模型的概念和如何使用模型来构建应用。 Oinone以函数为内在：了解Oinone函数的概念和如何使用函数来实现应用逻辑。 Oinone以交互为外在：了解Oinone交互的概念和如何使用交互来设计和实现应用界面。

    史, 昂's avatar 史, 昂
    Oinone 7天入门到精通 2024年5月23日
    2.5K00

Leave a Reply

Please Login to Comment