深度分页问题优化方案

问题原因

Mysql使用select * from table limit offset, rows分页在深度分页的情况下, 性能急剧下降。

例如:select * 的情况下直接⽤limit 600000,10 扫描的是约60万条数据,并且是需要回表 60W次,也就是说⼤部分性能都耗在随机访问上,到头来只⽤到10条数据(总共取600010条数据只留10条记录)

优化方案

前端方案:业务层面限制跨度比较大的跳页

提供2种风格分页器供用户选择

  1. 标准分页器,展示最后一页和跳转指定页输入框
    image.png
  2. 简单分页器
    image.png

参考
百度方案: 不展示最后一页和直接跳转指定分页的输入框
image.png
Google方案:只展示查看下一页的按钮
image.png

界面设计器选表格/画廊的属性面板提供分页器风格的属性下拉选择

image.png

xml示例
<!-- 表格使用的标准分页器 --> <view type="TABLE" paginationStyle="SIMPLE"> <!-- fields --> </view> <!-- 画廊使用默认的标准分页器 --> <view type="GALLERY" paginationStyle="STANDARD"> <!-- fields --> </view>

后端方案

  1. 使用索引:确保数据库表中的相关字段上创建了适当的索引。索引可以加快查询速度,特别是在处理大数据量时。

  2. 分批查询:将大数据分成多个较小的批次进行查询,而不是一次性查询全部数据。可以通过限制每次查询的数据量和使用合适的偏移量来实现分批查询,例如使用LIMIT和OFFSET子句。

  3. 基于游标的分页:使用基于游标的分页技术,而不是传统的偏移分页。游标分页是通过记录上一次查询的游标位置,在下一次查询时从该位置开始获取新的数据,避免了大偏移量的影响。这可以通过数据库自身的功能(例如MySQL的CURSOR)或使用第三方库来实现。

  4. 缓存数据:如果数据变化较少,可以考虑将查询结果缓存到内存中,以避免频繁地查询数据库。这样可以提高页面相应速度,并减轻数据库负担。缓存的数据应该根据业务需要及时更新。

  5. 数据预处理:如果查询结果经常需要进行复杂的计算或处理,可以考虑提前对数据进行预处理并缓存结果,以减少每次查询的计算负担。

  6. 数据库优化:针对具体数据库系统,可以根据实际情况进行数据库调优。例如,合理设置数据库连接池大小、调整数据库参数等。

  7. 分布式存储和计算:对于非关系型数据库或分布式存储系统,可以考虑使用分布式存储和计算方案,将数据分散存储在多个节点上,并通过计算节点并行处理查询请求,以提高性能和可伸缩性。

参考链接

MySQL深分页场景下的性能优化

Oinone社区 作者:原创文章,如若转载,请注明出处:https://doc.oinone.top/other/75.html

访问Oinone官网:https://www.oinone.top获取数式Oinone低代码应用平台体验

Like (0)
's avatar
Previous 2023年6月20日 pm4:07
Next 2023年11月2日 pm1:58

相关推荐

  • 正式版发布:Oinone 6.1.0 版本 新增AI设计器、虚拟字段,邀您体验

    版本号: 6.1.0 版本发布日期:2025.04.18更新要点:新增AI设计器、虚拟字段 6.1.0 版本 20250612升级内容 镜像版本升级: 6.1.4 –> 6.1.4.1 后端版本升级: 6.1.4 –> 6.1.4.1 修复Excel导出未正确翻译的问题 20250610升级内容 镜像版本升级: 6.1.3 –> 6.1.4 后端版本升级: 6.1.3 –> 6.1.4 修复模型导出数据序列异常的问题 修复工作流填写和审批节点无法正常修改触发节点多对一字段的问题 20250506升级内容 镜像版本升级: 6.1.2.4 –> 6.1.3 前端版本升级 后端版本升级: 6.1.2.4 –> 6.1.3 新增@XSchedule注解功能 新增Schedule定时任务支持cron表达式 修复跨模块继承在某些特殊情况下计算错误的问题 20250427升级内容 镜像版本升级: 6.1.2.3 –> 6.1.2.4 前端版本升级 后端版本升级: 6.1.2.3 –> 6.1.2.4 修复上游模块计算时显示名称、是否显示等属性未正确处理的问题 修复应用中心编辑时上游模块计算错误的问题 修复工作流使用整个流程结束后保存时无法正常保存的问题 开放应用支持自定义请求/响应处理函数 20250424升级内容 镜像版本升级: 6.1.1 –> 6.1.2.3 前端版本升级 后端版本升级: 6.1.1 –> 6.1.2.3 修复增强模型由于继承计算错误导致无法正常更新的问题 修复应用中心编辑时依赖模块计算错误的问题 修复打印设计器由于字体读取失败导致无法正常打印的问题 修复由于RequestAttribute处理错误导致无法正常同步导出和打印的问题 修复o2m、m2m字段表格默认排序字段没有回填 20250423升级内容 镜像版本升级: 6.1.0 –> 6.1.1 前端版本升级 后端版本升级: 6.1.0.4 –> 6.1.1 修复某些场景下无法正确移除数据的问题 内容类型切换可控制body参数类型是否清空 解决关系字段为枚举时查询条件枚举值问题 开放接口支持HL7-FHIR-JSON 集成接口支持熔断 升级内容(6.1.0) 新增AI设计器 新增虚拟字段 新增界面设计器多对一字段下钻添加子模型字段 自动生成的多对多中间模型所属模块默认使用字段定义模型所在模块(可能出现升级失败) 集成设计器支持HL7-FHIR-JSON协议 低代码模型无代码字段修改cloumn ddl 集成接口&开放接口调用监控统计 开放应用支持IP白名单、支持自定义响应状态码与响应结果 修复跨模块追加函数或模块重载时导致未启动模块元数据丢失的问题 修复登录页面语言与登录后不一致的问题 修复loading位置为屏幕高度一半 添加文件下载、拖拽上传、手写签名三个组件 修复微前端情况下多次初始化富文本编辑器菜单多次注册问题 上传api的回调函数非必填 低无一体生成的模版工程依赖简化 业务工程新增依赖项 <!– 元数据增强版本管理 –> <dependencyManagement> <dependencies> <dependency> <groupId>pro.shushi.pamirs.framework</groupId> <artifactId>pamirs-framework-meta-enchance</artifactId> <version>${pamirs.meta.enchance.version}</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement> <!– 虚拟字段 –> <dependency> <groupId>pro.shushi.pamirs.framework</groupId> <artifactId>pamirs-framework-meta-virtual</artifactId> </dependency> 请尽可能保证业务工程前后端服务以及设计器同步升级前端服务仅需重新执行npm run clean && npm install即可自动升级到最新版本 后端版本包信息 Oinone平台部署及依赖说明(v5.3) 未使用到的版本号请忽略,按项目中使用到的进行替换。 <!– 平台基础 –> <oinone.version>6.1.4.1</oinone.version> <!– 低无一体 –> <pamirs.paas.version>6.0.1</pamirs.paas.version> <!– 元数据增强 –> <pamirs.meta.enchance.version>6.0.1</pamirs.meta.enchance.version> <!– 设计器 –> <pamirs.workflow.designer.version>6.1.0</pamirs.workflow.designer.version> <pamirs.model.designer.version>6.1.2</pamirs.model.designer.version> <pamirs.ui.designer.version>6.1.2</pamirs.ui.designer.version> <pamirs.print.designer.version>6.1.1</pamirs.print.designer.version> <pamirs.data.designer.version>6.1.0</pamirs.data.designer.version> <pamirs.dataflow.designer.version>6.1.0</pamirs.dataflow.designer.version> <pamirs.eip.designer.version>6.1.2</pamirs.eip.designer.version> <pamirs.microflow.designer.version>6.1.0</pamirs.microflow.designer.version> <pamirs.ai.designer.version>6.1.0</pamirs.ai.designer.version> <dependencyManagement> <dependencies> <dependency> <groupId>pro.shushi</groupId> <artifactId>oinone-bom</artifactId> <version>${oinone.version}</version> <type>pom</type> <scope>import</scope> </dependency> <dependency> <groupId>pro.shushi.pamirs.paas</groupId> <artifactId>pamirs-paas-code-fuse-lite-core</artifactId> <version>${pamirs.paas.version}</version> </dependency> <dependency> <groupId>pro.shushi.pamirs.framework</groupId> <artifactId>pamirs-framework-meta-enchance</artifactId> <version>${pamirs.meta.enchance.version}</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement> oinone-bom详细版本信息 <!–…

    2025年4月21日
    1.1K00
  • 如何通过自定义支持excel导出的动态表头

    介绍 本文需要阅读过前置文档如何自定义Excel导出功能,动态表头的功能在前置文档的基础上做的进一步扩展,本文未提到的部分都参考这个前置文档。 在日常的业务开发中,我们在导出的场景会遇到需要设置动态表头的场景,比如统计商品在最近1个月的销量,固定表头列为商品的名称等基础信息,动态表头列为最近一个月的日期,在导出的时候设置每个日期的销量,本文将通过此业务场景提供示例代码。 1.自定义导出任务模型 package pro.shushi.pamirs.demo.api.model; import pro.shushi.pamirs.file.api.model.ExcelExportTask; import pro.shushi.pamirs.meta.annotation.Model; @Model.model(DemoItemDynamicExcelExportTask.MODEL_MODEL) @Model(displayName = "商品-Excel动态表头导出任务") public class DemoItemDynamicExcelExportTask extends ExcelExportTask { public static final String MODEL_MODEL = "demo.DemoItemDynamicExcelExportTask"; } 2.自定义导出任务处理数据的扩展点 package pro.shushi.pamirs.demo.core.excel.exportdemo.extPoint; import org.springframework.stereotype.Component; import pro.shushi.pamirs.core.common.FetchUtil; import pro.shushi.pamirs.core.common.cache.MemoryIterableSearchCache; import pro.shushi.pamirs.demo.api.model.DemoItem; import pro.shushi.pamirs.file.api.config.FileConstant; import pro.shushi.pamirs.file.api.context.ExcelDefinitionContext; import pro.shushi.pamirs.file.api.enmu.ExcelTemplateTypeEnum; import pro.shushi.pamirs.file.api.entity.EasyExcelCellDefinition; import pro.shushi.pamirs.file.api.extpoint.impl.ExcelExportSameQueryPageTemplate; import pro.shushi.pamirs.file.api.model.ExcelExportTask; import pro.shushi.pamirs.file.api.model.ExcelWorkbookDefinition; import pro.shushi.pamirs.file.api.util.ExcelFixedHeadHelper; import pro.shushi.pamirs.file.api.util.ExcelHelper; import pro.shushi.pamirs.file.api.util.ExcelTemplateInit; import pro.shushi.pamirs.framework.common.entry.TreeNode; import pro.shushi.pamirs.meta.annotation.ExtPoint; import pro.shushi.pamirs.meta.api.CommonApiFactory; import pro.shushi.pamirs.meta.api.core.orm.ReadApi; import pro.shushi.pamirs.meta.api.core.orm.systems.relation.RelationReadApi; import pro.shushi.pamirs.meta.api.dto.config.ModelConfig; import pro.shushi.pamirs.meta.api.dto.config.ModelFieldConfig; import pro.shushi.pamirs.meta.api.session.PamirsSession; import pro.shushi.pamirs.meta.enmu.TtypeEnum; import pro.shushi.pamirs.meta.util.FieldUtils; import java.util.*; @Component public class DemoItemDynamicExportExtPoint extends ExcelExportSameQueryPageTemplate<DemoItem> implements ExcelTemplateInit { public static final String TEMPLATE_NAME ="商品动态导出"; @Override public List<ExcelWorkbookDefinition> generator() { ExcelFixedHeadHelper excelFixedHeadHelper = ExcelHelper.fixedHeader(DemoItem.MODEL_MODEL,TEMPLATE_NAME) .createBlock(TEMPLATE_NAME, DemoItem.MODEL_MODEL) .setType(ExcelTemplateTypeEnum.EXPORT); return Collections.singletonList(excelFixedHeadHelper.build()); } public static void buildHeader(ExcelFixedHeadHelper excelFixedHeadHelper) { excelFixedHeadHelper.addColumn("name","名称") .addColumn("cateName","类目") .addColumn("searchFrom","搜索来源") .addColumn("description","描述") .addColumn("itemPrice","单价") .addColumn("inventoryQuantity","库存"); } @Override @ExtPoint.Implement(expression = "context.model == \"" + DemoItem.MODEL_MODEL+"\" && context.name == \"" +TEMPLATE_NAME+"\"" ) public List<Object> fetchExportData(ExcelExportTask exportTask, ExcelDefinitionContext context) { List<Object> result = super.fetchExportData(exportTask,context); Object block = result.get(0); if (block instanceof ArrayList) { ((List<Object>) block).forEach(o -> { if (o instanceof DemoItem) { DemoItem item = (DemoItem) o; // TODO 设置动态表头部分字段的值 item.get_d().put("2024-09-10", "1111"); item.get_d().put("2024-09-11", "2222"); }…

    2024年9月11日
    4.0K00
  • 正式版发布:Oinone 5.7.0 版本 新增打印设计器、低无一体,邀您体验

    版本号: 5.7.0 版本发布日期:2025.02.13更新要点:新增打印设计器、低无一体 5.7.0 版本 升级说明及步骤(已升级为5.0.0版本忽略) 5.7.x版本以后无法通过4.7.8版本进行升级,请先升级到5.2.x版本进行权限迁移后再升级至5.7.x版本 启动工程关于pamirs包的扫描顺序需要进行修复 @ComponentScan( basePackages = { "pro.shushi.pamirs", } ) 20251211升级内容 镜像版本升级: 5.7.4.23 –> 5.7.4.24 后端版本升级: 5.7.4.19 -> 5.7.4.20 修复元数据导入时无代码模型未正确安装的问题 20251126升级内容 镜像版本升级: 5.7.4.21 –> 5.7.4.23 后端版本升级: 5.7.4.17 -> 5.7.4.19 修复流程设计器元数据导入导出异常的问题 修复 sql_record 在某些情况下未正确触发的问题 20251107升级内容 镜像版本升级: 5.7.4.20 –> 5.7.4.21 后端版本升级: 5.7.4.16 -> 5.7.4.17 修复权限的动作节点名称未翻译的问题 20250818升级内容 镜像版本升级: 5.7.4.18 –> 5.7.4.20 后端版本升级: 5.7.4.15 -> 5.7.4.16 修复从上游生成的菜单无法正确导出的问题 修复元数据继承计算未正确处理由界面设计器创建的提交动作的问题 修复界面设计器复制视图到子模型时无法复制提交动作的问题 20250612升级内容 镜像版本升级: 5.7.4.17 –> 5.7.4.18 后端版本升级: 5.7.4.14 -> 5.7.4.15 修复Excel导出未正确翻译的问题 20250610升级内容 镜像版本升级: 5.7.4.16 –> 5.7.4.17 后端版本升级: 5.7.4.13 -> 5.7.4.14 修复模型导出数据序列异常的问题 修复工作流填写和审批节点无法正常修改触发节点多对一字段的问题 20250427升级内容 镜像版本升级: 5.7.4.15 –> 5.7.4.16 后端版本升级: 5.7.4.12 -> 5.7.4.13 修复增强模型由于继承计算错误导致无法正常更新的问题 20250425升级内容 镜像版本升级: 5.7.4.14 –> 5.7.4.15 前端版本升级 后端版本升级: 5.7.4.11 -> 5.7.4.12 修复上游模块计算时显示名称、是否显示等属性未正确处理的问题 修复应用中心编辑时依赖模块计算错误的问题 修复工作流使用整个流程结束后保存时无法正常保存的问题 20250424升级内容 镜像版本升级: 5.7.4.13 –> 5.7.4.14 前端版本升级 修复o2m、m2m字段表格默认排序字段没有回填 20250417升级内容 镜像版本升级: 5.7.4.12 –> 5.7.4.13 前端版本升级 后端版本升级: 5.7.4.10 -> 5.7.4.11 修复跨模块追加函数或模块重载时导致未启动模块元数据丢失的问题 修复登录页面语言与登录后不一致的问题 20250407升级内容 镜像版本升级: 5.7.4.11 –> 5.7.4.12 后端版本升级: 5.7.4.9 -> 5.7.4.10 修复无界面设计器环境下,标品安装元数据时因自定义组件导致的启动报错或自定义组件不生效问题 修复界面设计器部分服务无法远程调用的问题 20250328升级内容 镜像版本升级: 5.7.4.10 –> 5.7.4.11 后端版本升级:5.7.4.9 修复在某些特殊情况下启动时,首页元数据保存错误的问题 修复界面设计器在2023年3月之前的视图无法正常发布的问题 20250320升级内容 镜像版本升级: 5.7.4.8 –> 5.7.4.10 前端版本升级 后端版本升级:5.7.4.8 修复启动初始化Bean顺序导致空指针的问题 修复模块依赖转换错误的问题 修复跨模块继承元数据在包含jar包依赖时计算错误的问题 移除对无代码模块自动生成视图的支持 修复URL链接动作元数据无法填充compute的问题 修复工作流审批详情获取数据错误的问题 支持退回流程上文中任意人工节点 业务流程、工作流详情, 自定义审批人信息补充 修复界面设计器保存菜单时导致元数据反解析错误的问题 20250317升级内容 镜像版本升级: 5.7.4.7 –> 5.7.4.8 前端版本升级 后端版本升级 修复多对多关系字段在某些特殊场景下无法正确提交的问题 修复在低代码模型中添加的无代码字段无法正确导出的问题 20250313升级内容 镜像版本升级: 5.7.4.6 –> 5.7.4.7 前端版本升级 后端版本升级 修复集成设计器soap接口调用失败的问题 修复字段权限模型搜索显示异常的问题 修复导出时表达式未正确解析的问题 修复单用户模式下session未正确续约的问题 修复在事务中使用数据审计导致内存数据变更的问题…

    2025年2月13日
    2.3K00
  • 开发者

    1.开发者 1.1 Webhook 通过webhook流程节点可以向第三方系统发送请求。 1.1.1 请求方式 支持GET、POST两种请求方式。 1.1.2 URL 在Webhook URL中填写发送请求的HTTP地址。 1.1.3 Headers&Body Headers的value支持通过表达式配置变量 Body的数据类型支持KEY_VALUE和APPLICATION_JSON两种。

    2024年6月20日
    2.0K00
  • oio-input 输入框

    代码演示 <oio-input v-model:value="value"></oio-input> API Input 参数 说明 类型 默认值 版本 addonAfter 带标签的 input,设置后置标签 string|slot addonBefore 带标签的 input,设置前置标签 string|slot allowClear 可以点击清除图标删除内容 boolean defaultValue 输入框默认内容 string disabled 是否禁用状态,默认为 false boolean false maxlength 最大长度 number prefix 带有前缀图标的 input slot showCount 是否展示字数 boolean false suffix 带有后缀图标的 input slot type 声明 input 类型,同原生 input 标签的 type 属性,见:MDN(请直接使用 <a-textarea /> 代替 type="textarea")。 string text value(v-model:value) 输入框内容 string Input 事件 事件名称 说明 回调参数 update:value 输入框内容变化时的回调 function(e) pressEnter 按下回车的回调 function(e) Input.Search 代码演示 <oio-input-search v-model:value="value"></oio-input-search> Input.Search 事件 事件名称 说明 回调参数 search 点击搜索或按下回车键时的回调 function(value, event) 其余属性和 Input 一致。

    2023年12月18日
    2.6K00

Leave a Reply

Please Login to Comment