1. Oinone社区首页

深度分页问题优化方案

• • Uncategorized • 阅读 873

问题原因

Mysql使用select * from table limit offset, rows分页在深度分页的情况下, 性能急剧下降。

例如：select * 的情况下直接⽤limit 600000，10 扫描的是约60万条数据，并且是需要回表 60W次，也就是说⼤部分性能都耗在随机访问上，到头来只⽤到10条数据(总共取600010条数据只留10条记录)

优化方案

前端方案：业务层面限制跨度比较大的跳页

提供2种风格分页器供用户选择

  1. 标准分页器，展示最后一页和跳转指定页输入框
    image.png
  2. 简单分页器
    image.png

参考
百度方案: 不展示最后一页和直接跳转指定分页的输入框
image.png
Google方案：只展示查看下一页的按钮
image.png

界面设计器选表格/画廊的属性面板提供分页器风格的属性下拉选择

image.png

xml示例

<!-- 表格使用的标准分页器 -->
<view type="TABLE" paginationStyle="SIMPLE">
 <!-- fields -->
</view>

<!-- 画廊使用默认的标准分页器 -->
<view type="GALLERY" paginationStyle="STANDARD">
 <!-- fields -->
</view>

后端方案

  1. 使用索引：确保数据库表中的相关字段上创建了适当的索引。索引可以加快查询速度，特别是在处理大数据量时。

  2. 分批查询：将大数据分成多个较小的批次进行查询，而不是一次性查询全部数据。可以通过限制每次查询的数据量和使用合适的偏移量来实现分批查询，例如使用LIMIT和OFFSET子句。

  3. 基于游标的分页：使用基于游标的分页技术，而不是传统的偏移分页。游标分页是通过记录上一次查询的游标位置，在下一次查询时从该位置开始获取新的数据，避免了大偏移量的影响。这可以通过数据库自身的功能（例如MySQL的CURSOR）或使用第三方库来实现。

  4. 缓存数据：如果数据变化较少，可以考虑将查询结果缓存到内存中，以避免频繁地查询数据库。这样可以提高页面相应速度，并减轻数据库负担。缓存的数据应该根据业务需要及时更新。

  5. 数据预处理：如果查询结果经常需要进行复杂的计算或处理，可以考虑提前对数据进行预处理并缓存结果，以减少每次查询的计算负担。

  6. 数据库优化：针对具体数据库系统，可以根据实际情况进行数据库调优。例如，合理设置数据库连接池大小、调整数据库参数等。

  7. 分布式存储和计算：对于非关系型数据库或分布式存储系统，可以考虑使用分布式存储和计算方案，将数据分散存储在多个节点上，并通过计算节点并行处理查询请求，以提高性能和可伸缩性。

参考链接

MySQL深分页场景下的性能优化

Oinone社区 作者：原创文章，如若转载，请注明出处：https://doc.oinone.top/other/75.html

访问Oinone官网:https://www.oinone.top获取数式Oinone低代码应用平台体验

赞 (0)
的头像
0 0
上一篇 2023年6月20日 pm4:07
下一篇 2023年11月2日 pm1:58

相关推荐

  • Oinone平台部署及依赖说明（v5.0） 运维实践

    Oinone平台部署及依赖说明（v5.0）

    概述 名词解释 业务工程包：指平台提供的内置基础包和内置功能包。 设计器工程包：指模型设计器、界面设计器、流程设计器等相关依赖包。 父POM：仅声明依赖包版本的pom文件 启动工程POM：仅声明具体依赖包的pom文件，一般不用于指定版本。 业务工程部署 Oinone平台向合作伙伴提供前后端业务工程所需的全部依赖，依赖项的具体说明下面会分别介绍。 设计器部署 Oinone平台向合作伙伴提供了两种设计器部署方式： Docker镜像：支持amd64和arm64两种架构的操作系统。（推荐） JAR包：与Docker镜像中的内容完全一致。 使用JAR包直接启动需要使用Oinone专属启动器，Docker镜像已内置Oinone专属启动器。 PS：如遇到以上部署方式或提供的镜像无法满足部署需求时，请联系Oinone平台售后获取技术支持。 Docker镜像 体验镜像 包括所有设计器。 内置所有所需中间件，包括Mysql、Redis、Zookeeper、RocketMQ。 适用场景：用于快速体验Oinone平台全部功能 docker pull harbor.oinone.top/oinone/oinone-designer-full-v5.0:TAG 前后端一体部署镜像 包括所有设计器。 无内置中间件。 适用场景：用于便捷部署Oinone平台的前后端服务 docker pull harbor.oinone.top/oinone/oinone-designer-mini-v5.0:TAG 前后端一体部署镜像 – 流程设计器 仅包括流程设计器。 无内置中间件。 适用场景：用于便捷部署仅需流程设计器的Oinone平台的前后端服务。 docker pull harbor.oinone.top/oinone/workflow-designer-v5.0:TAG 后端部署镜像 用于前后端分别部署，包括所有设计器。 仅包含后端服务 无内置中间件 适用场景：Kubenetes部署；支持健康检查，前后端分离部署； docker pull harbor.oinone.top/oinone/designer-backend-v5.0:TAG 前端部署镜像 用于前后端分别部署，包括所有设计器。 仅包含前端服务 无内置中间件 适用场景：Kubenetes部署；支持健康检查，前后端分离部署； docker pull harbor.oinone.top/oinone/designer-frontend-v5.0:TAG 镜像拉取 以体验镜像为例，Oinone平台提供多种拉取镜像的方式。 # 获取混合架构镜像，支持amd64和arm64架构的操作系统 docker pull harbor.oinone.top/oinone/oinone-designer-full-v5.0:5.0.3.3 # 仅获取amd64架构镜像 docker pull harbor.oinone.top/oinone/oinone-designer-full-v5.0:5.0.3.3-amd64 # 仅获取arm64架构镜像 docker pull harbor.oinone.top/oinone/oinone-designer-full-v5.0:5.0.3.3-arm64 # 获取最新版镜像（每次拉取自动更新） docker pull harbor.oinone.top/oinone/oinone-designer-full-v5.0 PS：如镜像拉取过慢，可在确定操作系统架构的情况下获取amd64或arm64架构镜像。 JAR包获取 $VERSION：对应镜像版本号 包含所有设计器的后端JAR包下载路径示例 https://oinone-jar.oss-cn-zhangjiakou.aliyuncs.com/install/oinone-designer/pamirs-designer-boot-v5.0-$VERSION.jar 仅包含流程设计器的后端JAR包下载路径示例 https://oinone-jar.oss-cn-zhangjiakou.aliyuncs.com/install/workflow-designer/pamirs-workflow-designer-boot-v5.0-$VERSION.jar Kubernetes后端部署健康检查 准备健康检查脚本 将以下脚本放置在镜像中。/opt/pamirs/bin/healthCheck.sh为以下示例中所用脚本路径。（平台提供的设计器镜像有内置该脚本，并与示例路径一致） #!/usr/bin/env bash function sendDingTalkMessage() { url=$DING_TALK_ROBOT_URL if [ -z $url ]; then return -1 fi message=$DING_TALK_ROBOT_MESSAGE if [ -z $message ]; then return -1 fi message="$message\\nby kubernetes" isAtAll=$DING_TALK_ROBOT_IS_AT_ALL if [ $isAtAll ]; then isAtAll="true" message="$message\\n" else isAtAll="false" fi message="{\"msgtype\": \"text\",\"text\": {\"content\":\"$message\"}, \"isAtAll\": \"${isAtAll}\"}" curl "${url}" -H 'Content-Type: application/json' -d "${message}" } port=$1 callback=$2 OK=$(curl -s http://127.0.0.1:${port}/ruok) if [ "$OK" == "imok" ]; then if [ -n $callback ]; then $callback fi exit 0 else exit 1 fi 配置Kubernetes健康检查 kind: Deployment apiVersion: apps/v1 spec: template: spec: containers: – name: designer-backend env: – name: DING_TALK_ROBOT_URL #…

    张博昊的头像 张博昊
    2024年6月21日
    2.4K00
  • 模版名称如何翻译 未分类

    模版名称如何翻译

    导出翻译项： mutation { excelExportTaskMutation { createExportTask( data: { workbookDefinition: { model: "file.ExcelWorkbookDefinition" name: "excelLocationTemplate" } } ) { name } } } { "path": "/file", "lang": "en-US" } 导入翻译项： mutation { excelImportTaskMutation { createImportTask( data: { workbookDefinition: { model: "file.ExcelWorkbookDefinition" name: "excelLocationTemplate" } file: { url: "https://minio.oinone.top/pamirs/upload/zbh/test/2024/06/03/导出国际化配置模板_1717390304285_1717391684633.xlsx" } } ) { name } } } PS：导入自行修改url进行导入

    yexiu的头像 yexiu
    2025年2月7日
    88100
  • Oinone发布版本一览 Oinone 稳定版本

    Oinone发布版本一览

    点击查看更多版本 20250312 为了更好的服务合作伙伴，便于所有发布版本可以有序迭代和升级，我们开始使用LTS（长期存储）版本对长期维护版本和镜像进行维护。 在未来的版本更新中，我们会将历史版本中需要长期保存版本标记为LTS，这个标记一般出现在一个新版本发布后的1-3个月。 LTS表示以下含义： 不再增加任何新特性的支持，这一点同第二位中版本号的维护一致。 不再主动修复高版本发现的已知BUG。 所有版本的修复迭代将统一使用第四位版本号进行维护，同时第三位小版本号不再更新。 版本迭代将长期使用同一篇发布日志进行维护，根据时间倒序追加在文档前。 7.x 注: 此版本需要使用JDK17环境进行开发和部署 Oinone平台部署及依赖说明（v6.3） 主要特性： 后端升级适配 JDK17 优化全平台界面交互 版本 发布日志 发布时间 主要更新内容摘要 备注 7.0.0 点击查看 20251217 升级 JDK17，优化全平台界面交互 6.x 注: 此版本为JDK8环境支持的最后一个长期存储和维护版本 Oinone平台部署及依赖说明（v6.3） 主要特性： 新增涡轮增加启动加速 新增AI设计器 新增虚拟字段 界面设计器支持下钻 Oinone 正式开源 工作流节点支持：拖拽、缩放、复制、剪切、粘贴等功能 工作流新增自动审批组件 EIP开放应用支持流控 集成设计器新增 MCP 流程设计器优化 优化全平台界面交互 版本 发布日志 发布时间 主要更新内容摘要 备注 6.4.0 点击查看 20251217 优化全平台界面交互 LTS 6.3.7 点击查看 20251217 集成设计器新增 MCP，流程设计器优化 6.3.0 点击查看 20250905 集成设计器新增 MCP，流程设计器优化 6.2.15 点击查看 20250905 Oinone 正式开源 6.2.0 点击查看 20250609 Oinone 正式开源 6.1.4 点击查看 20250612 新增AI设计器、虚拟字段 6.1.0 点击查看 20250418 新增AI设计器、虚拟字段 6.0.2 点击查看 20250418 新增涡轮增加启动加速 6.0.0 点击查看 20250312 新增涡轮增加启动加速 5.7.x 主要特性： 新增打印设计器 新增低无一体 版本 发布日志 发布时间 主要更新内容摘要 备注 5.7.4 点击查看 20250312 新增打印设计器、低无一体 LTS 5.3.x Oinone平台部署及依赖说明（v5.3） 主要特性： 新增微流设计器 版本 发布日志 发布时间 主要更新内容摘要 备注 5.3.9 点击查看 20250312 修复子表格导入导出权限控制异常的问题 LTS 5.3.8 点击查看 20250212 集成设计器支持文件集管理 5.3.7 点击查看 20250124 集成设计器支持文件集管理 5.3.6 点击查看 20250116 弹窗和抽屉新增全屏功能 5.3.5 点击查看 20250107 修复EIP参数转换异常的问题 5.2.x 主要特性： 界面设计器新增与其他设计器结合（调用工作流相关功能、调用集成设计器相关功能等） 流程设计器新增并发节点 数据可视化新增数据库、集成接口数据源 MSSQL（SQLServer）数据库方言支持 KDB（Kingbase8）数据库方言支持 版本 发布日志 发布时间 主要更新内容摘要 备注 5.2.21 点击查看 20250212 修复权限节点加载错误的问题 LTS 5.2.20 点击查看 20250116 修复动作上下文的value配置false不生效 5.2.19 点击查看 20250107 修复EIP参数转换异常的问题 5.2.18 点击查看 20241225 修复日期格式未根据语言配置转换的问题 5.1.x Oinone平台部署及依赖说明（v5.1） 主要特性： 新增元数据多环境在线发布功能 界面设计器新增菜单管理 系统设置新增多首页规则配置 版本 发布日志 发布时间 主要更新内容摘要 备注 5.1.17 点击查看 20241122 修复MQ注册时ConsumerGroup为空导致的异常 LTS…

    张博昊的头像 张博昊
    2024年8月24日
    3.6K00
  • 总体结构设计示例 架构设计

    总体结构设计示例

    1.项目总体架构 Oinone总体工程架构 Oinone总体项目分层 以常见的B2C和全渠道订单OMS为例分层说明：1、最底层LCDP是低代码开发框架，提供低代码的开发能力；2、CDM通用数据模型层，主要解决系统间的数据标准；3、标品-标准业务产品层, 这层是我们核心的功能层，大部分业务代码都在这里完成；为了达到能按照模块组装的功能，标品需划分好模块，各模块是相对独立的服务(类似微服务的一个服务中心);4、客户定制层，可以对标品某个模块进行扩展，也可以新建模块；对标品扩展方式, 通常有以下几种方式：1）继承标品功能进行扩展2）覆盖方式，重写某个功能3）通过扩展点的方式注入定制逻辑4）通过SPI的方式，替换掉默认逻辑 2、设计器与应用 本地开发环境和开发环境，同一个环境下，有业务应用和设计器的两个入口，需要业务应用和设计器进行实时联动的情况，则要求：1.1 所有的【业务应用】和【设计器】，共用base库和基础数据的库； 业务应用的【业务数据】使用各自的业务库(可多个)；1.2 业务应用和设计器之间的互通通过配置网关(如Nginx等)的路由方式； 开发本地或者开发环境，若通过【业务的前端】入口直接访问到设计器，则需在【业务应用】的网关路由配置【设计器】的路由。 开发本地或者开发环境，若通过【设计器的前端】入口直接访问到业务系统，则需在【设计器】的网关路由配置【业务应用】的路由。 1.3 基础应用和业务应用、基础数据和设计器包含在一起，通过指定基础应用模块到对应的数据源的方式实现基础数据共享；1.4 基础应用(文件file/用户权限/资源等)单独部署；业务应用和设计器通过远程方式(RPC)进行调用； 2.1 模式一,应用和基础模块独立 总体方案：1、DB层面每个环境共用base库；主数据(用户、权限、资源等)单独建立主数据库；各自业务系统（包括设计器本身）建立自己的业务库。2、应用层面1）应用和设计器之间通过路由转发的方式相互访问；2）应用单独部署的情况，应用之间通过RPC(Dubbo)的方式进行调用；3）所有的应用AllinOne的方式部署在一起，则直接走SpringBean的方式(Injvm)； 2.1.1 模式1,DB划分 2.1.2 模式1,服务调用 2.2 模式二,应用和基础模块合并 3、部署架构图 4、Oinone项目包分层示例 4.1 CDM层示例 CDM层主要定义模型，包括模型之间的关系；对于主数据类的基础服务，可以确定上层不会修改的，也可包含这部分的服务层。 4.2 标品项目示例 ├── pamirs-boot 应用启动模块,启动入口,启动过程中系统性的数据初始化│ │ └── boot 启动类的包路径│ │ └── XxxApplication 模块的应用启动类，遵循spring boot 规范│ │ └── resources/config/application-dev.yml 研发环境的yml配置文件，遵循spring boot 规范│ │ └── resources/bootstrap.yml 启动的yml配置文件，遵循spring boot 规范├── pamirs-common 通用模块 工程通用常量,传输模型,Utils等├── pamirs-major 主数据模块│ ├── pamirs-major-api 对外api包,在此包下定义 模型 服务Service,枚举常量等│ │ └── constant 常量的包路径│ │ └── enums 枚举的包路径│ │ └── model 该领域核心模型的包路径│ │ └── service 该领域对外暴露接口api的包路径│ │ └── tmodel 存放该领域的非存储模型如：用于传输的临时模型│ │ └── MajorModule 该类是Major模块的定义│ ├── pamirs-major-core api的内部逻辑实现包│ │ └── init 模块初始化工作的包路径│ │ └── manager manager是 service的一些公共逻辑，不会定义为独立的function的类│ │ └── service service是对应api工程中service接口的实现类，是模型的function├── pamirs-eip 集成模块│ ├── pamirs-eip-api 对外api包,在此包下定义 模型 服务Service,枚举常量等│ │ └── EipModule 该类是Major模块的定义│ ├── pamirs-eip-core api的内部逻辑实现包├── pamirs-item 商品模块│ ├── pamirs-item-api 对外api包,在此包下定义 模型 服务Service,枚举常量等│ │ └── ItemModule 该类是Major模块的定义│ ├── pamirs-item-core api的内部逻辑实现包│ ├── pamirs-item-view 应用PC端│ │ └── action 模型对外交互的行为的包–对前端页面开放的接口│ │ └── init 模块初始化工作的包路径│ │ └── manager manager是 service的一些公共逻辑，不会定义为独立的function的类 4.3 系统的分层 himalaya(cdm) — himalaya-major — himalaya-common — himalaya-item — himalaya-inventory — himalaya-trade — …… kailas-leo（标品项目） — kailas-leo-major — kailas-leo-item — kailas-leo-trade — kailas-leo-pay — kailas-leo-boot — …… kailas-leo-lb（客户项目）…

    shao的头像 shao
    2024年2月20日
    1.9K00
  • Oinone协同开发源码分析 Oinone 源码分析

    Oinone协同开发源码分析

    前提 源码分析版本是 5.1.x版本 什么是协同开发模式 协同开发模式解决的是不同开发，在开发同一个模型时，不会相互影响，也不会影响到测试环境详见：Oinone协同开发使用手册 协同开发原理 在协同模式下，本地开发的元数据，配置pamirs.data.distribution.session.ownSign参数后，元数据前缀加ownSign值，然后只存在redis缓存，不落库。其它环境无法直接访问到该数据。测试环境，或其它环境访问，需要在url上加ownSign等于设置的，则读redis数据时，除了加载通用数据，也会合并ownSign前缀的redis数据，显示出来 注意事项 协同开发仅支持界面设计器，其他设计器均不支持 不支持权限配置 不支持工作流触发 版本支持 完整支持5.1.0及以上 功能详解 启动时操作 做元数据保护检查 配置ownSign,则key拼接为 ownSign + ‘:’ + key 清除掉ownSign的redis缓存数据；非ownSign不用清理 计算差量数据 有差量数据，放入ownSign标识数据，并清理本地标识 dubbo注册服务，group拼接group + ownSign 后进行注册 读取时操作 读本地 组装key: ownSign + ‘:’ + key 本地缓存有数据，更新缓存本地数据，返回 本地没有数据，读redis，并插入本地缓存 读远程 dubbo注册消费者，group拼接group + ownSign 后进行泛化调用 元数据保护检查 开启数据保护模式，在启动参数里加-PmetaProtected=pamirs 会在启动时，往redis里写入数据 private static final String META_PROTECTED_KEY = “pamirs:check:meta-protected”; private void writeMetaProtected(String metaProtected) { stringRedisTemplate.opsForValue().set(META_PROTECTED_KEY, metaProtected); } 如果同时又设置 pamirs.data.distribution.session.ownSign则会报错 在使用元数据保护模式下，不允许设置 [pamirs.distribution.session.ownSign] 处理逻辑如下 看redis是否启用保护标识的值 获取pamirs.distribution.session.ownSign配置 没有启动参数 且redis没有值，则retrun 如果有启动参数且配置了ownSign，报错 在使用元数据保护模式下，不允许设置 [pamirs.distribution.session.ownSign] 如果有启动参数且 redis没有值或启动参数设置 -P metaForceProtected，则写入redis 如果有启动参数, 且启动参数跟redis值不同，则报错[公共环境开启了元数据保护模式，本地开发环境需配置[pamirs.distribution.session.ownSign]] 如果没有启动参数且redis有值，但没有配置ownSign 报错[公共环境开启了元数据保护模式，本地开发环境需配置[pamirs.distribution.session.ownSign]] 核心代码如下MetadataProtectedChecker public void process(AppLifecycleCommand command, Set<String> runModules, List<ModuleDefinition> installModules, List<ModuleDefinition> upgradeModules, List<ModuleDefinition> reloadModules) { String currentMetaProtected = stringRedisTemplate.opsForValue().get(META_PROTECTED_KEY); String metaProtected = getMetaProtected(); boolean hasCurrentMetaProtected = StringUtils.isNotBlank(currentMetaProtected); boolean hasMetaProtected = StringUtils.isNotBlank(metaProtected); if (!hasCurrentMetaProtected && !hasMetaProtected) { return; } if (hasMetaProtected) { if (Spider.getDefaultExtension(SessionFillOwnSignApi.class).handleOwnSign()) { // 如果有启动参数且配置了ownSign throw new UnsupportedOperationException(“在使用元数据保护模式下，不允许设置 [pamirs.distribution.session.ownSign]”); } if (!hasCurrentMetaProtected || isForceProtected()) { writeMetaProtected(metaProtected); } else if (!metaProtected.equals(currentMetaProtected)) { // 如果有启动参数, 且启动参数跟redis值不同 throw unsupportedLocalOperation(); } } else { if (Spider.getDefaultExtension(SessionFillOwnSignApi.class).handleOwnSign()) { return; } // 没有启动参数且redis有值，但没有配置ownSign 报错 throw unsupportedLocalOperation(); } } 取ownSign方式 看header是否有ownSign这个标识 header没有，则从配置里取，并放到header里 ownSign的获取核心代码 CdDistributionSessionFillOwnSignApi @Override public String getCdOwnSign() { String cdOwnSign = null; // 看header是否有ownSign这个标识…

    oinone的头像 oinone
    2024年9月12日
    1.8K00

Leave a Reply

登录后才能评论