相关推荐

• 中间件

  RocketMQ如何配置日志路径和日志自动清理规则

  RocketMQ的日志路径和日志自动清理规则可以通过以下方式进行配置： 配置日志路径 对于RocketMQ客户端： RocketMQ客户端日志默认存储在系统盘的特定位置，但你可以通过JVM启动参数来修改日志的输出路径。例如，在启动Java应用时，可以通过 -Dlogging.path 或 -Drocketmq.client.logRoot 参数指定日志根目录。例如： java -Drocketmq.client.logRoot=/path/to/your/log/directory -jar your_application.jar 对于RocketMQ服务端（Broker和NameServer）： RocketMQ服务端的日志路径通常在 conf/logback_broker.xml（对于Broker）和 conf/logback_namesrv.xml（对于NameServer）配置文件中定义。你可以在这些XML配置文件中修改 <property name="LOG_HOME"> 的值来改变日志存储路径。 配置日志自动清理规则 RocketMQ服务端提供了日志滚动策略来自动清理旧日志，这通常在上述提到的 logback_broker.xml 和 logback_namesrv.xml 文件中通过Logback的RollingPolicy配置实现。例如，可以配置文件大小限制、保留文件数量等： <appender name="FILE" class="ch.qos.logback.core.rolling.RollingFileAppender"> <file>${LOG_HOME}/rocketmq.log</file> <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy"> <!– 按天滚动日志文件 –> <fileNamePattern>${LOG_HOME}/archived/rocketmq.%d{yyyy-MM-dd}.%i.log</fileNamePattern> <!– 保留最多30天的日志 –> <maxHistory>30</maxHistory> <!– 单个日志文件最大大小，默认RocketMQ不直接支持配置此参数，但可通过Logback的SizeAndTimeBasedFNATP配置间接控制 –> <!–<timeBasedFileNamingAndTriggeringPolicy class="ch.qos.logback.core.rolling.SizeAndTimeBasedFNATP">–> <!–<maxFileSize>100MB</maxFileSize>–> <!–</timeBasedFileNamingAndTriggeringPolicy>–> </rollingPolicy> … </appender> 请注意，虽然RocketMQ客户端日志默认不直接支持配置单个日志文件大小，但你可以通过外部日志框架（如Logback或Log4j）的配置来间接影响日志文件的大小管理。 对于日志清理，RocketMQ本身对于消息存储的文件有自动清理机制，但针对日志文件的自动清理主要依赖于日志框架的配置，如上述Logback的配置示例所示。 确保在修改任何配置前备份原有的配置文件，并且理解修改可能对系统监控和故障排查造成的影响。

  nation

  2024年5月28日

  3.5K000
• 后端部署

  nginx如何配置后端服务的负载均衡

  要在Nginx中实现对同一套服务部署两遍并且按比例分配请求，你可以利用Nginx的负载均衡功能。具体做法如下： 步骤 1: 配置 upstream 首先，在Nginx的配置文件（通常是/etc/nginx/nginx.conf或/etc/nginx/sites-available/default，具体路径可能因系统而异）中定义一个upstream块，列出你的两个服务实例。这里假设你的两个服务实例运行在相同的主机上，但监听不同的端口，例如8080和8081。 http { upstream backend { server 192.168.1.100:8091 weight=1; server 192.168.1.101:8091 weight=1; } # … } 在这个例子中，weight=1表示两个服务实例具有相同的权重，Nginx会尽量以1:1的比例分配请求给这两个实例。 步骤 2: 配置 location 或 server 块 接着，在配置文件中找到或添加一个server块，然后在其中的location指令内指定使用刚刚定义的upstream。 server { listen 80; server_name your.domain.com; location / { proxy_pass http://backend; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } } 这里的proxy_pass http://backend;告诉Nginx将请求转发到名为backend的upstream定义的服务器列表中。 步骤 3: 重启Nginx 最后，保存配置文件并重启Nginx以使更改生效。 sudo nginx -t # 先测试配置是否正确 sudo systemctl restart nginx # 或者 service nginx restart，取决于你的系统 注意事项 确保你的两个服务实例是完全独立且状态同步的，以避免数据不一致或服务故障。 使用weight参数可以调整分配策略，如果你想改变分配比例，可以通过修改weight值来实现。 考虑到高可用性，还可以配置max_fails和fail_timeout等参数来处理失败的后端连接。

  nation

  2024年6月5日

  1.2K000
• 后端

  【KDB】后端部署使用Kingbase数据库（人大金仓/电科金仓）

  KDB数据库配置 驱动配置 Maven配置 点击查看官方驱动说明 PS：官方驱动说明中的9.0.0版本目前并未推送至公共仓库，因此使用8.6.0版本替代。 <kdb.version>8.6.0</kdb.version> <dependency> <groupId>cn.com.kingbase</groupId> <artifactId>kingbase8</artifactId> <version>${kdb.version}</version> </dependency> 离线驱动下载 kingbase8-8.6.0.jar JDBC连接配置 pamirs: datasource: base: type: com.alibaba.druid.pool.DruidDataSource driverClassName: com.kingbase8.Driver url: jdbc:kingbase8://127.0.0.1:4321/pamirs?currentSchema=base&autosave=always&cleanupSavepoints=true username: xxxxxx password: xxxxxx initialSize: 5 maxActive: 200 minIdle: 5 maxWait: 60000 timeBetweenEvictionRunsMillis: 60000 testWhileIdle: true testOnBorrow: false testOnReturn: false poolPreparedStatements: true asyncInit: true validConnectionCheckerClassName: com.alibaba.druid.pool.vendor.PGValidConnectionChecker PS：validConnectionCheckerClassName配置非常重要，连接存活检查是连接池可以保持连接的重要配置。Druid连接池可以自动识别大多数的数据库类型，由于jdbc:kingbase8协议属于非内置识别的类型，因此需要手动配置。 连接url配置 点击查看官方JDBC连接配置说明 url格式 jdbc:kingbase8://${host}:${port}/${database}?currentSchema=${schema}&autosave=always&cleanupSavepoints=true 在jdbc连接配置时，${database}和${schema}必须配置，不可缺省。autosave=always、cleanupSavepoints=true属于必须配置的事务参数，否则事务回滚行为与其他数据库不一致，会导致部分操作失败。 其他连接参数如需配置，可自行查阅相关资料进行调优。 方言配置 pamirs方言配置 pamirs: dialect: ds: base: type: KDB version: 9 major-version: V009R001C001B0030 pamirs: type: KDB version: 9 major-version: V009R001C001B0030 数据库版本 type version majorVersion V009R001C001B0030 KDB 9 V009R001C001B0030 V008R006C008B0020 KDB 9 V009R001C001B0030 PS：由于方言开发环境为V009R001C001B0030版本，其他类似版本原则上不会出现太大差异，如出现其他版本无法正常支持的，可在文档下方留言。 schedule方言配置 pamirs: event: enabled: true schedule: enabled: true dialect: type: PostgreSQL version: 14 major-version: 14.3 type version majorVersion PostgreSQL 14 14.3 PS：由于schedule的方言与PostgreSQL数据库并无明显差异，Kingbase数据库可以直接使用PostgreSQL数据库方言。 其他配置 逻辑删除的值配置 pamirs: mapper: global: table-info: logic-delete-value: (EXTRACT(epoch FROM CURRENT_TIMESTAMP) * 1000000 + EXTRACT(MICROSECONDS FROM CURRENT_TIMESTAMP))::bigint KDB数据库关键参数检查 PS：以下参数为Oinone平台接入KDB时使用的数据库参数，参数不一致时可尝试启动。 数据库模式 推荐配置：DB_MODE=oracle 数据库安装/初始化时配置 是否大小写敏感 推荐配置：enable_ci=off 是否启用语句级回滚 推荐配置：ora_statement_level_rollback = off show ora_statement_level_rollback; set ora_statement_level_rollback=off; 此参数在Oinone平台接入时使用的版本中未体现出应有的效果。从官方提供的文档来看，此参数与数据库连接串上的autosave=always&cleanupSavepoints=true配置结果应该是一致的，由于此参数配置无效，因此在数据库连接串上必须指定这两个参数。 Oinone平台在最初开发时使用的是基于mysql数据库的事务特性，即不支持语句级回滚的事务行为。因此，为了保证Oinone平台功能正常，需要使得事务行为保持一致。 如不一致，则可能出现某些功能无法正常使用的情况。如：流程设计器首次发布定时触发的工作流时会出现报错；导入/导出任务出现异常无法正常更新任务状态等。 是否将空字符串视为NULL 推荐配置：ora_input_emptystr_isnull = off show ora_input_emptystr_isnull; set ora_input_emptystr_isnull=off; KDB数据库用户初始化及授权 — init root user (user name can be modified by oneself) CREATE USER root WITH PASSWORD 'password'; — if using automatic database and schema creation, this is…

  张博昊

  2024年10月29日

  1.2K000
• 后端

  平台配置日志输出和推送到APM与LogStash

  场景描述 目前设计器镜像启动后日志文件为out.log，是启动脚本中定向输出了(>>)out.log文件。实际项目可能： 日志输出到特定目录的特定文件名中 指定以日志保留策略(单个文件大小和文件保留个数) 日志输出到APM工具中(如skywalking) 日志推送到LogStash 日志自定义输出 不定向输出，采用自己配置的方式，与标准的SpringBoot工程配置日志一样。两种方式（都是Spring提供的方式）： 方式一 bootstrap.yml 里面可以按profiles指定logback的配置文件，具体文件名和文件输入在logback里面进行配置，跟通用的logback配置一致. 例如： logging: config: classpath:logback-pre.xml 方式二 resources的根目录，直接配置 logback-spring.xml， 启动会自动加载。 日志自定义场景 配置日志推送到LogStash <!–配置日志推送到LogStash–> <contextListener class="pro.shushi.pamirs.demo.core.config.DemoLogbackFiledConfig"/> <appender name="LogStash" class="net.logstash.logback.appender.LogstashTcpSocketAppender"> <destination>127.0.0.1:4560</destination> <!– encoder必须配置,有多种可选 –> <encoder charset="UTF-8" class="net.logstash.logback.encoder.LogstashEncoder"> <!– SkyWalking插件, log加tid–> <provider class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.logstash.TraceIdJsonProvider" /> <!–在生成的json中会加这些字段–> <customFields> {"app.name":"pamirs-demo", "app.type":"Microservice", "platform":"pamirs", "env":"dev"} </customFields> <timeZone>Asia/Shanghai</timeZone> <writeVersionAsInteger>true</writeVersionAsInteger> <providers> <pattern> <pattern> <!–动态的变量–> { "ip": "%{ip}", "server.name": "%{server.name}", "logger_name": "%logger" } </pattern> </pattern> </providers> </encoder> </appender> skywalking的日志rpc上传 <!– skywalking的日志rpc上传 –> <appender name="SkyWalkingLogs" class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.log.GRPCLogClientAppender"> <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder"> <layout class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.mdc.TraceIdMDCPatternLogbackLayout"> <Pattern>${CONSOLE_LOG_PATTERN}</Pattern> </layout> </encoder> </appender> 完整的代码示例 Logback自定义字段 package pro.shushi.pamirs.demo.core.config; import ch.qos.logback.classic.Level; import ch.qos.logback.classic.Logger; import ch.qos.logback.classic.LoggerContext; import ch.qos.logback.classic.spi.LoggerContextListener; import ch.qos.logback.core.Context; import ch.qos.logback.core.spi.ContextAwareBase; import ch.qos.logback.core.spi.LifeCycle; import java.net.InetAddress; import java.net.UnknownHostException; /** * Logback自定义字段 * * @author wx@shushi.pro * @date 2024/4/17 */ public class DemoLogbackFiledConfig extends ContextAwareBase implements LoggerContextListener, LifeCycle { private boolean started = false; @Override public boolean isResetResistant() { return false; } @Override public void onStart(LoggerContext loggerContext) { } @Override public void onReset(LoggerContext loggerContext) { } @Override public void onStop(LoggerContext loggerContext) { } @Override public void onLevelChange(Logger logger, Level level) { } @Override public void start() { if (started) { return; } Context context = getContext();…

  望闲

  2024年5月18日

  1.5K000
• 后端

  【OceanBase】后端部署使用 OceanBase 数据库（海扬/OB）

  OceanBase 数据库配置 驱动配置 Maven配置（4.2.5.3版本可用） <oceanbase.version>2.4.14</oceanbase.version> <dependency> <groupId>com.oceanbase</groupId> <artifactId>oceanbase-client</artifactId> <version>${oceanbase.version}</version> </dependency> PS: oceanbase 驱动必须使用 2.4.5 版本或以上，低于此版本的驱动无法使用自增ID功能，无法正常启动。点击查看官方JDBC版本发布记录 JDBC连接配置 OceanBase – Oracle 版 pamirs: datasource: base: type: com.alibaba.druid.pool.DruidDataSource driverClassName: com.alipay.oceanbase.jdbc.Driver url: jdbc:oceanbase://10.xxx.xxx.xxx:1001/BASE?useServerPrepStmts=true&useOraclePrepareExecute=true&defaultFetchSize=4096 username: xxxxxx password: xxxxxx validConnectionCheckerClassName: com.alibaba.druid.pool.vendor.OracleValidConnectionChecker validationQuery: SELECT 1 FROM DUAL OceanBase – MySQL 版 pamirs: datasource: base: type: com.alibaba.druid.pool.DruidDataSource driverClassName: com.alipay.oceanbase.jdbc.Driver url: jdbc:oceanbase://10.xxx.xxx.xxx:1001/base username: xxxxxx password: xxxxxx 连接 URL 配置 点击查看官方JDBC连接配置说明 URL 格式（OceanBase – Oracle 版） jdbc:oceanbase://${host}:${port}/${database}?useServerPrepStmts=true&useOraclePrepareExecute=true&defaultFetchSize=4096 在jdbc连接配置时，useServerPrepStmts=true&useOraclePrepareExecute=true 必须配置，否则自增主键无法正常使用。 defaultFetchSize=4096 意味着在使用服务端预处理时，游标每次获取的结果集行数，驱动默认值为 10，在进行大量数据获取时会出现卡顿的现象，因此推荐使用 4096 作为其结果集大小。过大可能会导致 OOM，过小可能还是会出现卡顿，该值需要按实际情况进行配置。 其他连接参数如需配置，可自行查阅相关资料进行调优。 方言配置（OceanBase – Oracle 版） PS：OceanBase – MySQL 版无需配置方言，只需修改数据库连接即可正常使用。 pamirs方言配置 pamirs: dialect: ds: base: type: OceanBase version: 4.2.5.3 major-version: oracle-4.2 pamirs: type: OceanBase version: 4.2.5.3 major-version: oracle-4.2 plus: configuration: jdbc-type-for-null: "NULL" using-model-as-property: true using-statement-handler-dialect: true mapper: batch: collectionCommit default-batch-config: read: 500 write: 100 数据库版本 type version majorVersion 4.2.5.3 OceanBase 4.2.5.3 oracle-4.2 PS：由于方言开发环境为4.2.5.3版本，其他类似版本（4.x）原则上不会出现太大差异，如出现其他版本无法正常支持的，可在文档下方留言。 schedule方言配置 pamirs: event: enabled: true schedule: enabled: true dialect: type: Oracle version: 12.2 major-version: 12c type version majorVersion Oracle 12.2 12c PS：由于 schedule 的方言与 Oracle 数据库并无明显差异，OceanBase 数据库可以直接使用 Oracle 数据库方言。 其他配置（OceanBase – Oracle 版） 逻辑删除的值配置 pamirs: mapper: global: table-info: logic-delete-value: (CAST(SYSTIMESTAMP AS DATE) – TO_DATE('1970-01-01 08:00:00', 'YYYY-MM-DD HH24:MI:SS')) * 8640000000000

  张博昊

  2025年7月21日

  633000