为了DB复用和简化管理,我们对常见应用依赖的DB模块进行更高级的提取和抽象。
虽然一些ORM可以简化DB开发,但是我们还是需要进行改进和优化,否则应用越多,后期管理运维越混乱。
根据常见开发需要,数据库连接串、数据库元数据管理基本上是合格的开发人员必须要用到的功能。
一、数据库连接
数据库连接串管理起来不难,但是写法随意可能造成编程开发的混乱。
通常我们写的应用程序,如果要访问数据库,除了调用远程API服务,基本都会配置一个或多个数据库连接串,有数据库密码安全需要的还需要配置安全模块。随着应用增多,数据库连接串使用容易失控。我个人在某厂碰到过某大型CS结构的应用程序,WinForm客户端赫然写着各种数据库连接串,真是呵呵哒。
我们通常按照实际BU业务进行模块划分,然后将业务数据落地保存至各自的DB中。
PowerDotNet数据管理平台提供了一些简单工具和接口,方便开发人员管理数据库连接,我们把数据库简易连接功能称为DBKey或DBRoute(本系列统称为DBKey,感谢前厂友情提供命名),根据一个DBKey可以快速获取实际连接串。
除了传统的RDBMS关系型数据库,也支持NoSQL、NewSQL、ETCD及Redis之类的缓存连接串管理。
根据DBKey的设计初衷,所有业务系统,只有DBKey根服务需要配置一次带有用户名和密码的数据库连接串,其他地方直接配置DBkey就可以把问题都搞定。
二、元数据
1、数据库服务器
2、字段管理
其他相关元数据管理,如:
(1)数据表
表和字段查询
仅表查询
(2)视图
(3)存储过程
(4)函数
(5)触发器
相对而言触发器已经用的非常少了。
(6)索引
PowerDotNet可以像主流RDBMS管理工具一样实现对数据库执行基本的增删改查操作,元数据管理也在持续完善中,常见的死锁分析、耗时统计、最耗IO的查询、统计SQL语句执行次数、慢查询等功能会根据不同数据库类型陆续集成进来,最终目标是做到完善的DML、DDL和DCL管理控制。
PowerDotNet已经实现了对关系型数据库SQLServer、MySQL(MariaDB)和PostgreSQL的元数据完全支持,也预留了接口用于扩展支持更多类型的数据库。
实际上数据库管理非常复杂,个人开发只用到常用功能,后续文章还会提到如何高效开发数据库应用。
三、代码生成器
如果熟悉常见的代码生成器,大家都能想到这主要是用来生成单表对应的实体、DAL、Json数据、DDL、存储过程、常用SQL、Form表单、JS(或VUE、TypeScript等)和没啥特殊逻辑的BLL的。
通常代码生成器生成的业务逻辑可以忽略,不要低估业务逻辑的复杂度,根据经验,写业务逻辑代码同样需要非常出色扎实的编程功底,建议大家老老实实写业务逻辑,而DAL层几乎可以不用改动。
代码生成器默认支持SQLServer、MySQL(MariaDB)、PostgreSQL三种数据库的代码生成,这也是PowerDotNet默认支持的三种常用关系型数据库。
配合DBKey功能,可以省去一堆配置和代码,对于一般应用的DAL开发那是相当的爽,谁用谁知道。
1、WinForm版代码生成器
2、Asp.Net MVC版代码生成器
相对WinForm版本,个人更推崇Web版本的代码生成器。
(1)支持DBKey或者连接串直连模式
(2)丰富的代码生成和下载选型
(3)代码生成和元数据查看
查看生成代码,下图示例是生成的业务逻辑对象截图。
很多代码生成器生成的业务逻辑代码都是直接调用DAL方法,其实非常让人无语,完全没有“业务逻辑”的存在。PowerDotNet代码生成器生成的业务逻辑代码,业务逻辑丰富,常见校验、判重、查询边界、批量处理、缓存等应有尽有。
查看表结构
(4)数据库文档生成
对数据库的管理和抽象,可以快速提高我们的开发效率。论针对数据库的应用开发,配合PowerDotNet自研的ORM工具,很多SQL都可以简化,DAL层完全可以自动化一行SQL不写。不过这是另外的开发问题了,本文不做探讨。
真实情况下,DB管理平台可以扩展开发出很多功能,比如数据元数据管理、SQL变更管理、SQL版本管理、Job管理等,本文示例图片主要用于展示开发常用的功能,其他功能没做介绍。
四、未来计划
目前PowerDotNet自研的数据库管理平台,前端用到sql-formatter组件,后端SQL使用了C#版本的SQL formatter(TGSqlParser),对基本的常用SQL进行语法合规性校验是没什么大问题的,但是对于复杂SQL还是略有不足。
业务数据库开发过程中常见的数据统计、动态执行万能SQL、动态报表生成等虽然都有相应模块支持,但是还不是很完善,主要是复杂度上去以后还是不容易维护。
Yearning和Archery是流行的SQL审核查询和工单管理平台,数据库管理的基本功能都有,前厂的数据库工单系统就参考了这两个开源项目。
PowerDotNet的DB管理平台未来也向DB工单功能靠拢,但是计划是独立出一个工单系统来做(最近还很忙,数据库工单系统这篇文章来不及写了^_^),包含数据库工单,将数据库变更、版本控制和回滚这几个最重要功能开发出来,而不是所有都集成在当前的数据库管理平台里。
根据我的理解,数据库管理平台可以最大程度降低数据库开发的混乱无序程度,哪怕是非生产环境的数据库也要严格管理起来。我在某厂的时候开发人员已经没有可能直连数据库“乱写乱画”了。开发使用数据库管理平台的目标和意义,就是最大可能规范开发人员,解放DBA、运维人员和业务支持,咩哈哈。
参考:
https://github.com/zeroturnaround/sql-formatter
https://docs.microsoft.com/en-us/dotnet/api/microsoft.sqlserver.transactsql.scriptdom.tsqlparser