• 个人orm开发记录


    第一次知道orm概念是在今年,每天浏览博客园或多或少的也看到些关于orm的讨论,也不乏一些orm动手系列,不过自己只停留在知道与浏览过的概念。

        由于在公司单兵作战,从一开始接手的项目是一套C++/CLI的项目,所有数据操作都是简单的CURD,没有分层概念,甚至被不允许分模块开发,所有东西多在同一个Project中,UI后台代码中处处是SQL语句,很是被动。

        后来工作的几个月中,我不断的修改,不断的改进,甚至不断的跟上司闹矛盾,最终使项目有了一些改进,这些改进包括分层、分模块的开发,组件的使用,全部代码的重写等。

        这些改进虽然不是很多很难,但是期间由于上司的不理解,不允许,不支持,到现在还包括不能使用ORM,不接受C++/CLI以外的代码,不接受config文件等等一些问题的存在。

        我也提出过辞职,但在老总的挽留和其他一些原因下我还是在坚持,我尽自己的能力使公司的产品向好的方向发展,我想最终我的上司也会有所改变。

     

    回到正题,在工作的时候我尝试开发下面这样一套简单的ORM,如果以后的有一天被允许用在公司的项目中,我想我的这次学习也没有错。

        本着最小接口的原则,开发初期首先要确定需要提供的接口,所以在我的脑子里描述出了以下2个接口:

        第一个是DAL的接口:

                            

       在IDataProvider接口中我需要基础数据库提供基本的4Excute操作; 

       第二个是IEntity 的接口:

                           

        IEntity接口也很简单,对一个实体的操作我需要的是基本的CURD操作; 

     

        确定了这2个基础接口的想法后,我开始了尝试开发,对于实现IDataProvider接口缩小了说就是一个SqlHelper的东西,放大点就是需要兼容SQLAccessMySql等各类数据库的一个DAL,所以在命名上的我选择了Provider也就是不想它只是一个SqlHelper

       在之前我已经看过并简化过Microsoft Enterprise Library 5.0Data Block的代码,所以对于IDataProvider的实现也很轻松的就完成了,基本仿照Enterprise Library 实现了如下代码: 

        

       其中 DataProvider是实现IDataProvider接口的基类,并且定义成了抽象基类,要能够实例这个DataProvider 又派生了一个继承类 GenericProvider

       其实从确定使用最小接口开发到时候,我就想提供最少的接口给外部调用,所以只留了 IDataProviderpublic的,其他的都为 internal级别,这个接口要能实例一个对象,则必须要提供一个public方法获取实例好的接口对象,所以我又提供了一个静态类DbHelper  ,最初的DbHelper类代码如下: 

     public static class DbHelper

        {
            /// <summary>
            
    /// 获取IDataProvider接口实例
            
    /// </summary>
            
    /// <param name="provider">数据库类型</param>
            
    /// <param name="conn">连接字符串</param>
            
    /// <returns>接口实例</returns>
            public static IDataProvider CreateDataProvider(ProviderType provider,string conn)
            {
                IDataProvider DbProvider 
    = null;
                
    string character = "@";
                
    switch (provider)
                { 
                    
    case ProviderType.SQLSERVER:
                         DbProvider 
    = new GenericProvider(conn, SqlClientFactory.Instance);
                         
    break;

                    
                    
    case ProviderType.ACCESS:
                         DbProvider 
    = new GenericProvider(conn, OleDbFactory.Instance);
                         
    break;
                    
    /*
                    case ProviderType.ORACLE:
                        character=":";
                        DbProvider = new GenericProvider(conn,OracleClientFactory.Instance);
                        break;
                    
    */
                    
    default:
                        
    throw new NotImplementedException("数据库类型不支持");
                }
                DbProvider.ParameterCharacter 
    = character;    //此处要设置下 ParameterCharacter
                return DbProvider;
            }
    }

     

    到这一步,一个基本的DAL已经完成了。

     

        对于实现IEntity,还是绕了一些弯路的,一开始我的想法是,一个泛型基类 EntityBase<TEntity> 实现IEntity接口,然后由实体继承 EntityBase,这样实体就拥有了 Save Update Delete等方法。 

        同时也查找了一些文章发现也确有很多如此实现的,但是除了 SaveUpdate放之外,对于Find方法如果被约束为实例方法则好像不太合理,如果约束为静态方法,那么实体继承后,用实体Find出实体好像也不太让我满意。例如: 

        class UserInfo:EntityBase<UserInfo>{  }

    使用时:

    1

    IList<UserInfo> users= UserInfo.FindAll();

    2

    UserInfo user=new UserInfo();

        IList<UserInfo> users=user.FindAll();

    这两种方法都会让我看起来感觉不满意,所以在IEntity的实现上我最后并没有选择让实体都继承一个EntityBase这种方式,

    于是我重新定义了 IEntityHelper接口,想通过一个 EntityHelper实现了进行对实体的CURD操作,

        重新定义的IEntityHelper接口如下: 

         /// <summary>

        /// 实体辅助接口
        
    /// </summary>
        public interface IEntityHelper
        {
            
    /// <summary>
            
    /// SQL语句调试
            
    /// </summary>
            event EventHandler<DebugSqlArgs> DebugSql;

            
    /// <summary>
            
    /// 新增
            
    /// </summary>
            
    /// <typeparam name="TEntity"></typeparam>
            
    /// <param name="entity"></param>
            
    /// <returns></returns>
            bool Insert<TEntity>(TEntity entity) where TEntity : new();

            
    /// <summary>
            
    /// 删除
            
    /// </summary>
            
    /// <typeparam name="TEntity"></typeparam>
            
    /// <param name="entity"></param>
            
    /// <returns></returns>
            bool Delete<TEntity>(TEntity entity) where TEntity : new();

            
    /// <summary>
            
    /// 更新
            
    /// </summary>
            
    /// <typeparam name="TEntity"></typeparam>
            
    /// <param name="entity"></param>
            
    /// <returns></returns>
            bool Update<TEntity>(TEntity entity) where TEntity : new();

            
    /// <summary>
            
    /// 查找
            
    /// </summary>
            
    /// <typeparam name="TEntity"></typeparam>
            
    /// <param name="querys"></param>
            
    /// <returns></returns>
            IList<TEntity> Select<TEntity>(params IQuery[] querys) where TEntity : new();

            
    /// <summary>
            
    /// 查找一项
            
    /// </summary>
            
    /// <typeparam name="TEntity"></typeparam>
            
    /// <param name="querys"></param>
            
    /// <returns></returns>
            TEntity FindOne<TEntity>(params IQuery[] querys) where TEntity : new();
           
        }

          对于ORM中比较重要的SQL语句的生成,我定义了一个IQuery接口以便在Select查询的时候传递查询条件, 并用一个单独的 SqlBulider 静态类提供的方法生成SQL语句。

    确立了上面的想法之后就是实际的EntityHelper的开发了, 实际上当我们去了解orm的时候就知道,Object Relation Mapping就是建立关系数据与实体对象的映射,如何将实体对象与关系数据()进行映射,就需要对象能够描述表 ,比如表名、字段、字段的属性等等。

    首先要建立对象与表对应的关系的时候,有几种建立方法,用配置文件,用字段、属性描述,这些都能达到实体对象与表建立一个对应关系,但是并不是一个好的处理方法。有很多前辈已经研究过这些方面,并提出了用Attribute进行描述的方式,这里我也很自然的选择使用这种方式加入到我的开发。

     当然,本着尝试开发的心态,并没有想一下开发或者构思好一个完整的框架,所以能省略的东西我也省略了,包括对字段的描述只标注简单的属性: 

         /// <summary>

        /// 描述字段结构
        
    /// </summary>
        internal class Field
        {
            
    /// <summary>
            
    /// 字段属性
            
    /// </summary>
            internal PropertyInfo Property
            { 
                
    get;
                
    set;
            }

            
    /// <summary>
            
    /// 字段名(对应数据库字段名)
            
    /// </summary>
            internal string Name
            {
                
    get;
                
    set;
            }

            
    /// <summary>
            
    /// 字段类型
            
    /// </summary>
            internal DbType Type
            {
                
    get;
                
    set;
            }

            
    /// <summary>
            
    /// 是否为标识 
            
    /// </summary>
            internal bool Identify
            {
                
    get;
                
    set;
            }

            
    /// <summary>
            
    /// 是否为主键
            
    /// </summary>
            internal bool PrimaryKey
            {
                
    get;
                
    set;
            }
        }

         有了把实体对象和数据表进行对应这一基础之后,我们需要考虑的就是真正的 SaveDelete这些方法执行时是如何将一个实体对象的属性解析出来(这里就相当于在准备SQL操作时,如何从实体对象中知知道与其对应的数据表操作的信息), 这里实际有一个前提, 我们的EntityHelper Save等方法都是泛型方法,所以它们自身并不知道传递进去的对象是怎样一个结构,也并不到这个结构具体的数据。

        通过学习我们知道.net中的反射机制,通过反射来动态的解析一个对象在中变比较简单,深层次的原理我们不必要知道,做为最普通的“IT码工”,站在我的层次上我只要能够使用并知道大概就可以了。

    所以在前人的基础上,我的orm也自然离不开用反射获取从实体对象到SQL操作需要的表信息,但是在学习的基础上,也离不开我们自己的思考,反射相对于直接操作是比较耗费时间的,所以此时就有一个orm与直接数据操作的效率问题成为了大家关注的问题。 

    很多前辈 很多orm讨论已经告诉我们需要用缓存来降低发射对性能的消耗,所以我的orm中也必须使用缓存来降低反射这种损耗。 

    在学习过程中我没有直接接触那些比较大的orm框架,都只是查看一些讨论的博文,顺便下载了一些博文附带的orm实现示例,在此过程中学到了很多但也发现了一些问题:

    如:有的orm根本没有注意反射对性能的影响,没有一个缓存机制,有的orm在执行 Svaedelete等方法时返回void类型 根本无法判断执行是否成功,还有的明确要求对于数据表要包含自增主键,但是它自身的Save方法执行后并没有获取自增主键值来更新实体的属性;

    这些问题虽然致使这些组件不能很好的做实际应用,但是从中学习到的是更多的东西,通过这些也让自己思考如何更好的实现,如何避免这些错误的方式方法。 

    到此为止,首先通过自己思考提出最小接口,再通过学习现有orm的讨论和实现示例,然后确定一个开发流程做到心中有数。心中有数了,其实就变的就非常简单了,按照构思好的接口,实现一个EntityHelper就可以了,对于如何实现EntityHelper 在查阅资料与学习的过程中已经有了清晰的线路,我自己简要概括出了如下路线 :

         

         由于是尝试性的按最小开发,所以我的要求是开发一个简单基础的orm,此处的orm可能并不是真正的orm,只是一个能让实体通过Save等面向对象方法来代替数据库Excute操作的东西。 

       有了思考之后是实际的开发,实际开发其实也就是EntityHelper的开发,在SaveUpdateDelete方法实现时都比较简单,基本实现类似如下: 

        /// <summary>

            /// 删除
            
    /// </summary>
            
    /// <typeparam name="TEntity">实体类型</typeparam>
            
    /// <param name="entity">实体对象</param>
            
    /// <returns>成功/失败</returns>
            public bool Delete<TEntity>(TEntity entity) where TEntity : new()
            {
                Table table 
    = TableFactory.GetTable(typeof(TEntity));
                
    string sqlText = SqlBulider.Delete(table, entity, DbProvider.ParameterCharacter);
                DbParameter parameter 
    = DbProvider.Parameter;
                
    foreach (var field in table.Fields)
                {
                    
    if (field.PrimaryKey)             //删除时根据主键删除
                    {
                        parameter.ParameterName 
    = DbProvider.ParameterCharacter + field.Name;
                        
    object value = field.Property.GetValue(entity, null);
                        parameter.Value 
    = value == null ? DBNull.Value : value;  //取字段值
                        parameter.DbType = field.Type;
                        
    break;
                    }
                }
                StringBuilder debugSql 
    = new StringBuilder(sqlText);
                debugSql.Append(Environment.NewLine);
                debugSql.Append(
    "<");
                debugSql.Append(parameter.ParameterName);
                debugSql.Append(
    "=");
                
    if (parameter.Value != null)
                    debugSql.Append(parameter.Value.ToString());
                debugSql.Append(
    ">");
                
    if (_debugsql != null)
                    _debugsql(
    thisnew DebugSqlArgs("Delete"typeof(TEntity).Name, debugSql.ToString()));
                
    return DbProvider.ExecuteNonQuery(sqlText, parameter) == 1;
            }

       实现Delete方法的流程是:

     

          Find方法实现时有些不同,主要就是Find方法实现的是数据库的Select操作,往往包含一些查询条件,如 =  between like order by 这些操作,所以此处就有点为了ormorm的意味了, 为了避免Find方法的参数包含直接的SQL语句,所以我定义了一个IQuery的接口:

          

         这个接口比较简单,有一个方法 Context 为输出sql查询子句, 后来在分析过程中考虑到由于实体属性对应数据表字段,而且所有的Excute操作都要参数传递的,所以在后面的分析思考中又添加了一个字段名,和一个 Hashtable表存放参数值; 

        IQuery

    为什么用Hashtable存放参数值呢,是因为出现类似  between查询时 形如: where id between @id1 and @id2  ,这个时候拥有2个参数@id1,@id2 不能全部由字段名id来表示,所以需要一个Hashtable存在该查询对象的查询参数。

     

        这样大概的一个基本的orm形态就完成了。后面的一些工作就是一些细节方面的东西了,主要的细节包括以下: 

    1,  EntityHelper中的IDataProvider对象的存在方式,是静态成员还是实例成员?EntityHelper 是否可以为静态类,Save等方法是否可以为静态方法?

         在考虑这个问题的时候其实要联系到 前面提到的DbHelperDbHelperstatic IDataProvider CreateDataProvider(ProviderType provider,string conn) 方法根据传递的ProviderType conn来确定使用何种数据库对象,

    同时提供它的一个重载方法static IDataProvider CreateDataProvider()通过这个重载方法大家肯定会想到一个DataProvider应该有一个通过配置文件配置所使用数据库类型的功能,我的orm也不例外, 不过只是一个简单的实现用一个可序列化的对象ProviderConfig序列为XML文件来保存的。

       那这个跟EntityHelper有什么关系呢,我们一般的情况下可能一个程序中使用一种数据库就可以了,此时我的EntityHelper种的DataProvider对象不管是静态的也好,还是实例化的也好,可能不需要太注意,应为一个程序中只可能存在一种数据库操作的DataProvider 

        现在就提出了一个问题,假如我有一个Access数据库,一个SQL数据库,我想在程序中将SQL的数据添加到Access中,那此时用一个 EntityHelper 操作时 DataProvider就只能是实例成员了,因为我可以通过static IDataProvider CreateDataProvider(ProviderType provider,string conn)方法实例2个不同数据库的DataProvider,同时实例2个不同的EntityHelper对象来操作2种数据库; 

       这样上面的这个问题就解决了。

    2,  如果使用缓存减少反射的性能损耗,在哪里使用缓存,这也是一个问题?

        实际上通过实现Save等方法时,第一步就是反射实体,这里我们自然的就想到 能否将实体结构缓存起来不用每次都反射呢? 答案当然是肯定的,面向对象的开发里就是需要将所见所想能抽象出来用对象描述。这里我实现了另外2个类用来这部分操作:

        

        这样在Save方法中第一句代码Table table = TableFactory.GetTable(typeof(TEntity));

       就可以想到TableFactory.GetTable方法是要从缓存判断有没有Tentity对象的结构,来看下这个方法就比较清楚了: 

        /// <summary>

        /// 用于获取和缓存Table对象,避免多次反射同一对象
        
    /// </summary>
        internal class TableFactory
        {
            
    /// <summary>
            
    /// 缓存Table对象
            
    /// </summary>
            private static Dictionary<string, Table> cache = new Dictionary<string, Table>();

            
    /// <summary>
            
    /// 获取Table对象
            
    /// </summary>
            
    /// <param name="type">对象类型</param>
            
    /// <returns>Table对象</returns>
            public static Table GetTable(Type type)
            {
                
    if (cache.ContainsKey(type.FullName))   //使用类型FullName做Key
                {
                    
    return cache[type.FullName];
                }
                
    return BulidTable(type);
            }

            
    /// <summary>
            
    /// 创建一个新的Table对象 并将其添加到Table缓存里
            
    /// </summary>
            
    /// <param name="type">对象类型</param>
            
    /// <returns>新的Table对象</returns>
            private static Table BulidTable(Type type)
            {
                Table table 
    = new Table(type); //创建新的对象
                cache.Add(type.FullName, table);
                
    return table;
            }
        }

         通过上面的方法也解决了缓存问题。 虽然是一个简单基本的缓存,但是这仅仅只是用在这个尝试性的orm开发中,所以这一切都只是一个学习,也足够了。

    3,  接下来来的一个问题是参数符号,也就是“@” 和 “:”

        这个问题在一开始开发DataProvider时我并没有想到,所以这个时候就不得不去修改IDataProvider接口,为其添加下面2个属性:

                 /// <summary>

            /// DbCommand参数实例

            /// </summary>

            DbParameter Parameter{get;}

     

            /// <summary>

            /// 参数符号

            /// </summary>

            string ParameterCharacter { get; set;} 

         至于为什么要这么添加,也是由于Save方法的实现需要和DataProvider的已经完成,所以这里也让我知道设计是多么的重要,一个好的设计可以适合很多复杂情景并且不会有问题。

    对于这一处修改而牵扯的其他修改就更不必说了。 

    4,  Save方法中还有一个很重要的方面就是前面提到过的一些orm的缺点,那就是没有更新自增列的值.

         在我查阅了一些资料之后先是使用了 输出参数的方式,在insert 语句后面添加一个输出参数用SCOPE_IDENTITY 来取自增值;但是这样做了之后再最后的测试时才发现了问题,Access不支持输出参数,所以真是让人懊恼!

    因为这个问题,无奈第2此修改IDataProvider接口,因为我打算用事务来获取自增列值,具体的方法为:

         /// <summary>

            /// 用于执行INSERT语句 并返回自增字段值
            
    /// </summary>
            
    /// <param name="tablename">表名</param>
            
    /// <param name="query">SQL语句</param>
            
    /// <param name="parameters">参数</param>
            
    /// <returns>自增列值</returns>
            public int ExecuteForIdentity(string tablename, string query, params IDataParameter[] parameters)
            {
                
    using (var wapper = GetWapperConnection())
                {
                    
    using (DbCommand command = PrepareCommand(wapper.Connection, query, parameters))
                    {
                        
    try{
                            DbTransaction transaction 
    = wapper.Connection.BeginTransaction();
                            command.Transaction 
    = transaction;
                            
    if (command.ExecuteNonQuery() > 0)
                            {
                                command.CommandText 
    = "SELECT  @@IDENTITY FROM " + tablename;
                                transaction.Commit();
                                
    int id = Convert.ToInt32(command.ExecuteScalar());
                                
    return id;
                            }
                            
    else
                                
    return 0;
                        }
                        
    catch
                        {
                            
    return -1;
                        }
                       
                    }
                }

           所以增加了一个int ExecuteForIdentity方法供Save时使用, 这样算是简单的解决了自增列的问题,但是还面临ORACLE数据库取自增值的问题,所以这里我权衡了下,自己对ORACLE了解的也比较少,自己的项目中也不会用到ORACLE,所以干脆就屏蔽掉了对ORACLE数据库的考虑!最终使我这个orm只支持了accesssql server

    5,  还有一个问题也是在测试的时候发现的,与access数据库有关的

         当我们执行一句形如 :update [Table](age,name) values(@age,@name) where id=@id  这样的一句SQL语句是不会有问题的,但是此时如果你要将@age @name @id 的参数顺序搞错了,那可就不一定了 一个“标准表达式中数据类型不匹配”的异常就让我在这吃了一次亏,还好后来查到了问题原因, 是因为我在添加DbCommand的参数的时候是按照反射来的属性顺序添加的@id就被添加到了第一个,造成了这种access数据库的异常,实际上where查询后的参数应该放在后面,到这里基本上的问题都被处理掉了,我的orm也算是成型了。

     

     

    最后就是测试了,当然测试的基础就是按照一开始自己构思的接口,如何使用这个orm,下面我就贴出一段测试代码: 

    TestAccess
            private static void TestAccess()
            {
                
    string conn = "Provider=Microsoft.Jet.OLEDB.4.0;Data Source=C:\\db.mdb;";
                IDataProvider dbp 
    = DbHelper.CreateDataProvider(ProviderType.ACCESS, conn);
                
    if (dbp.ConnectAvailable == false)
                {
                    Console.WriteLine(
    "数据库连接不可用");
                    Console.ReadLine();
                    
    return;
                }
                helper 
    = new EntityHelper(dbp);
                helper.DebugSql 
    += new EventHandler<DebugSqlArgs>((obj, e) => Console.WriteLine(e.Context));

                XUser user 
    = new XUser()
                {
                    Name 
    = "x",
                    Age 
    = -1
                };
                
    for (int i = 0; i < 10++i)
                {
                    
    bool delete = helper.Delete<XUser>(user);
                    Console.WriteLine(
    "Delete={0}", delete);

                    
    bool insert = helper.Insert<XUser>(user);
                    Console.WriteLine(
    "Insert={0},XUser.id={1}", insert, user.Id);

                    user.Age 
    = i + 10;
                    
    bool update = helper.Update<XUser>(user);
                    Console.WriteLine(
    "Update={0}", update);
                }
                IList
    <XUser> users = helper.Select<XUser>();
                
    foreach (var iuser in users)
                {
                    Console.WriteLine(
    "IUser.Id={0},Name={1},Age={2}", iuser.Id, iuser.Name, iuser.Age);
                }
            }
    TestSql
     private static void TestSql()
            {

                
    string conn = "Data Source=localhost,8306;Initial Catalog=SensorLeadDB2;User ID=sa;Password=HZ.bridge";
                IDataProvider dbp 
    = DbHelper.CreateDataProvider(ProviderType.SQLSERVER, conn);
                
    if (dbp.ConnectAvailable == false)
                {
                    Console.WriteLine(
    "数据库连接不可用");
                    Console.ReadLine();
                    
    return;
                }

                helper 
    = new EntityHelper(dbp);
                helper.DebugSql 
    += new EventHandler<DebugSqlArgs>((obj, e) => Console.WriteLine(e.Context));

                UserInfo user 
    = new UserInfo()
                {
                    Name 
    = "hello",
                    Age 
    = 0,
                    Marry 
    = false,
                    Brithday 
    = DateTime.Now,
                    Phone 
    = "000"
                };
                
    for (int i = 0; i < 10++i)
                {
                    
    bool delete = helper.Delete<UserInfo>(user);
                    Console.WriteLine(
    "Delete={0}", delete);

                    
    bool insert = helper.Insert<UserInfo>(user);
                    Console.WriteLine(
    "Insert={0},User.Id={1}", insert, user.Id);

                    user.Age 
    = i + 10;
                    
    bool update = helper.Update<UserInfo>(user);
                    Console.WriteLine(
    "Update={0}", update);
                }

                IList
    <UserInfo> users = helper.Select<UserInfo>(new QueryCompare(CompareType.Equal,"Marry",false),
                    
    new QueryOrder("Age"));
                
    foreach (var iuser in users)
                {
                    Console.WriteLine(
    "iUser.Id={0},Name={1},Age={2}", iuser.Id, iuser.Name, iuser.Age);
                }
            }
     

         经过测试与完善,最后自己还是比较满意的,主要在于是自己思考动手的结果,在这里呢,也将这个简单过程记录下来,希望留给其他需要的朋友一些帮助。 

       到这里发现程序员用语言来描述思维真的是比较困难,所以照例我会上传项目源码 ,方便需要的朋友分析,也希望能得和大家共同交流学习。

    /Files/cxwx/Bridge.Data.rar 

         

  • 相关阅读:
    osg编译日志
    MFC加载大型osg模型
    osg gdal加载tif数据文件
    osg创建灯光
    ubuntu挂载新硬盘
    MFC加载osg模型
    nginx中Geoip_module模块的使用
    centos中释放缓存的方法
    python连接kafka生产者,消费者脚本
    python初始化环境记录
  • 原文地址:https://www.cnblogs.com/cxwx/p/1862147.html
Copyright © 2020-2023  润新知