数据库查询性能 LinqDB vs Sql查询

使用LinqDB查询Sqlite数据库数据，不管是大数据还是少量的数据，感觉特别耗时，尤其是首次查询

一个含有2.7万条数据的数据表

首次查询：

• 查询2.7万条数据，耗时1s
• 查询指定的1条数据，也要耗时750ms

二次查询：

• 查询2.7万条数据，耗时475ms
• 查询指定的1条数据，耗时73ms

我们来尝试优化一下，使用Sql语句查询

Sql查询数据库

Sql连接字符串：

    var dbRelativePath = "Dbs\EnglishDict.db3";
    var connectionString = "data source=" + System.Environment.CurrentDirectory + "\" + dbRelativePath + ";version=3;";

Sql查询，返回DataSet集合

   /// <summary>
    /// 获得数据列表
    /// </summary>
    public DataSet GetList(string strWhere, string tableName)
    {
        StringBuilder strSql = new StringBuilder();
        strSql.Append("select * ");
        strSql.Append($" FROM {tableName} ");
        if (strWhere.Trim() != "")
        {
            strSql.Append(" where " + strWhere);
        }
        return Query(strSql.ToString());
    }
    /// <summary>
    /// 执行查询语句，返回DataSet
    /// </summary>
    /// <param name="sQLString">查询语句</param>
    /// <returns>DataSet</returns>
    public DataSet Query(string sQLString)
    {
        using (SQLiteConnection connection = new SQLiteConnection(connectionString))
        {
            DataSet ds = new DataSet();
            try
            {
                connection.Open();
                SQLiteDataAdapter command = new SQLiteDataAdapter(sQLString, connection);
                command.Fill(ds, "ds");
            }
            catch (System.Data.SQLite.SQLiteException ex)
            {
                throw new Exception(ex.Message);
            }
            return ds;
        }
    }

DataSet数据集转数据列表

1. 使用反射，映射到Entity数据类中

见 数据库查询 - DataTable转Entity类型数据

    /// <summary>
    /// 获得数据列表
    /// </summary>
    public List<CoursewareInfo> GetCoursewares()
    {
        DataSet ds = GetList(string.Empty, "Courseware");
        //通过映射，DataSet转实体类
        var modelList = DataTableConverter<CoursewareInfo>.ToList(ds.Tables[0]);
        return modelList;
    }
    /// <summary>
    /// 获得数据列表
    /// </summary>
    public List<CoursewareInfo> GetCoursewares(string queryText)
    {
        var queryString = $"Name like '%{queryText}%'";
        DataSet ds = GetList(queryString, "Courseware");
        //通过映射，DataSet转实体类
        var modelList = DataTableConverter<CoursewareInfo>.ToList(ds.Tables[0]);
        return modelList;
    }

我们来看下查询数据的性能，还是同一数据表

首次查询：

• 查询2.7万条数据，耗时1612ms
• 查询指定的1条数据，也要耗时196ms

二次查询：

• 查询2.7万条数据，耗时1484ms 
• 查询指定的1条数据，耗时59ms

此方案耗时较多，应该是反射伤性能，放弃

2. 直接给数据类字段属性赋值

DataTable转数据类：

        /// <summary>
        /// 将DataTable转换成Entity列表
        /// </summary>
        /// <param name="dt"></param>
        /// <returns></returns>
        public List<CoursewareInfo> ConvertDtToModelList(DataTable dt)
        {
            List<CoursewareInfo> list = new List<CoursewareInfo>();
            foreach (DataRow dr in dt.Rows)
            {
                list.Add(DataRowToModel(dr));
            }
            return list;
        }
        /// <summary>
        /// 得到一个对象实体
        /// </summary>
        public CoursewareInfo DataRowToModel(DataRow row)
        {
            CoursewareInfo model = new CoursewareInfo();
            if (row != null)
            {
                model.LocalId = row["LocalId"].ToString();
                model.RemoteId = row["RemoteId"].ToString();
                model.Name = row["Name"].ToString();
            }
            return model;
        }

获取数据列表：

    /// <summary>
    /// 获得数据列表
    /// </summary>
    public List<CoursewareInfo> GetCoursewares()
    {
        DataSet ds = GetList(string.Empty, "Courseware");
        //通过字段赋值，DataSet转实体类
        var modelList = ConvertDtToModelList(ds.Tables[0]);
        return modelList;
    }
    /// <summary>
    /// 获得数据列表
    /// </summary>
    public List<CoursewareInfo> GetCoursewares(string queryText)
    {
        var queryString = $"Name like '%{queryText}%'";
        DataSet ds = GetList(queryString, "Courseware");
        //通过字段赋值，DataSet转实体类
        var modelList = ConvertDtToModelList(ds.Tables[0]);
        return modelList;
    }

来看下查询数据的性能，还是同一数据表

首次查询：

• 查询2.7万条数据，耗时660ms
• 查询指定的1条数据，也要耗时191ms

二次查询：

• 查询2.7万条数据，耗时500ms
• 查询指定的1条数据，耗时58ms

此方案，数据查询性能很明显的改善。

总结：相对LINDB，使用Sql查询方案查询数据性能会好很多