• PostgreSQL抛错“不良的类型值: long”之解决


    PostgreSQL抛错“不良的类型值: long”之解决

    一、前言

    项目中有一个独立程序,负责从主库同步部分数据到分库。由于混合使用了JPA和JDBC两种操作方式,该程序移植到后PostgreSQL错误不断且不好诊断,其中耗时耗力最多的就是:“org.postgresql.util.PSQLException: 不良的类型值 long ”。

    二、原因分析

    以下是PostgreSQL抛出例外处的日志片段:

    Caused by: org.postgresql.util.PSQLException: 不良的类型值 long : \x0040010346504d4e00000001000003900101000000000000000002800000028001f4007d000202040000000200000000000000000000000000000000000000005041
            at org.postgresql.jdbc.PgResultSet.toLong(PgResultSet.java:2860)
            at org.postgresql.jdbc.PgResultSet.getLong(PgResultSet.java:2114)
            at org.postgresql.jdbc.PgResultSet.getBlob(PgResultSet.java:418)
            at org.postgresql.jdbc.PgResultSet.getBlob(PgResultSet.java:405)
            at org.apache.commons.dbcp.DelegatingResultSet.getBlob(DelegatingResultSet.java:565)
            at org.apache.commons.dbcp.DelegatingResultSet.getBlob(DelegatingResultSet.java:565)
            at org.hibernate.type.descriptor.sql.BlobTypeDescriptor$1.doExtract(BlobTypeDescriptor.java:48)
            at org.hibernate.type.descriptor.sql.BasicExtractor.extract(BasicExtractor.java:47)
            at org.hibernate.type.AbstractStandardBasicType.nullSafeGet(AbstractStandardBasicType.java:258)
            at org.hibernate.type.AbstractStandardBasicType.nullSafeGet(AbstractStandardBasicType.java:254)
            at org.hibernate.type.AbstractStandardBasicType.nullSafeGet(AbstractStandardBasicType.java:244)
            at org.hibernate.type.AbstractStandardBasicType.hydrate(AbstractStandardBasicType.java:327)
            at org.hibernate.persister.entity.AbstractEntityPersister.hydrate(AbstractEntityPersister.java:2775)
            at org.hibernate.loader.plan.exec.process.internal.EntityReferenceInitializerImpl.loadFromResultSet(EntityReferenceInitializerImpl.java:305)
            ... 64 more

    可以看出,这是在读取BLOB(即BYTEA)类型数据时出的错,具体是把想byte[]当作long来读取。

    在另一篇随笔《JPA/Hibernate移植到PostgreSQL时关于CLOB, BLOB及JSON类型的处理》中,解释了PostgreSQL在处理LOB数据的两种方式:oid + bigobject方式和二进制数组方式。oid + bigobject方式是在LOB字段存取一个oid(BIGINT类型)值,而将真正的byte[]数据存放在公用的pg_largeobject,在PostgreSQL的JDBC中的接口是setBlob()/getBlob()、setClob()/getClob();而二进制数组方式则直接存取byte[],在JDBC中的接口是setBinaryStream()、setCharacterStream()等。

    至此原因已经基本明朗,该独立程序在读取主库的LOB数据(二进制数组方式)时,仍然按oid + bigobject方式进行,由此导致出错。

    三、解决方法

    也在那篇随笔中,解决方法是重写PostgreSQL94Dialect的remapSqlTypeDescriptor()接口,分别将CLOB和BLOB按LongVarchar和LongVarBinary类型来处理,效果良好,解决了"column xxx is of type text but expression is of type bigint"的错误。

    一开始以同样的思路期待解决问题,但错误依然存在,让人头疼不已。后来想到,该独立程序的某些操作在底层可能没用到remapSqlTypeDescriptor()接口,最终仍按默认的oid + bigobject方式来调用setBlob(),因此还需重写其它接口。但前前后后试了好几天,还是没有进展。

    不得已分析hibernate-core源码(https://github.com/hibernate/hibernate-orm/tree/master/hibernate-core),发现org.hibernate.type.descriptor.sql.BlobTypeDescriptor.java里有一段逻辑,大致是当某变量设置为BLOB_BIND时调用setBlob(),设置为PRIMARY_ARRAY_BINDING时调用setBytes(),设置为STREAM_BINDING时调用setBinaryStream()。CLOB的情况也类似。有戏!

      1 ----PostgreSQL81Dialect
      2 --注释:  PostgreSQL81Dialect 该文件在 hibernate5.0以上的版本中
      3 <dependency>
      4     <groupId>org.hibernate</groupId>
      5     <artifactId>hibernate-core</artifactId>
      6     <version>5.2.2.Final</version>
      7 </dependency>
      8 
      9 
     10 


    再回到org.hibernate.dialect.PostgreSQLxxDialect,经一层层追溯,终于在最底层的PostgreSQL81Dialect(藏的太深了),在getSqlTypeDescriptorOverride()接口中找到对应的内容,而且发现默认的oid + bigobject方式是在此定义的。于是重写该接口:

        @Override
        public SqlTypeDescriptor getSqlTypeDescriptorOverride(int sqlCode)
        {
            SqlTypeDescriptor descriptor;
            switch (sqlCode)
            {
            case Types.BLOB:
                // Force BLOB binding. Otherwise, byte[] fields annotated
                // with @Lob will attempt to use
                // BlobTypeDescriptor.PRIMITIVE_ARRAY_BINDING. Since the
                // dialect uses oid for Blobs, byte arrays cannot be used.
                //descriptor = BlobTypeDescriptor.BLOB_BINDING;
                descriptor = BlobTypeDescriptor.STREAM_BINDING;
                break;
            case Types.CLOB:
                //descriptor = ClobTypeDescriptor.CLOB_BINDING;
                descriptor = ClobTypeDescriptor.STREAM_BINDING;
                break;
            default:
                descriptor = super.getSqlTypeDescriptorOverride(sqlCode);
                break;
            }
            return descriptor;
        }

    问题终于得到解决!

    PS:

    • 推荐使用二进制数组方式存取LOB,而不是默认的oid + bigobject;
    • 如果抛错信息“不良的类型值”后是long,几乎可断定是LOB调用模式的问题;如果是其它类型,需进一步分析。
    • 如果直接用JDBC,对LOB的调用接口是setBinaryStream()、setCharacterStream()等。
    为人:谦逊、激情、博学、审问、慎思、明辨、 笃行
    学问:纸上得来终觉浅,绝知此事要躬行
    为事:工欲善其事,必先利其器。
    态度:道阻且长,行则将至;行而不辍,未来可期
    转载请标注出处!
  • 相关阅读:
    QQ第三方登录(二)
    QQ第三方登录(一)
    Nginx防盗链
    TP-网页静态化
    TP5实现邮件发送(PHP 利用QQ邮箱发送邮件「PHPMailer」)
    docker安装elasticsearch和head插件
    git的安装方法
    ELK elasticsearch 因磁盘爆满导致无法 FORBIDDEN/12/index read-only / allow delete (api)
    vmware 系统网络发生变化后,本机安装的vmware无法通过客户端工具连接上的问题解决
    docker 容器视图工具portainer简单使用记录
  • 原文地址:https://www.cnblogs.com/ios9/p/15514025.html
Copyright © 2020-2023  润新知