java - hibernate : C3p0 pool configuration slowing down entire server.

Question

我正在开发一个 Spring-MVC 应用程序，我们在其中使用 Hibernate 和 c3p0 进行数据库事务和连接池。大多数时候它工作得很好，没有问题。但在某些情况下，我必须在当前事务中复制大量对象和文件。发生这种情况时，整个服务器都会变慢，最后我开始收到 could not rollback exception 。我的 c3p0 设置有什么问题吗？谢谢。

pom.xml :

 <!--- Hibernate dependencies -->
        <dependency>
            <groupId>org.hibernate</groupId>
            <artifactId>hibernate-validator</artifactId>
        </dependency>

        <dependency>
            <groupId>org.hibernate</groupId>
            <artifactId>hibernate-core</artifactId>
        </dependency>
        <dependency>
            <groupId>org.hibernate</groupId>
            <artifactId>hibernate-entitymanager</artifactId>
        </dependency>
        <dependency>
            <groupId>org.hibernate</groupId>
            <artifactId>hibernate-c3p0</artifactId>
            <version>4.3.9.Final</version>
        </dependency>

根上下文.xml :

<beans:bean id="dataSource" class="org.apache.commons.dbcp.BasicDataSource"
            destroy-method="close">
    <beans:property name="driverClassName" value="org.postgresql.Driver"/>
    <beans:property name="url"
                    value="jdbc:postgresql://localhost:PORT/DB_NAME"/>
    <beans:property name="username" value="USERNAME"/>
    <beans:property name="password" value="PASSWORD"/>
    <beans:property name="removeAbandoned" value="true"/>
    <beans:property name="removeAbandonedTimeout" value="20"/>
    <beans:property name="defaultAutoCommit" value="false"/>
</beans:bean>

<!-- Hibernate 4 SessionFactory Bean definition -->
<beans:bean id="hibernate4AnnotatedSessionFactory"
            class="org.springframework.orm.hibernate4.LocalSessionFactoryBean">
    <beans:property name="dataSource" ref="dataSource"/>
    <beans:property name="packagesToScan" value="com.ourapp.spring.model"/>
    <beans:property name="hibernateProperties">
        <beans:props>
            <beans:prop key="hibernate.dialect">org.hibernate.dialect.PostgreSQL9Dialect</beans:prop>
            <beans:prop key="hibernate.show_sql">false</beans:prop>
               <!--<beans:prop key="hibernate.jdbc.batch_size">1000</beans:prop>-->
            <beans:prop key="hibernate.hbm2ddl.auto">update</beans:prop>
            <beans:prop key="cache.use_second_level_cache">true</beans:prop>
            <beans:prop key="cache.use_query_cache">true</beans:prop>
            <beans:prop key="hibernate.order_updates">true</beans:prop>
            <beans:prop key="show_sql">false</beans:prop>
            <beans:prop key="hibernate.c3p0.min_size">1</beans:prop>
            <beans:prop key="hibernate.c3p0.max_size">750</beans:prop>
            <beans:prop key="hibernate.c3p0.acquire_increment">1</beans:prop>
            <beans:prop key="hibernate.c3p0.idle_test_period">1000</beans:prop>
            <beans:prop key="hibernate.c3p0.max_statements">150</beans:prop>
            <beans:prop key="hibernate.c3p0.timeout">1200</beans:prop>
            <beans:prop key="hibernate.connection.release_mode">auto</beans:prop>
        </beans:props>
    </beans:property>

</beans:bean>

谢谢。

Answer 1

对于初学者，您使用 C3P0 并不是因为您已将 org.apache.commons.dbcp.BasicDataSource 配置为 DataSource 并将其注入(inject)到您的 LocalSessionFactoryBean。这基本上使所有 hibernate.c3p0 设置都无用，因为它们将被忽略。

接下来您在处理大量数据时遇到问题，我非常怀疑问题出在您的 DataSource 或连接池上，而是您处理实体的方式以及您配置 Hibernate 的方式。

为了加速批处理，您希望将每 x 条记录刷新到数据库并清除一级缓存。您可能想知道为什么要这样做。它与 Hibernate 的工作方式有关，当你持久化一个实体时，Hibernate 会把它添加到一级缓存(在 JPA 的情况下是 Session 或 EntityManager ).每次将项目添加到一级缓存时，它都会对一级缓存中的所有实体进行脏检查，以确定是否需要刷新某些内容。现在这对于前几个实体来说很快，但会变得越来越慢。

让我们为 50 的批量大小配置和编码。

首先，您要将 hibernate 配置为具有适当的批处理大小，并且要对插入和更新语句进行排序。如果您这样做，您可以受益于 JDBC 现在可以执行批量更新这一事实(即一个插入或更新语句修改 50 条记录，而不是 50 个单独的插入/更新语句)。

hibernate 配置

<beans:bean id="hibernate4AnnotatedSessionFactory"
            class="org.springframework.orm.hibernate4.LocalSessionFactoryBean">
    <beans:property name="dataSource" ref="dataSource"/>
    <beans:property name="packagesToScan" value="com.ourapp.spring.model"/>
    <beans:property name="hibernateProperties">
        <beans:props>
            <beans:prop key="hibernate.dialect">org.hibernate.dialect.PostgreSQL9Dialect</beans:prop>
            <beans:prop key="hibernate.show_sql">false</beans:prop>
               <!--<beans:prop key="hibernate.jdbc.batch_size">1000</beans:prop>-->
            <beans:prop key="hibernate.hbm2ddl.auto">update</beans:prop>
            <beans:prop key="hibernate.cache.use_second_level_cache">true</beans:prop>
            <beans:prop key="hibernate.cache.use_query_cache">true</beans:prop>
            <beans:prop key="hibernate.jdbc.batch_size">50</beans:prop>
            <beans:prop key="hibernate.order_inserts">true</beans:prop>
            <beans:prop key="hibernate.order_updates">true</beans:prop>
            <!-- If you use versioned entities set this to true as well -->
            <beans:prop key="hibernate.jdbc.batch_versioned_data">true<beans:prop> 
        </beans:props>
    </beans:property>
</beans:bean>

代码修改

public void yourLargeDataSetProcessingMethod() {
    Session session = sessionFactory.getCurrentSession();

    int i = 0;
    for (YourItem item : List<YourItem> items) {
        i++:
        // Here will be processing / creation

        if (i % 50 == 0) {
            session.flush();
            session.clear();
        }
    }
    session.flush();
    session.clear();
} 

这可能会加速您的处理和数据库锁定。

最后一点，我建议使用 HikariCP 而不是 Commons DBCP 或 C3P0作为连接池。它非常小、非常快并且得到积极维护(而 C3P0 已经 hibernate 了很长一段时间)。

Here是一个很好的资源(带有基准测试等)关于每个设置的作用以及明智地添加或删除性能以及如何正确配置。