sql-server - SSIS 2014 ADO.NET 与 Oracle 的连接对于 1 个表来说很慢(其余的都很好)

标签 sql-server oracle ssis

我们正在使用 SQL Server 2014 进行新的数据仓库部署。我的数据源之一是 Oracle,不幸的是,推荐的用于快速数据访问的 Attunity 组件目前还不适用于 SSIS 2014。

我曾尝试避免使用 OLEDB,因为这需要安装特定的 Oracle 客户端工具,这之前曾让我感到非常沮丧,而且据说 Attunity 的东西正在开发中(MS promised they'd arrive in August already),我不愿意通过再次磨难。

因此,我使用 ADO.NET。考虑到所有因素,除了 1 个特定表外,性能暂时是可以接受的。

Oracle 中的这个特定表有一堆 varchar 列,我得出的结论是,由于所选行的宽度,该表的执行速度特别慢。为了证明这一点,我没有选择 Oracle 中存在的所有列(这是我创建的原始包),而是将所有宽度截断为实际存储的值的最大长度 ( CAST(column AS varchar(46) )。这将运行相同包的时间减少到 17 分钟(仍远低于我所说的可接受的时间,而且我不会投入生产,因为它会打开一个 future 痛苦的世界,但它证明了宽度的列绝对是一个因素)。

我增加了 SQL Server 中的网络数据包大小,但这似乎没有多大帮助。我还没有找到一种改变 Oracle ADO.NET 连接器上数据包大小的好方法(SQL Server 确实有这个选项)。我试图看看是否添加 Packet size=32000;到 Oracle 连接器的连接字符串,但这只是抛出了一个错误,表明它根本不会被接受。这同样适用于 FetchSize。

最终,我想出了一个折衷方案,将负载分成三个不同的部分,在这些部分之间划分 varchar 列,并使用两个 MERGE JOIN对象,将数据合并回单个组合数据集。运行它并进行一些外推,让我认为该方法大约需要 30 分钟才能完成(但使用上面的 CAST 解决方案不会丢失数据)。然而,这仍然不能被接受。

我目前正在尝试其他一些选项(不使用 MERGE JOIN,而是转储到三个不同的表中,然后在 SQL Server 本身上合并这些表,并将包拆分为更多不同的负载以尝试进一步加快负载的各个部分),但肯定有更简单的事情。

有没有人有过如何通过 ADO.NET 从 Oracle 加载数据的经验,宽行会导致延迟?如果是这样,是否有任何我应该注意的特定指南,或者您可能遇到的任何其他技巧可以帮助我在 Attunity 组件不可用时减少加载时间?

谢谢!

最佳答案

Microsoft 刚刚发布了更新的 Attunity 驱动程序:

Hi all, I am pleased to inform you that the Oracle and TeraData connector V3.0 for SQL14 SSIS is now available for download!!!!!

Microsoft SSIS Connectors by Attunity Version 3.0 is a minor release. It supports SQL Server 2014 Integration Services and includes bug fixes and support for updated Oracle and Teradata product releases.

For details, please look at the download page. http://www.microsoft.com/en-us/download/details.aspx?id=44582



来源:https://connect.microsoft.com/SQLServer/feedbackdetail/view/917247/when-will-attunity-ssis-connector-support-sql-server-2014

关于sql-server - SSIS 2014 ADO.NET 与 Oracle 的连接对于 1 个表来说很慢(其余的都很好),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26526583/

相关文章:

sql - 找到一个字段的值与另一字段中数据的最大值匹配

SQL Server : How do you remove punctuation from a field?

c# - 删除行,重新播种非 PK 索引列? C#

oracle - 将导入的 oracle db dmp 保存在 docker 镜像中

sql - 用通配符替换值(解析文本数据)

VS2015 中的 SSIS 包

sql-server - 即使没有显式事务,SQL Server 是否也获取锁?

java - 如何使用 Spring Boot 和 Angular 自动运行日常 PL/SQL 脚本(Oracle)?

sql-server - 使用 Excel 2016 作为源

sql-server - 为什么我的 SSIS 包中的连接不断丢失?