c# - 检测具有相同 child 的实体

标签 c# .net linq entity-framework linq-to-entities

我有两个实体,ClassStudent,它们以多对多关系链接。

当从外部应用程序导入数据时,不幸的是有些类是重复创建的。 “重复”类(class)名称不同,但科目相同,学生相同。

例如:

{ Id = 341, Title = '10rs/PE1a', SubjectId = 60, Students = { Jack, Bill, Sarah } }

{ Id = 429, Title = '10rs/PE1b', SubjectId = 60, Students = { Jack, Bill, Sarah } }

没有匹配这些重复类名称的通用规则,因此识别两个类重复的唯一方法是它们具有相同的SubjectIdStudents.

我想使用 LINQ 检测所有重复项(并最终合并它们)。到目前为止我已经尝试过:

var sb = new StringBuilder();
using (var ctx = new Ctx()) {
  ctx.CommandTimeout = 10000; // Because the next line takes so long!
  var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id);
  foreach (var c in allClasses) {
    var duplicates = allClasses.Where(o => o.SubjectId == c.SubjectId && o.Id != c.Id && o.Students.Equals(c.Students));
    foreach (var d in duplicates)
      sb.Append(d.LongName).Append(" is a duplicate of ").Append(c.LongName).Append("<br />");
  }
}
lblResult.Text = sb.ToString();

这不好,因为我得到了错误:

NotSupportedException: Unable to create a constant value of type 'TeachEDM.Student'. Only primitive types ('such as Int32, String, and Guid') are supported in this context.

显然它不喜欢我尝试在 LINQ 中匹配 o.SubjectId == c.SubjectId

此外,这似乎是一种可怕的方法,而且速度非常慢。调用数据库需要 5 多分钟。

我真的很感激一些建议。

最佳答案

SubjectId 的比较不是问题,因为 c.SubjectId 是原始类型的值(我猜是 int) .异常提示 Equals(c.Students)c.Students 是一个常量(相对于查询 duplicates)但不是基本类型。

我也会尝试在内存中而不是在数据库中进行比较。无论如何,当您启动第一个 foreach 循环时,您正在将整个数据加载到内存中:它执行查询 allClasses。然后在循环内将 IQueryable allClasses 扩展到 IQueryable duplicates,然后在内部 foreach 循环中执行。这是外循环的每个元素一个数据库查询!这可以解释代码的糟糕性能。

所以我会尝试在内存中执行第一个foreach的内容。对于 Students 列表的比较,有必要逐个元素进行比较,而不是对 Students 集合的引用,因为它们肯定是不同的。

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id)
        .ToList(); // executes query, allClasses is now a List, not an IQueryable

    // everything from here runs in memory
    foreach (var c in allClasses)
    {
        var duplicates = allClasses.Where(
           o => o.SubjectId == c.SubjectId &&
           o.Id != c.Id &&
           o.Students.OrderBy(s => s.Name).Select(s => s.Name)
            .SequenceEqual(c.Students.OrderBy(s => s.Name).Select(s => s.Name)));

        // duplicates is an IEnumerable, not an IQueryable
        foreach (var d in duplicates)
            sb.Append(d.LongName)
              .Append(" is a duplicate of ")
              .Append(c.LongName)
              .Append("<br />");
    }
}
lblResult.Text = sb.ToString();

按名称对序列排序是必要的,因为我相信,SequenceEqual 比较序列的长度,然后比较元素 0 和元素 0,然后比较元素 1 和元素 1,依此类推。


编辑您对第一个查询仍然很慢的评论。

如果您有 1300 个类(class),每个类(class)有 30 个学生,预加载 (Include) 的性能可能会受到数据库和客户端之间传输的数据倍增的影响。这在这里解释:How many Include I can use on ObjectSet in EntityFramework to retain performance?。查询很复杂,因为它需要类(class)和学生之间的JOIN,对象实现也很复杂,因为 EF 必须在创建对象时过滤掉重复的数据。

另一种方法是在第一个查询中仅加载没有学生的类(class),然后在循环中显式地逐一加载学生。它看起来像这样:

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.OrderBy(o => o.Id).ToList(); // <- No Include!
    foreach (var c in allClasses)
    {
        // "Explicite loading": This is a new roundtrip to the DB
        ctx.LoadProperty(c, "Students");
    }

    foreach (var c in allClasses)
    {
        // ... same code as above
    }
}
lblResult.Text = sb.ToString();

在这个例子中你会有 1 + 1300 个数据库查询而不是只有一个,但是你不会有预加载时发生的数据乘法并且查询更简单(类之间没有 JOIN和学生)。

这里解释了显式加载:

如果您使用延迟加载,第一个带有 LoadPropertyforeach 将不是必需的,因为 Students 集合将在您第一次加载时加载访问它。它应该会产生相同的 1300 个额外查询,例如显式加载。

关于c# - 检测具有相同 child 的实体,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7780455/

相关文章:

c# - linq2sql 中的简单急切/延迟加载示例

c# - linq 按小时范围分组?

c# - 无效的 URI : The format of the URI could not be determined

C# 反射 - 加载程序集并调用方法(如果存在)

c# - 在较新的 .NET 版本中运行的旧 .NET 版本中编译的程序集,行为会改变吗?

c# - 控制台应用程序占用大量 CPU 资源

c# - 随机不是那么随机

c# - 从数据库集转到字典

c# - 为什么 C# 编译器允许在 IEnumerable<T> 和 TAlmostAnything 之间进行显式转换?

linq - LinqDataSource 默认执行服务器端分页吗?