检测具有相同子节点的实体

本文关键字:子节点 实体 检测 | 更新日期: 2023-09-27 18:11:34

我有两个实体,ClassStudent,以多对多关系链接。

当从外部应用程序导入数据时,不幸的是,有些类是重复创建的。"复班"的名称不同,但科目相同,学生也相同。

例如:

{Id = 341, Title = '10rs/PE1a', SubjectId = 60, Students = {Jack, Bill, Sarah}}

{Id = 429, Title = '10rs/PE1b', SubjectId = 60, Students = {Jack, Bill, Sarah}}

没有一般规则来匹配这些重复类的名称,因此识别两个类是否重复的唯一方法是它们具有相同的SubjectIdStudents

我想使用LINQ来检测所有的重复(并最终合并它们)。到目前为止,我已经尝试了:

var sb = new StringBuilder();
using (var ctx = new Ctx()) {
  ctx.CommandTimeout = 10000; // Because the next line takes so long!
  var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id);
  foreach (var c in allClasses) {
    var duplicates = allClasses.Where(o => o.SubjectId == c.SubjectId && o.Id != c.Id && o.Students.Equals(c.Students));
    foreach (var d in duplicates)
      sb.Append(d.LongName).Append(" is a duplicate of ").Append(c.LongName).Append("<br />");
  }
}
lblResult.Text = sb.ToString();

这是不好的,因为我得到错误:

NotSupportedException:无法创建类型为'TeachEDM.Student'的常量值。在此上下文中只支持基本类型('如Int32, String和Guid')。

显然它不喜欢我在LINQ中匹配o.SubjectId == c.SubjectId

此外,这似乎是一个可怕的方法,通常是非常缓慢的。对数据库的调用超过5分钟。

检测具有相同子节点的实体

SubjectId的比较不是问题,因为c.SubjectId是原始类型的值(int,我猜)。异常抱怨Equals(c.Students)c.Students是一个常量(相对于查询duplicates),但不是基本类型。

我也会尝试在内存中而不是在数据库中进行比较。当您启动第一个foreach循环时,您正在将整个数据加载到内存中:它执行查询allClasses。然后在循环内部,你将IQueryable allClasses扩展到IQueryable duplicates,然后在内部foreach循环中执行。这是外循环的每个元素一个数据库查询!这可以解释为什么代码的性能很差。

所以我会尝试在内存中执行第一个foreach的内容。对于Students列表的比较,必须逐个元素进行比较,而不是对Students集合的引用,因为它们肯定是不同的。

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.Include("Students").OrderBy(o => o.Id)
        .ToList(); // executes query, allClasses is now a List, not an IQueryable
    // everything from here runs in memory
    foreach (var c in allClasses)
    {
        var duplicates = allClasses.Where(
           o => o.SubjectId == c.SubjectId &&
           o.Id != c.Id &&
           o.Students.OrderBy(s => s.Name).Select(s => s.Name)
            .SequenceEqual(c.Students.OrderBy(s => s.Name).Select(s => s.Name)));
        // duplicates is an IEnumerable, not an IQueryable
        foreach (var d in duplicates)
            sb.Append(d.LongName)
              .Append(" is a duplicate of ")
              .Append(c.LongName)
              .Append("<br />");
    }
}
lblResult.Text = sb.ToString();

按名称排序序列是必要的,因为我相信SequenceEqual会比较序列的长度,然后比较元素0和元素0,然后比较元素1和元素1,以此类推。


编辑对于您的评论,第一个查询仍然很慢。

如果你有1300个班级,每个班级有30个学生,那么迫切加载(Include)的性能可能会受到数据库和客户端之间传输数据的乘法的影响。这是解释在这里:有多少包括我可以使用ObjectSet在实体框架,以保持性能?. 查询很复杂,因为它需要类和学生之间的JOIN,对象具体化也很复杂,因为EF在创建对象时必须过滤掉重复的数据。

另一种方法是在第一个查询中只加载没有学生的类,然后在循环中显式地逐个加载学生。它看起来像这样:

var sb = new StringBuilder();
using (var ctx = new Ctx())
{
    ctx.CommandTimeout = 10000; // Perhaps not necessary anymore
    var allClasses = ctx.Classes.OrderBy(o => o.Id).ToList(); // <- No Include!
    foreach (var c in allClasses)
    {
        // "Explicite loading": This is a new roundtrip to the DB
        ctx.LoadProperty(c, "Students");
    }
    foreach (var c in allClasses)
    {
        // ... same code as above
    }
}
lblResult.Text = sb.ToString();

在这个例子中,你将有1 + 1300个数据库查询,而不是只有一个,但是你不会有数据乘法发生在急切加载和查询更简单(没有类和学生之间的JOIN)。

这里解释了显式加载:

  • http://msdn.microsoft.com/en-us/library/bb896272.aspx
  • 对于poco(也适用于EntityObject派生实体):http://msdn.microsoft.com/en-us/library/dd456855.aspx
  • 对于EntityObject派生实体,您也可以使用EntityCollectionLoad方法:http://msdn.microsoft.com/en-us/library/bb896370.aspx

如果您使用延迟加载LoadProperty的第一个foreach将没有必要,因为Students集合将在您第一次访问它时加载。它应该会产生同样的1300个额外查询,比如显式加载。