Task.Factory.StartNew vs. Parallel.Invoke

本文关键字:Parallel Invoke vs StartNew Factory Task | 更新日期: 2023-09-27 17:50:32

在我的应用程序中,我并行执行几十到几百个操作(操作没有返回值)。

哪种方法是最优的:

  1. 在foreach循环中使用Task.Factory.StartNew迭代Action数组(Action[])

    Task.Factory.StartNew(() => someAction());

  2. 使用Parallel类,actionsAction数组(Action[])

    Parallel.Invoke(actions);

这两种方法等价吗?对性能有什么影响吗?

编辑

我已经执行了一些性能测试,在我的机器上(每个2个CPU 2个内核)结果似乎非常相似。我不确定它将如何在其他机器上看起来像1个CPU。我也不确定(不知道如何测试它非常准确的方式)什么是内存消耗。

Task.Factory.StartNew vs. Parallel.Invoke

两者之间最重要的区别是, Parallel.Invoke将等待所有操作完成后再继续执行代码,而StartNew将继续执行下一行代码,允许任务在自己合适的时间内完成。

这种语义差异应该是您首先(也可能是唯一)考虑的。但出于信息目的,这里有一个基准:

/* This is a benchmarking template I use in LINQPad when I want to do a
 * quick performance test. Just give it a couple of actions to test and
 * it will give you a pretty good idea of how long they take compared
 * to one another. It's not perfect: You can expect a 3% error margin
 * under ideal circumstances. But if you're not going to improve
 * performance by more than 3%, you probably don't care anyway.*/
void Main()
{
    // Enter setup code here
    var actions2 =
    (from i in Enumerable.Range(1, 10000)
    select (Action)(() => {})).ToArray();
    var awaitList = new Task[actions2.Length];
    var actions = new[]
    {
        new TimedAction("Task.Factory.StartNew", () =>
        {
            // Enter code to test here
            int j = 0;
            foreach(var action in actions2)
            {
                awaitList[j++] = Task.Factory.StartNew(action);
            }
            Task.WaitAll(awaitList);
        }),
        new TimedAction("Parallel.Invoke", () =>
        {
            // Enter code to test here
            Parallel.Invoke(actions2);
        }),
    };
    const int TimesToRun = 100; // Tweak this as necessary
    TimeActions(TimesToRun, actions);
}

#region timer helper methods
// Define other methods and classes here
public void TimeActions(int iterations, params TimedAction[] actions)
{
    Stopwatch s = new Stopwatch();
    int length = actions.Length;
    var results = new ActionResult[actions.Length];
    // Perform the actions in their initial order.
    for(int i = 0; i < length; i++)
    {
        var action = actions[i];
        var result = results[i] = new ActionResult{Message = action.Message};
        // Do a dry run to get things ramped up/cached
        result.DryRun1 = s.Time(action.Action, 10);
        result.FullRun1 = s.Time(action.Action, iterations);
    }
    // Perform the actions in reverse order.
    for(int i = length - 1; i >= 0; i--)
    {
        var action = actions[i];
        var result = results[i];
        // Do a dry run to get things ramped up/cached
        result.DryRun2 = s.Time(action.Action, 10);
        result.FullRun2 = s.Time(action.Action, iterations);
    }
    results.Dump();
}
public class ActionResult
{
    public string Message {get;set;}
    public double DryRun1 {get;set;}
    public double DryRun2 {get;set;}
    public double FullRun1 {get;set;}
    public double FullRun2 {get;set;}
}
public class TimedAction
{
    public TimedAction(string message, Action action)
    {
        Message = message;
        Action = action;
    }
    public string Message {get;private set;}
    public Action Action {get;private set;}
}
public static class StopwatchExtensions
{
    public static double Time(this Stopwatch sw, Action action, int iterations)
    {
        sw.Restart();
        for (int i = 0; i < iterations; i++)
        {
            action();
        }
        sw.Stop();
        return sw.Elapsed.TotalMilliseconds;
    }
}
#endregion

结果:

Message               | DryRun1 | DryRun2 | FullRun1 | FullRun2
----------------------------------------------------------------
Task.Factory.StartNew | 43.0592 | 50.847  | 452.2637 | 463.2310
Parallel.Invoke       | 10.5717 |  9.948  | 102.7767 | 101.1158 

可以看到,使用Parallel。调用比等待一堆新任务完成大约快4.5倍。当然,那是你的行为完全没有作用的时候。每个动作做得越多,你会发现差异就越小。

我使用了来自StriplingWarror的测试来找出差异的来源。我这样做是因为当我用Reflector查看代码时,类Parallel与创建一堆任务并让它们运行没有什么不同。

从理论上讲,这两种方法在运行时间上应该是相等的。但是,使用空操作的测试(不太现实)确实表明Parallel类要快得多。

任务版本确实花费了几乎所有的时间来创建新任务,这导致了许多垃圾收集。您看到的速度差异纯粹是由于您创建了许多任务,这些任务很快就变成了垃圾。

Parallel类创建自己的任务派生类,并在所有cpu上并发运行。在所有核心上只有一个物理任务在运行。同步现在确实发生在任务委托内部,这解释了Parallel类的速度要快得多。

ParallelForReplicatingTask task2 = new ParallelForReplicatingTask(parallelOptions, delegate {
        for (int k = Interlocked.Increment(ref actionIndex); k <= actionsCopy.Length; k = Interlocked.Increment(ref actionIndex))
        {
            actionsCopy[k - 1]();
        }
    }, TaskCreationOptions.None, InternalTaskOptions.SelfReplicating);
task2.RunSynchronously(parallelOptions.EffectiveTaskScheduler);
task2.Wait();

那么什么是更好的呢?最好的任务是从未执行过的任务。如果你需要创建如此多的任务,以至于它们成为垃圾收集器的负担,你应该远离任务api,而坚持使用Parallel类,它可以在所有核心上直接并行执行,而不需要新任务。

如果您需要变得更快,那么手动创建线程并使用手动优化的数据结构来为您的访问模式提供最大的速度可能是最高效的解决方案。但是这样做不太可能成功,因为TPL和并行api已经进行了大量的调优。通常,您需要使用许多重载中的一个来配置正在运行的任务或并行类,以便用更少的代码实现相同的功能。

但是如果你有一个非标准的线程模式,它可能是你最好不使用TPL来获得你的核心。甚至Stephen Toub也提到TPL api不是为了超高速性能而设计的,其主要目标是让"普通"程序员更容易执行线程。要在特定情况下打败TPL,你需要远高于平均水平,你需要了解很多关于CPU缓存线、线程调度、内存模型、JIT代码生成等方面的知识……在你的特定场景中想出更好的东西。

总的来说,考虑到在任何情况下实际处理大量任务的开销,这两种方法之间的性能差异可以忽略不计。

Parallel.Invoke基本上为你执行Task.Factory.StartNew()。所以,我认为可读性在这里更重要。

此外,正如StriplingWarrior提到的,Parallel.Invoke为您执行WaitAll(阻塞代码直到完成所有任务),因此您也不必这样做。如果你想让任务在后台运行而不关心它们何时完成,那么你需要Task.Factory.StartNew()