我目前正在研究 TFF 和图像分类(图像分类联合学习)emnist。
我正在研究模型学习率和优化器的超参数。网格搜索是一个好方法吗？ 。在现实世界中，您是否可以简单地从整个域中对客户端/设备进行采样，如果是这样，如果我要进行网格搜索，我是否必须首先修复我的客户端样本。在这种情况下进行网格搜索才有意义。
选择参数的典型现实世界方式是什么，即这更像是一种启发式方法。 ？
科林. 。 .
最佳答案
我认为在联邦学习的这些领域仍然有很多开放研究。
第 6 页，共 https://arxiv.org/abs/1912.04977描述了联邦学习的跨设备和跨竖井设置。
在跨设备环境中，人群通常非常庞大(数十万或数百万)，并且参与者在整个训练过程中通常只会看到一次。在此设置中，https://arxiv.org/abs/2003.00295表明客户端学习率等超参数在确定模型收敛速度和最终模型精度方面发挥着巨大作用。为了证明这一发现，我们首先进行了大型粗网格搜索来识别有希望的超参数空间，然后在有希望的区域中运行更精细的网格。然而，这可能会很昂贵，具体取决于可用于模拟的计算资源，必须运行完整的训练过程才能了解这些影响。
可以将联邦学习视为非常大的小批量 SGD。事实上 https://arxiv.org/abs/1602.05629 中的 FedSGD 算法正是这个。在这种情况下，重用集中模型训练的理论可能会取得成果。
最后https://arxiv.org/abs/1902.01046描述了 Google 用于联邦学习的系统，并对超参数探索进行了小型讨论。
关于grid-search - 网格搜索适用于 TFF 和 FL。？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/62040659/