当前移动端轻量化的backbone有哪些推荐 ？蒸馏的技巧？

我们认为一些最经典结构，像ResNet和MobileNetv2可以适应大多数的场景。对于分割场景，可能LiteSeg是一个非常好的选择。蒸馏最重要的技巧是要针对于你的任务选择蒸馏方式。如果是分类任务，可以做一些比较全局的蒸馏；对于分割可能更关注点之间的关系，然后对点之间的信息进行整理；目标检测可能更多的关注一些前景，或者关注不同物体之间的一些关系，利用这些关系去做蒸馏。