深度学习调参有哪些技巧？

做新模型的时候，最开始不要加激活函数，不要加batchnorm，不要加dropout，先就纯模型。然后再一步一步的实验，不要过于信赖经典的模型结构(除非它是预训练的)，比如加了dropout一定会有效果，或者加了batchnorm一定会有提升所以先加上，首先你要确定你的模型处于什么阶段，到底是欠拟合还是过拟合，然后再确定解决手段。

如果是欠拟合，直接模型宽度深度增加，一般2倍递增或者数据集增强，特别在nlp领域可以用大量数据增强方式-比如，同义词替换，

阅读全文 → 2022-10-27

什么是联邦学习？联邦学习服务器具体有什么功能呢？

联邦学习（Federated Learning，FELE）是一种打破数据孤岛、释放 AI 应用潜能的分布式机器学习技术，与度学习不是一个概念，能够让联邦学习各参与方在不披露底层数据和底层数据加密（混淆）形态的前提下，通过交换加密的机器学习中间结果，实现联合建模。联邦学习兼顾 AI 应用与隐私保护，开放合作，协同性高，充分释放大数据生产力，广泛应用在金融、消费互联网等行业的业务创新场景。
蓝海大脑高性能服务器事业部杨博士：联邦学习应该有以下功能：
模型训练服务（GPU工作站）：联邦学习各参与方在合法

阅读全文 → 2022-10-26

深度学习 GPU 如何加速的 Scikit-learn API 和端到端数据科学？

在架构方面，CPU 仅由几个具有大缓存内存的核心组成，一次只可以处理几个软件线程。相比之下，GPU 由数百个核心组成，可以同时处理数千个线程。

基于 CUDA-X AI™ 创建的 NVIDIA RAPIDS™ 开源软件库套件使您完全能够在 GPU 上执行端到端数据科学和分析流程。此套件依靠 NVIDIA® CUDA® 基元进行低级别计算优化，但通过用户友好型 Python 接口能够实现 GPU 并行化和高带宽显存速度。

RAPIDS cuML 的机器学

阅读全文 → 2022-10-26

创业公司搭建深度学习平台初期，应注意的重点有哪些？

主要是看需求，如果只是少量的计算需求，或者刚开始使用深度学习GPU平台的话，完全可以先买几块GeForce消费级显卡试水。如果需要大量部署的时候，主要有两种选择。如果不想投入太多硬件维护的人力，可以采用像阿里云，Amazon Cloud等等云服务商提供的GPU节点。当然用户也可以自己购买GPU服务器，这里面包括NVIDIA自己的DGX-1（主要适合对于扩展性要求高，模型大，训练量大的场合），或者是一般的NVIDIA合作伙伴提供的GPU服务器。

阅读全文 → 2022-10-26

现有的深度学习神经网络模型很容易被未来更好的模型所取代。如何在深度学习GPU平台做到很好的可重构性，同时保证高效能？

蓝海大脑高性能计算液冷工作站部门研究人员表示：GPU平台的一个很大的好处就在于，其有一定的通用性，编程相对容易。所以在新的模型，或者layer出现之后，在GPU上可以很快地获得比较高效的实现。所以新的网络在GPU上往往会获得快速的应用。这也是为什么大家选择GPU做DL的很重要的因素之一。

阅读全文 → 2022-10-26

做深度学习的最低配置方面，最小能出效果的数据量是多少？

楼主提出的这个这个问题说实话不是特别好的回答，现在做深度学习主要是让训练速度快，训练时间越短越好。从我们训练的GPU平台上来讲，现在已经从标准的四卡服务器发展到八卡服务器，且八卡服务器目前也受到了大家普遍的接受，可以说在明年将成为训练平台的一个主要配置。至于多少数据量才能出效果，要根据用户的神经网络模型来决定的，说实话，我们现在也不好确切回答，可以看到，做图像和做语言处理需要的数据量也是不一样的，还是需要根据具体的神经网络的模型来看待，这是我的一点点看法！更专业的知识建议您去找专业公司看看，像蓝海大脑、浪

阅读全文 → 2022-10-26

首页上一页 139 140 141 142 143 144 145 146 147 148 下一页尾页