如何从头开始设计一个深度神经网络? 任何机器学习算法的目标都是建立一个假设函数y = f(X) ,其中X是数据或特征,y是目标/标签。其中一些函数是参数化的,例如线性/逻辑回归、SVM,而其他函数则是非参数化的(基于树的模型)。如果模型具有固定数量的参数,并且函数形式不随数据变化,则该模型是参数化的。 神经网络也是参数化的。然而,神经网络是学习该假设函数的最原始形式,因为与其他算法不同,这里没有任何假设。您需要定义架构并选择训练超参数,例如批量大小、优化器、学习率、时期等。 训练神经网络的步骤如下: 训练: 1、将数 阅读全文 → 2023-09-10
工人使用生成式人工智能提高生产力的真实例子有哪些? 生成式人工智能,尤其是像 GPT(来自 OpenAI)及其对应模型这样的模型,在各个行业的应用都出现了激增。通过生成内容、协助设计,甚至提出假设,生成式人工智能为员工提供了大量提高生产力的机会。以下是一些现实世界的例子: 1.内容创建:作家和博主:使用 AI 集思广益主题、生成大纲,甚至生成内容草稿。这有助于加快写作过程并确保关键点的覆盖。营销人员:利用人工智能生成广告文案、电子邮件营销活动内容或社交媒体帖子。 2.设计和艺术:平面设计师:使用 OpenAI 的 DALL·E 等工具根据文本描 阅读全文 → 2023-09-10
神经网络到底是什么?它们是如何创建的? 神经网络是具有一些参数的任何系统,并且根据某些给定输入的实际输出和期望输出之间的差异,可以推导出如何修改参数以减少差异。 这样就可以在循环中重复参数改进的过程,即训练网络。然而,导出正确的参数修改(所谓的梯度)的能力限制了可以组合系统的组件。组件的充分条件是它们代表一个我们可以用符号方式表达的导数函数,但有时我们可以使用更奇特的组件。它还取决于我们如何衡量实际输出和期望输出之间的差异 - 所谓的损失函数。所有其他功能均开放。 当然,我们主要寻找具有学习(几乎)任何东西的能力的架构,例如具有非线 阅读全文 → 2023-09-10
为什么神经网络工作得这么好? 我们的物种很大程度上要归功于对生拇指。但如果进化给了我们额外的经验,事情可能不会有太大改善。每只手一个拇指就足够了。 对于执行类人任务的领先人工智能系统神经网络来说却并非如此。随着它们变得越来越大,它们掌握的东西也越来越多。这让围观者感到惊讶。基本的数学结果表明,网络只需要这么大,但现代神经网络的规模通常远远超出了预测的要求——这种情况被称为过度参数化。 对神经网络规模的标准预期来自于对神经网络如何记忆数据的分析。但要理解记忆,我们必须首先了解网络的作用。 神经网络的一项常见任务是识别图 阅读全文 → 2023-09-10
神经网络有多“神经”?神经网络的神经性如何? “神经网络”模型根本不是非常神经化的。 所谓的“神经网络”是一种统计机器学习算法。尽管神经网络受到大脑一般信息处理策略的启发,但没有人认为真正的神经元是这样工作的。 20世纪50年代末,“感知机”计算机算法被提出。到 20 世纪 80 年代初,这已发展成为使用反向传播算法的所谓“连接主义模型”。著名著作《并行分布式处理》的编辑麦克莱兰和鲁梅尔哈特非常小心地避免提及神经元。他们将他们的模型描述为具有“连接”的“单元”网络,并表示这是以一种非常松散的方式受到大脑工作方式的启发。他们避免使用“神经元 阅读全文 → 2023-09-10
神经网络最伟大和最新的应用是什么? 神经网络最近取得了两项我认为具有开创性的成就,这两项成就都是由 DeepMind 实现的。 第一个是,人类历史上第一次有一个人工智能可以在围棋比赛中击败全国冠军,甚至可能击败世界冠军(将于 3 月份在 Youtube 上直播)。它同时使用神经网络和树搜索。在国际象棋中击败人类早已成为现实,但围棋一直被认为是人工智能的圣杯,因为它具有如此大的分支因子;可能的棋盘状态的数量超过了宇宙中原子的数量。 第二个是,具有神经网络的人工智能已被教导通过强化学习来导航 3D 环境,仅使用视觉效果,而无需访问游 阅读全文 → 2023-09-10