余晖落尽暮晚霞,黄昏迟暮远山寻
本站
当前位置:网站首页 > 编程知识 > 正文

遗传算法和神经网络的结合带来什么样的影响?

xiyangw 2023-09-17 16:28 8 浏览 0 评论

神经网络结合遗传算法可以真正加速学习过程来解决一些问题。


一些大公司现在都在使用神经网络(NN)和遗传算法(GA)来帮助他们的神经网络学习得更好、更高效。在这篇文章中,将介绍神经网络和神经网络的优缺点,并分享一些想法。同时,也会介绍在这个过程中使用的基本算法。希望这篇文章能够帮助你了解更多关于人工智能和机器学习的内容。

遗传算法在神经网络之前非常流行。因为神经网络需要大量数据,而遗传算法却不需要。遗传算法主要用于模拟人口中实体的环境和行为。他们主要用于了解我们知道答案的问题的路径。

今天仍然使用遗传算法,但机器学习(ML)已经基本占据上风。

他们是如何工作的?

维基百科上是这么解释遗传算法的:

在计算机科学和运筹学研究中,遗传算法(GA)是属于更大类的进化算法(EA)的自然选择过程所启发的元启发式。遗传算法通常用于通过依赖生物启发运算符(如变异,交叉和选择)来生成优化和搜索问题的高质量解决方案。

如果这问题还没有解决,那么Daniel Shiffman的遗传算法的播放列表将会有所帮助。它帮助了解了遗传算法的工作原理以及Shiffman的视频是如何在一般情况下表现出色。虽然这里给出的建议是加快速度。

神经网络的问题

神经网络帮助我们解决了很多问题。但是他们仍然有一个巨大的问题。超参数!这是直到现在唯一不能学到的价值观。

注意:如果出现问题,超参数是神经网络需要正确执行的值。

我们可以使用遗传算法来学习神经网络的最佳超参数!

现在,我们不必担心“知道正确的超参数”,因为可以使用遗传算法来学习。此外,我们也可以使用它来了解神经网络的参数(权重)。

因为在遗传算法中,实体学习了指定问题的最佳基因组,这里每个神经网络的基因组都将是它的一组超参数。

解决问题

要解决超参数问题,我们需要执行以下操作:

·创建几个NN的总体。

·为所有NN分配随机(在一定范围内)超参数。

·对于一些迭代执行以下操作:

1.训练所有的神经网络同时进行或一个接一个地训练。

2.在所有人都完成训练后,计算他们的训练成本。

3.根据其成本计算每个NN的“适应度”(它在该迭代中做得如何)。健身将被用于增加神经网络“复制”的机会。“适应度越高,复制的机会就越高。但是,最好的神经网络将具有最低的成本。如果我们设定神经网络的适应度等于它的成本,那么最好的神经网络将有最少的机会被选中进行复制。相反,我们可以将适应度分配给成本的倒数。因此,最低的成本,将具有最高的适应性。有一些方法可以为健身分配更好的值,但这超出了本文的范围。

4.找出人群中的最大适应度(步骤5所要求的,根据步骤5的实施情况可以忽略不计)。

5.基于一个概率系统选择2个神经网络的适应度。

6.交叉2个神经网络的基因。这将创建一个“子”神经网络。这个神经网络应该具有第一个神经网络的一些属性和第二个神经网络的一些属性。这个过程也有许多不同的实现。

7.突变子基因。需要进行突变以保持遗传算法中的一定数量的随机性。

8.对群体中的神经网络数量执行步骤5 - 7。你应该将创建的“子”存储在新的种群中,并将新的人口分配给包含旧种群的变量。

注意:你应该创建一个你想要学习的参数的神经网络类。在最初,人口应该包含同一个神经网络类的几个实例。此外,上面写的所有内容都可以从Shiffman的播放列表中学到。

执行上述所有步骤,在最新一代的末尾,你的算法将找到含有最优超参数的神经网络的群体。这将是所有人群中最适合的神经网络。下面的图片可以解释这个过程。

使用遗传算法对超参数进行迭代的迭代过程

另一个问题

这是学习超参数的一个很好的解决方案,它确实带来了自己的问题。最突出的两个是计算资源和时间问题。

多次同时或逐一训练许多神经网络需要大量的时间和计算资源。这限制了这种解决方案的实施,只限于那些愿意投入资金并购买大量处理能力的人。

这也是它被大公司广泛使用的原因。

一个例子

不到一年前,OpenAI的Dota 2机器人击败了一名职业Dota 2玩家(文章和YouTube视频)。玩家花了几年时间学习和掌握,而机器人只花了几个星期。

他们使用遗传算法来训练他们的机器人。因为他们拥有必要的处理能力,所以他们能够同时运行Dota 2的多个实例,每个实例都有一个机器人玩游戏的实例。花了他们2周的时间来教导机器人的这个过程。

试想一下,这需要多少处理能力。

结论

在我看来,遗传算法很适合教神经网络,但他们不会成为首选。相反,会尝试寻找更好的方法来学习神经网络的超参数。

但是,如果将来我可以获得大量的处理能力,这种方法也值得一试。

相关推荐

域名交易策略之如何在竞争激烈的拍卖市场中胜出

域名交易策略之如何在竞争激烈的拍卖市场中胜出作为在域名领域拥有丰富经验的专业人士,您或许早就注意到了域名拍卖。我们的网站提供实时的域名拍卖清单,如果您想更加深入的了解域名拍卖,看这篇文章准没错!Dyn...

icp备案和域名备案两者之间有什么区别?
icp备案和域名备案两者之间有什么区别?

目前备案域名是比较常见的产品,但是也有很多人不懂什么是备案域名,还有大家所说的ICP备案,它和域名备案有什么区别呢?下面和大家分享一下,希望对大家有所帮助。什...

2023-09-28 15:33 xiyangw

直接挑战支付宝、微信?抖音支付正式上线:首批支持十家银行
直接挑战支付宝、微信?抖音支付正式上线:首批支持十家银行

了解更多热门资讯、玩机技巧、数码评测、科普深扒,点击右上角关注我们----------------------------------1月19日,不少网友发现,...

2023-09-28 15:33 xiyangw

Firefox测试新版站点隔离功能 可将每个网站置于单独的进程中
Firefox测试新版站点隔离功能 可将每个网站置于单独的进程中

Mozilla当前正在Firefox每夜构建版(NightlyBuild)和Beta通道测试一项全新的安全体系架构,特点是能够将每个站点都置于单独的...

2023-09-28 15:31 xiyangw

如何给域名估值?

我们从域名注册商中购买了一个流行的域名,有时候申请注册了自己也不会去用,其实可以转卖给别人,但是价格比我们当前购买的时候会有很大的变化。打算开展新的业务,想要寻求一个新的域名,但是很多时候也不知道具体...

二进制部署k8s集群

环境准备kube-apiserver:使用节点本地nginx实现高可用;关闭非安全端口8080和匿名访问;在安全端口6443接收https请求;严格的认证和授权策略(x509、tok...

域名实名制认证
域名实名制认证

为贯彻国家工信部对域名持有者实名制审核管理的相关规范,现在已经全面推行域名实名认证。域名实名认证包括域名命名审核(指域名将由国家监管部门认定是否含有政策不允许注...

2023-09-28 15:30 xiyangw

dns巡检脚本

#!/bin/bash#定义需要巡检的DNS服务器地址DNS_SERVERS=("8.8.8.8""114.114.114.114")#定义需要解析的域...

字节跳动再次蓄力小程序,相关域名花落谁家?
字节跳动再次蓄力小程序,相关域名花落谁家?

2017年1月9日,腾讯的微信小程序上线;2018年9月,阿里巴巴的支付宝小程序上线;2019年,字节跳动也加入了小程序的队伍,然而......字节跳动又上线新...

2023-09-28 15:30 xiyangw

保护您的域名:迈出第一步
保护您的域名:迈出第一步

AkamaiDNS团队互联网上的每一个人和每一件事都依赖于域名系统(DNS)的正常运作。近年来,DNS一直是网络攻击的常见对象,2019年当然也不例外。大多数...

2023-09-28 15:30 xiyangw

利用阿里云API实现DDNS,不用花钱再用花生壳花生棒了
利用阿里云API实现DDNS,不用花钱再用花生壳花生棒了

前言:自从家里有小孩后手机里的照片多的没地方放,又想实时能查看,家里人的手机都拍了宝宝照片视频,也没法相互查看,所以这个场景下不管是云备份,qq空间都无法实现这...

2023-09-28 15:29 xiyangw

TOP域名突破210万,保留域名开始抢滩

2016年5月5日12:00,.top精品保留域名开放溢价注册。本次开放.top域名包括三字母、精品双拼域名,广大用户可根据自身需要选择中意域名。本次.top溢价域名详细列表,已上传公告附件。请广...

关于西部数码.CC/.TV域名开启实名认证通知
关于西部数码.CC/.TV域名开启实名认证通知

根据工信部网站发布信息,工业和信息化部同意威瑞信互联网技术服务(北京)有限公司成为“.CC”“.TV”(含中文.CC和中文.TV)顶级域域名注册管理机构。西部数...

2023-09-28 15:29 xiyangw

SEO也可以走捷径:域名的选择
SEO也可以走捷径:域名的选择

做SEO域名选择很关键,在选择网站域名的时候我们会考虑到很多的因素。如:域名中要包含英文关键词或拼音的形式来增加网站的信用度、域名中添加地区或地区缩写来圈定服务...

2023-09-28 15:29 xiyangw

副业-小白网站建设-Day02
副业-小白网站建设-Day02

非洲待的时间较长了,一直在考虑做副业,所以我的网站是为后续当地副业做准备,下面写写域名注册的步骤和坑。首先,建立一个自己的网站,第一步需要注册域名。域名注册需要...

2023-09-28 15:28 xiyangw

取消回复欢迎 发表评论: