网站首页
手机版

CCAI 演讲回顾|刘兵:终身学习\连续学习与元学习

更新时间:2024-08-06 16:07作者:小乐

中国人工智能大会是我国人工智能领域级别最高、规模最大、影响力最强的专业会议。时隔一年回顾CCAI 2018大会,我们不难确认,演讲者提出的很多想法和展望正在逐渐变为现实,他们的宝贵经验引领了产学研等领域的发展方向。

CCAI 2018 《终身学习、连续学习与元学习》 主题演讲节选

刘兵教授伊利诺伊大学芝加哥分校杰出教授、AAAI/ACM/IEEE Fellow

1、从自动驾驶的角度来看,我们知道,如果一个人在学开车,教练会告诉他一些关于驾驶的基本知识,让他练习,比如尝试刹车等等。然后,经过一段时间的路上学习,这个人就可以获得驾驶执照并开始驾驶。但要让机器自动驾驶确实很难。谷歌的自动驾驶汽车已经行驶了800 万英里,但仍然无法达到道路上的安全水平。为什么人们不用花太多时间就能开好车?因为我们在学开车之前就知道很多事情。我们可能骑过自行车或摩托车,都知道交通安全的重要性。

另外,一个人即使拿到了驾照,他在开车的时候也会不断学习,并且开得越来越好。这是真正的智慧。机器学习本质上是一个优化问题,但人类基本上没有优化的能力。例如,没有人可以在给定一些数据的情况下建立模型。当然,如果你花很多时间,你可能会发现一些规律。这是一个简单的分类问题。单纯提供数据的人很难解决,但如果提供一些先验知识,问题就可能得到解决。虽然人们可以从数据中学习,但人类的学习一直在构建自己的知识库。人类的学习可能更多地基于知识。我们从小就开始做加法和减法。如果不学习这些基础知识,就不可能直接学习求解微分方程。应该有一个知识积累的过程。 AlphaGo可以击败人类最优秀的棋手,但它能走到赛场吗?它能用手下棋吗?如果赢了会高兴吗?理论上是可以的,但是几百个工程师要做到这一点是非常困难的。

2019年4月

斯坦福大学的研究人员开发了一种控制自动驾驶汽车的新方法,该方法集成了以前的驾驶经验——该系统将帮助汽车在极端和未知的情况下更安全地行驶。他们使用两种不同的模型测试了赛道上的摩擦极限,系统的运行方式与使用现有自动控制系统的经验丰富的赛车手一样。

因此,目前的机器学习模型基本上都是单任务学习,即提供一些人工标记的数据,使用机器学习算法构建模型,然后在实际应用中使用这个模型。人与上面的学习模式有什么区别呢?目前的算法不具备像人类一样的知识积累,需要大量的标记数据,尤其是在进行实际应用时。使用算法来完成一项任务是可能的,但不可能包揽世界上的所有事情。即使你可以做所有事情,明天也会有新的事情需要考虑。手动注释永远不会结束。

人可以学得越来越广,学得越多就越容易学,但机器现在做不到这一点。终身机器学习正在努力做到这一点。这件事很难,但是非常有必要去研究,因为每个任务都学一遍太复杂了。我们应该像孩子一样学习。这句话很有哲理,start like ababy。

2.终身学习终身学习是一个非常大的领域,有很多问题需要解决。它还有很多名字,比如终身学习、持续学习、持续学习、元学习、永无止境的学习等。他们都在努力解决终身学习的不同方面。一般来说,终身学习意味着你可以积累所学的知识,然后在以后的学习中运用它。对于终身学习来说,世界是开放的。算法需要发现和解决新问题,而不仅仅是解决给定的问题。它学到的知识不局限于现有领域,而是可以应用到新的领域。终身学习首先需要一个持续学习的过程;此外,知识必须不断积累。终身学习还应包括应用知识和适应新场景的能力。它还需要在开放领域学习。它可以识别以前从未学过的东西并学习它们,这样积累的知识就会变得越来越多。另外,我们要在工作中学习,即工作后要继续学习,要边工作边学习。目前还没有一种算法能够真正实现终身学习。目前的算法都是试图完成这个任务的某一部分。目前还没有人能够将所有功能集成到一个系统中。

2019年3月

美国国防高级研究计划局(DARPA)“终身学习机器”(L2M)项目的研究人员在期刊《自然·机器智能》上发表了人工智能算法的研究成果,介绍了一种由类似动物肌腱驱动的人工智能控制的机器人。四肢,标志着项目取得重大进展。当前的机器学习系统无法持续学习或适应新情况。系统程序经过训练后就固化了,无法应对系统部署后新的、不可预见的情况,通过添加新信息来修改程序缺陷会覆盖现有的训练集。在当前技术下,解决这个问题需要使系统离线并使用包含新信息的数据集重新训练机器系统。为了应对上述挑战,DARPA启动了“终身学习机器”项目,旨在开发能够在执行任务过程中不断学习并变得越来越专业的系统,同时将以前的技能和知识应用到新的情况中。你会忘记以前学过的东西。

终身学习领域存在很多基本挑战:例如,第一,所学到的知识无法判断对错,不知道对错的知识不能用于持续学习。现在机器学习不太重视这个东西,但其实需要认真对待;第二,过去积累的知识是否适用于新的领域;第三,如何表示积累的知识;第四,如何将机器学习与人工智能的其他方面结合起来。将它们连接在一起以形成一个稍微更完整的系统。这些问题需要解决,也是很多人的研究方向。

这些挑战在许多应用中都很明显,例如自动驾驶汽车、聊天机器人和机器翻译。它们都非常困难,因为你在学习或应用过程中总会遇到一些你从未见过的东西。遇到这种情况,系统总会出现状况和问题。尽管现在有一些公司吹嘘自己的自动驾驶技术有多成熟,以及他们的机器翻译系统如何解决了翻译问题,但事实并非如此。世界非常复杂且不断变化。如果数据总是需要人工标注和人工翻译,这是不可靠的,经济成本也会很高。综上所述,机器仍然需要具备自主学习和持续学习的能力。如果没有的话,未来就没有希望了。

2018年12月

亚特曼推出医疗亚特曼AI翻译解决方案,深度融合亚特曼医疗机器翻译和全栈语言智能技术。医学机器翻译模型可以终身不断升级和学习,还可以与用户现有的翻译项目管理系统无缝连接。 Atman可以在需求方内部进行医疗机器翻译的私有部署。所有模型和数据均存储在需求方内部网络,保证数据安全。然后,需求方可以使用该系统进行翻译,然后在内部进行译后编辑。

最后,我想提一下持续学习和元学习。近年来很多人都在做相关的研究。持续学习主要试图解决神经网络在学习一系列任务时的灾难遗忘问题。元学习(也称为学习学习)的关键点是使用许多任务作为训练数据来训练元模型。然后可以使用该元模型来学习新任务。这个新任务不需要太多的数据,你会学得更快。

2018年10月

IBM 研究人员发表了论文《Learning to Learn without Forgetting by Maximizing Transfer and Minimizing Interference》,提出了一种持续学习建议的方法,允许实现可以构建增量知识的神经网络。 IBM创建了一个新的学习框架MER,它结合了元学习和经验回放技术,以达到持续学习的效果。

三、总结对于终身学习来说,掌握的知识越多,学习起来就越容易,学习的质量也就越好。该领域还需要进一步发展,目前的算法只能解决相对单一的问题。知识的正确性、适用性以及知识的整合性等都是很大的挑战。现在就看谁聪明,能够解决这些任务了。那么我们也许能够实现通用人工智能。

为您推荐

去泰国留学,不可错过的泰国第一名校(泰国留学大学排名一览表)

朱拉隆功大学(泰语:จุฬาลงกรณ์มหาวิทยาลัย;英语:Chulalongkorn University),是泰国最古老的大学,被尊为"全国最有威望的大学",环太平洋大学联盟和21世纪学术联盟成员。该校拥有19个学院、2个研究

2024-08-06 16:10

去泰国旅游,你一定要知道泰国的这几大世界之“最”

1.世界最大寺院——法身寺法身寺不仅是泰国最大寺院,更是世界上最大的寺院。作为一个佛教国家,泰国的僧众众多。法身寺位于曼谷20公里,占地一千亩。寺内有一百万多尊法身佛像,在大法身舍利塔广场的面积足够一百万人同时静坐,禅修。2.世界最大的卧佛

2024-08-06 16:10

朱拉隆功大学申请难度太大了?看完秒懂,朱拉隆功大学知乎

朱拉隆功大学(泰语:จุฬาลงกรณ์มหาวิทยาลัย,英语:ChulalongkornUniversity)是泰国最古老的大学,被尊为“全国最有威望的大学”。大学拥有19个学院、2个研究生学校、1个分校、11个研究所、2个教育中心

2024-08-06 16:09

聚焦——数字•互联•智造,CCMT2024新闻发布会在沪举行

3月13日,第十三届中国数控机床展览会在上海举行了新闻发布会,吸引了来自全国各大新闻媒体单位的70余名记者。中国机床工具工业协会领导及上海市国际贸易促进委员会代表出席了此次发布会。 CCMT2024由中国机床工具工业协会主办,并与上海市国际

2024-08-06 16:09

贸易展|中国(厦门)国际投资贸易洽谈会-投洽会CIFIT(2021厦门国际投资贸易洽谈会)

中国(厦门)国际投资贸易洽谈会-投洽会CIFIT展会时间2022-09-08 ~ 09-11展会行业:贸易举办周期:一年一届举办地点:中国-福建- 厦门国际会展中心主办单位:中华人民共和国商务部(MOFCOM)展会规模: 110000平方米

2024-08-06 16:08

2023CCTI中国研发管理峰会:从创新驱动到赋能增效带你看见新趋势!,中国研发中心

科创时代,越来越多企业更加重视研发和创新,持续增加研发投入,而研发管理作为降本增效,推动项目落地的有效手段,其价值和重要性愈发凸显。为搭建研发管理交流共享平台,共同探讨研发管理的价值与最佳实践,寻求变革与突破,多角度赋能研发管理在企业的升级

2024-08-06 16:08

加载中...