研究人员正在开发一种可以教机器学习 而无需人类监督的算法

“一般来说，机器学习是教机器像人类一样行动的科学，”南加州大学维特比信息科学研究所(ISI)研究负责人Mohammad Rostami说。

教机器在没有人类监督的情况下学习是他最新论文的主题，通过整合的内部分布克服领域感知设置中的概念转变，他将在华盛顿特区举行的第37届AAAI人工智能会议上发表演讲。

Rostami解释了机器学习通常是如何完成的：“我们收集由人类注释的数据，然后我们教机器如何在给定这些数据的情况下采取类似于人类的行为。问题在于机器获得的知识仅限于用于训练的数据集。此外，训练过程完成后，训练数据集通常不可用。

由此产生的挑战?如果机器接收的输入与训练数据足够不同，它就会感到困惑，并且不会像人类一样行事。

斗牛犬或西施犬或其他东西?

罗斯塔米举了一个例子，“狗的种类很多，不同类型的狗在视觉上不是很相似，种类也很大。如果您训练机器对狗进行分类，则其知识仅限于您用于训练的样本。如果你有一个新的狗类别不在训练样本中，机器将无法了解到它是一种新型的狗。

有趣的是，人类在这方面比机器更好。当人类被赋予一些分类的东西时，如果只给一个新类别(即，新品种的狗)中的几个样本，他们会调整并学习这个新类别是什么。Rostami说：“一个六岁的孩子可以使用两个，三个或四个样本来学习一个新的类别，而不是大多数现代机器学习技术，至少需要数百个样本来学习这个新类别。

面对概念转变的分类

通常，这不是关于学习全新的类别，而是能够随着现有类别的变化进行调整。

如果机器在训练过程中学习一个类别，然后随着时间的推移它经历了一些变化(即，添加新的子类别)，Rostami 希望通过他的研究，机器将能够学习或扩展该类别的概念是什么(即，包括新的子类别)。

一个类别不断变化的性质被称为“概念转变”。 类别的概念会随着时间的推移而变化。罗斯塔米提供了另一个真实世界的例子：垃圾邮件文件夹。

他解释说：“您的电子邮件服务有一个模型，可以将您的收件箱电子邮件分类为合法电子邮件和垃圾邮件。它经过训练，可以使用某些功能识别垃圾邮件。例如，如果一封电子邮件不是针对您个人的，则更有可能是垃圾邮件。

不幸的是，垃圾邮件发送者知道这些模型并不断添加新功能以欺骗模型，以防止他们的电子邮件被归类为垃圾邮件。

Rostami继续说道，“这意味着'垃圾邮件'的定义会随着时间的推移而变化。这是一个随时间变化的定义。概念是相同的 - 你有“垃圾邮件”的概念 - 但随着时间的推移，概念的定义和细节发生了变化。这就是观念的转变。

一种新的训练方式

在他的论文中，Rostami开发了一种训练机器学习模型的方法，以解决这些问题。

由于原始训练数据并不总是可用的，因此 Rostami 的方法不依赖于该数据。合著者和ISI首席科学家Aram Galstyan解释了如何，“模型学习旧数据在潜在空间中的分布，然后它可以生成潜在表示，几乎就像通过学习旧数据的表示来生成合成数据集一样。

正因为如此，模型可以保留在初始训练阶段学到的内容，这允许它随着时间的推移适应和学习新的类别和子类别。

重要的是，它还意味着它不会忘记原始训练数据或从中学到的东西。这是机器学习中的一个主要问题。Galstyan解释说：“当你训练一个新模型时，它可能会忘记一些以前有用的模式。这被称为灾难性遗忘，“加尔斯蒂安说。

通过本文开发的方法，加尔斯蒂安说：“灾难性遗忘被隐含地解决了，因为我们引入了旧数据分布和新数据分布之间的对应关系。因此，我们的模型不会忘记旧的模型。

下一步是什么?

Rostami 和 Galstyan 对结果感到满意，特别是因为它不依赖于源数据的可用性。Galstyan说：“我惊喜地看到，该模型与大多数现有的最先进的基线相比具有优势。

Rostami和Galtyan计划继续研究这个概念，并将所提出的方法应用于现实世界的问题。

但首先，Rostami 将在即将举行的第 37 届 AAAI 人工智能会议上展示研究和发现。 AAAI会议由该领域最大的专业组织主办，旨在促进人工智能研究以及相关学科的AI研究人员，从业者，科学家和工程师之间的科学交流。今年，会议的录取率为19.6%。

最后一个亮点

除了发表这篇论文外，Rostami 还被选为 AAAI '23 新教师亮点演讲者计划，该计划以刚刚开始新教职员工的有前途的人工智能研究人员为特色。罗斯塔米于 2021 年 30 月成为南加州大学的教职员工，他将就他迄今为止的研究以及他对人工智能未来的愿景进行 15 分钟的演讲。竞争激烈的计划通常包括不到<>名新教师，主要基于他们迄今为止的研究的承诺和影响(例如，顶级论坛上的出版物，引文，奖项或部署的系统)以及他们的未来计划。