跳到内容 跳到导航

Research & Ideas

站内搜索

艾玛brunskill:功放式教育与AI

通过新的数据和分析有关人们如何学习底气,计算机教人的梦想正在进入一个新的时代是远远超出了阅读,写作和算术。

Children using technology to learn

赌注是很高的:更好的教育,关键是要解决大社会挑战,如扶贫。 | stocksy /maahoo工作室

计算机程序旨趣帮助人类学会几乎只要有过计算机程序已经出现,但成功的纪录一直乏善可陈。

艾玛brunskill,人工智能和机器学习专家,认为低于恒星纪录即将改变,一直致力于她的职业生涯寻找新的和更好的方法来教计算机教人类。她的研究产生创新“强化学习”的算法,其中计算机通过学习经验,教学人类变得更好。在这个过程中,算法会让人作出这样的产生,从长远来看更好的效果更好,更明智的决策。

到brunskill这是没有的事教室,而是努力在赌注是很高的。她说,更好的教育是关键,大社会挑战,如减轻贫困。她认为,新员工进行更好的培训 - 或旧的再培训的 - 可以更好地获得高薪工作为更多的人。更重要的是,她把她的注意力转移到其他领域,即医疗保健,其中更好的决策可以有生命或死亡的影响。

我们的主持人 拉斯·奥尔特曼 和CQ9电子游戏的计算机科学家艾玛brunskill电脑辅助学习和决策的新时代的深入探讨。你可以听 一切的未来 上 天狼星XM洞察通道121iTunes的谷歌比赛的SoundCloudSpotify的订书机 或通过 CQ9电子游戏工程杂志.

抄本

拉斯·奥尔特曼: 今天 一切的未来, 未来的强化学习。所以,我们人类是相当有兴趣学习。我们在学习很不错。如果你问别人为什么他们享受自己的工作或自己的爱好,这是很常见的为他们这样说,“我喜欢这个活动,因为我不断地学习新的和有趣的事情。”学习本身就是回报。

现在,随着人工智能的兴起,AI,我们的电脑也善于学习越来越好。但它不来几乎自然的计算机,因为它确实给我们。所以计算机科学家们正在非常努力让计算机学习如何做任务。识别脸部,例如,需要一个令人难以置信的巨大的数据和图像理解突破的量,真的只有几千万图像时可用,约人脸,小猫和消防车教电脑发生。

现在,我已经15岁的孙子和一个15个月大,我有15个月大的孙子。而在过去的15个月中,他已经从睡眠和饮食,并没有多少人,行走,与世界的互动,几乎说话的包不见了,肯定他是一个学习的机器。他了解到这一切在15个月是一个人。他了解到,吸尘器看起来良性的,当他们打开了,但是当他们打开的恐吓。他了解到,有一些事情是妈妈不希望他接触,和爸爸。他了解到,有一些食物可以是好的,但它并不总是好的。我们可以让计算机在经验学习这样的,这样他们就可以开发能力,帮助人们生活得更好。

有学习人工智能的许多领域,但他们中的一个被称为强化学习。从经验中学习,以做出正确的决定。我猜这就是所谓的强化学习,因为通常有一定的奖励,加固,当你做出一个好的决定和一些惩罚,一些负面的,当你不知道。东西,我们种的是懂得含蓄。所以,试图通过寻求积极的补强,让自己变得更好。

博士。艾玛brunskill在斯塔福德大学的计算机科学教授,她的工作重点是强化学习经验时,特别是昂贵的或危险的。所以你需要快速学习的或有可能是不好的后果。这种情况在医疗,机器人,教育是丰富的。艾玛,这似乎是学习非常直观的方式。但什么是便于人类可能不适合电脑容易。我想知道是什么在强化学习的AI系统所面临的挑战,并且我们有进展吗?

艾玛brunskill: 那么首先,我很高兴能来到这里,非常感谢你的邀请。我想一旦我们开始取得进展的我们已经看到了令人惊奇的事情是一个人工智能的时候,我们知道有些事情是更容易比也许我们会一直预期。最近,强化学习已被用来做这样的事情有电脑代理商能够玩视频游戏。对于一些你们谁可能是熟悉的老Atari游戏公司,我们现在有强化学习系统中,这些类型的AI算法,可以玩这些游戏以及人类。在即使它可能已经采取了小将几个小时来学习如何玩这些游戏某些方面,我们有这样做了很好的算法。我认为我们有一个挑战,就是在这些情况下,这些系统通过试运行错误,并学习如何玩这些游戏了数以百万计的游戏。所以这是可能的视频游戏,因为,仅仅需要计算。你只需要很多很多的电脑,然后你就可以拥有所有的人都可以玩这些游戏,最终你将学会如何取胜。您可以排序的学习,以优化得分。

拉斯·奥尔特曼: 大概我猜,甚至比人类专家需要得到他们的性能水平更体验。

艾玛brunskill: 级以上的订单。

拉斯·奥尔特曼: 好的。

艾玛brunskill: 所以有一些可爱的工作人员如何快速学会相比,计算机,用于比较。和人们的学习,学习这些游戏的人民速度更快的方式。和经验,他们需要的量是远远少。当然,我们有大量的其他的经验,我们可以给光秃秃的。而这些计算机从头开始学习。但它仍然在那里,他们需要经历量远远超过任何人的情况下。

当我们想到使用这些算法对于其他类型的案件,有些情况下,我真正关心的,是一样的东西个性化自适应教育。我们没有,人无限多来训练这些系统。和它很重要,因为如果我的系统需要100亿人学习如何最好地教人分,这是一个大问题。这里是如果我能学上几句100名学生,这将是更好的。

拉斯·奥尔特曼: 是。所以我15个月大的孙子怎么样,只是为了帮助我们理解,理解的时候,因为口感好,味臭,疼痛,不痛了成功和失败。我们如何编码的奖励和处罚的计算方案,使他们能够得到时,他们做得很好的感觉,当他们做得还不够好?

艾玛brunskill: 我认为这是核心挑战之一,现在。等东西棋盘游戏,喜欢游戏的“走出去”,或在雅达利游戏,如视频游戏有一个分值和代理接收得分。让他们知道吃豆人吃,当一个cookie,然后是它得到的分数增加。所以它告诉那就是奖励功能。我认为在实际系统中的关键挑战之一,是应该奖励这功能是什么呢?所以我的工作对教育系统有很多,有时是奖励制度可能是测试中的表现。但实际上这是什么,我们关心的代理。

我们关心的事情就像被采用的高中毕业率或人。但这些都只是真的很难去衡量,他们需要很长的时间来观察。所以我们经常用我们所说的,“代理的奖励,”到的东西更容易衡量的,我们希望与长期相关成果,我们所关心的。

拉斯·奥尔特曼: 我现在想要得到你的教育工作,因为它听起来很吸引人,你已经提到这个问题,但在这之前刚刚成立的背景。我知道你关心的另一件事,是学习理论。实际上证明什么是可能的,什么是不可能的事情。我看了一些论文,他们是非常技术上,我会深深的说。所以我们不能进入这个讨论的细节。但我想,如果你可以给我们的味道,我们有什么可以学习想着学习的理论,什么是可能的,什么是不可能的?以及如何在通知之类的教育和医疗保健的现实世界的实验?

艾玛brunskill: 所以很多理论工作的我做的是真正由拿出当我想到这些教育系统所面临的挑战的启发。我们要快速学习系统。所以我和我的团队都在被很感兴趣,这是什么意思,要刻苦学习,以做出正确的决定。为什么会存在一些问题更难为什么我们可能需要更多的数据,以试图弄清楚什么是正确的决定在那里。和的事情之一,我认为是最可爱的是,我们发现,乐观情绪在某些情况下可证明是最佳的。

乐观在这种情况下,让我们想象一下,你去一家餐厅,并有一对夫妇不同的菜肴。您尝试之一,它不是那么好。往往我们很多人可能永远不会尝试再一个,我们就始终坚持的一个。什么乐观的暗示是,我们说的厨师刚刚有了一个糟糕的一天,而第一盘实际上是惊人的。乐观的认为,你应该尝试的事情多次,因为随着时间的推移要么就是真的好喜欢,如果你的乐观,那么它真的会好,否则你会学到一些东西。事实证明,悲观情绪并不具有相同的属性。你可能永远不会再次尝试,第一道菜,你可能从未意识到它的好。

拉斯·奥尔特曼: 这是非常有趣的。所以你说,即使那种,我再次使用恐吓的报价,但是,即使是算法嗯,我想我知道什么是会发生在这里的所谓态度,但也许我应该在更多的时间确保蘸着一种化妆的或多做几次。

艾玛brunskill: 是。

拉斯·奥尔特曼: 对啊,我不喜欢这样,我快要进入另一个区域。甚至是一种策略可以影响在该真实的东西,有用的东西都学会了速度。

艾玛brunskill: 准确,不只是速度,但也可能是,它甚至从来没有学到正确的事情最终。所以也许这第一道菜是真的,巧克力片糕真是太棒了。厨师刚刚有了一个休息日。你想被乐观情绪与你的不确定性看好好东西怎么样了。如果事情欢快更好,不断尝试他们。我们可以在某些情况下,这实际上是表明,可证明学到东西的最快方式。

拉斯·奥尔特曼: 这是一切的未来。我是拉斯·奥尔特曼。我跟艾玛brunskill讲话。我们正在谈论有关证明学习的东西。而我认为这是由您的意见刚才所隐含的重要的事情是,你实际上可以转,似乎涉及到的模糊到精确的概念的话,这些学习任务。然后你就可以真正做数学水平证明,这也是我想这是非常有趣的事业也不会得到,如果你能证明一些东西例如是不可能的,你会不会非常努力地做一些事情,是不可能的,或者你”会说,“我知道这是不可能的,所以我只是要能够得到近似的结果。”所以我猜它是什么你甚至愿意去,并尝试提出一种锥和边界良好。

艾玛brunskill: 那就对了。而且我也认为,现在,如果我们想要的人是不是我的博士研究生等精彩博士生,以便能够使用这些算法。我们需要做什么我们很多人都在AI的民主化方面说起。这意味着我们希望这些系统是由人的强大和使用在许多领域中。而这就需要他们有良好的强性能。我们可以在软件中看到这一点,人们经常验证软件,所以我们知道,在任何平面上,如果您使用自动驾驶仪的飞机会不会崩溃。同样,如果我们想要的东西像增强学习成为现实世界中足够强大,我认为我们需要这些类型的担保。

拉斯·奥尔特曼: 是因为那时,我想重复一下你的说法,当我们从一个域转移的算法到另一个,从打“走出去”,帮助医生做的手术。我们想知道,有CQ9电子游戏它的性能有一定的保证,我们没有重新建立或担心,如果他们存在或不存在。

艾玛brunskill: 究竟。

拉斯·奥尔特曼: 所以让我们去教育工作。动机是什么 - 所以我在你的使用和您的关注教育非常感兴趣。因为上世纪60年代和70年代我接触到绝对可怕的计算机系统中,试图帮助我学习的孩子,我肯定,任何的成功,我已经在生活中是因为我忽略了这些系统和没“T使用它们。但我还是很幸运地在一个非常好的学校,有学习非常,其他选项。告诉我有关的社会需要从软件教育帮助和AI系统。然后,也许你是如何接近它一点点。而你所看到的,因为大的机会?

艾玛brunskill: 绝对。所以我的意思是,为什么我感兴趣的是教育的原因之一是我认为这是我们扶贫最大的工具之一。我认为这是我们多次看到的可能会导致跨他们的生活中,人们长期真是惊人的好处的事情之一。我想现在,越来越重要的实际艾自动化,我们就要有技巧,方法来重新技能人民和排序的一段时间了技能。所以我们要需要终身教育。

拉斯·奥尔特曼: 例如,在因自动化作业的转变就是你看到的。

艾玛brunskill: 究竟。

拉斯·奥尔特曼: 好的。

艾玛brunskill: 是啊所以随着时间的推移,我认为我们从排序的k通过75是经历12到k。

拉斯·奥尔特曼: 但我认为的巨大挑战之一,现在,是什么,是一个冲击,我当我第一次知道它。是有世界的许多地方,人们没有获得良好的教育。并且它只有相对最近,在过去10,20,30年来,每个人都有那种小学教育。我认为,因为在其他冲突问题,有很多的时候,人们没有获得优质教育。

艾玛brunskill: 是的是的。

拉斯·奥尔特曼: 因此那些身在何处,我认为该软件可令人惊讶的地方。软件可以无限复制的,每个人都可以使用它。如果我们开始变得是有效的工具,我们可以传播的,让更多的人学习。

艾玛brunskill: 现在你的目标,所以这是非常合情合理的。因为,你的目标是特别成熟的机会,成熟与大规模的教育机会领域。我不知道,如果你想用学习的单词自动化或传播。那么什么是主题,世界需要能够来了解这些AI系统也许能够帮助?

艾玛brunskill: 嗯,我认为有很多不同的人,而我认为这是非常有趣的,看看如何在教育和排序数据的科学,教育数据科学界的人都在思考不只是那种典型的硬技能,如学习数学,但也软技能,如砂粒,或激励,或持久性。我可以举一个具体的例子,有一两件事是我们看着是分数的学习,很多与分数的人的斗争。

Some people might be familiar with “A&W” it’s a fast food chain. In the 1980’s, they were gonna launch the third pounder. It was supposed to be a competition with a quarter pounder. And so they did taste tests, the beefs tasted great, they thought this was gonna be awesome. It was the same price as a quarter pounder. And they launched it, and it flopped. And it was because everybody thought that a third pound was less than a quarter pound. And I think that illustrates that a lot of us d上’t —

拉斯·奥尔特曼: 哇。

艾玛brunskill: 分数是很难的。分数是棘手。它具有真正的意义,如果我们不理解这些东西。所以很多我自己的工作都想过,分数学习。

拉斯·奥尔特曼: 好的。

艾玛brunskill: 所以在我们的合作之一是佐兰·波波维奇,在华盛顿大学。我们认为我们如何可以创建这样一个教育游戏,它优化,以帮助人们持续更长的时间。让人们了解更多信息。那就是我们,用强化学习,以扩增的第一个地方之一。

拉斯·奥尔特曼: 使声音很大。这是一切的未来。我是罗素奥特曼。我跟医生说。艾玛brunskillCQ9电子游戏学习分数。什么是CQ9电子游戏让人们坚持自己的分数课的主要观点,这听起来像如果我在你说的话让我,他们坚持自己的分数课长一点,他们学到了更多一点点。是它的背轻拍?以及如何给电脑上回拍的?

艾玛brunskill: 良好的一件事有它介绍怎么做,我们大约需要所做的过去的决策及其结果,并找出我们应该在将来做什么信息这等核心问题。我们常称这种反事实的,或者什么,如果推理。如果不是听了这个播客,你就去叫了咖啡。如何更好地将有你的生活了?但是你不能知道对不对。你不能看到,替代的未来。但有统计的方法来尝试估计。所以我们使用其中的一些在这种情况下采取的旧数据,来自各地的10000名学生,找出更好的途径。更好的适应性途径的学生。和伟大的事情是,我们可以通过更适应使用这些类型的机器学习的统计方法来估计,我们可以提高30%的持久性。然后我们跑了另一个2000名新学生了研究,并发现,事实上,我们提高30%的持久性。

这是显著的原因是两件事情,一个是机器学习能真正的帮助,有我们可以大大优化,与过去相比排序专家般的性能的情况下。然后其他的是,我们可以预测在此之前,我们部署它。我们排序预测未来的。我们说,“你部署该系统之前,我可以告诉你如何更好地它会是。”

拉斯·奥尔特曼: 所以这是有趣的。所以在这种情况下,你有没有和以前的学生足够的经验,你不只是被动的看样东西通过软件或通过他们的问题是赛道的,但实际上你推断,你可以修剪在某种程度上他们的道路。也许他们做了一些错误的开始,它听起来就像你能够认识到这些错误的开始,并说,“如果我们避免我们也许能够让他们到他们的目标快一点点这条道路。”我的意思是,一个公平的方式?

艾玛brunskill: 是的,我只想说,让我们在这里正在做的是决定做什么活动,给学生后,他们完成每一个。这是一个系列排序这些视频游戏活动的,问题是,“你给什么样的顺序他们的学生,在某种程度上这是适应?”这取决于他们如何做,最大限度地提高持久性。而我们在那里发现的是,通过一种拼接在一起不同的民族,也许你做活动一,二,我做活动一三,我们可以找出其中哪些是更好地为学生将来。

拉斯·奥尔特曼: 是。然后,怎么同学们应对这些系统?但他们必须清楚进取的,因此,必须有一定的,再次内部奖励制度。有什么样的,是该系统也回报他们以某种方式,除获取技能的其他?

艾玛brunskill: 我认为这是一个非常有趣的问题。有一件事我们发现,在此系统中,但其他系统的相关信息暴露给学生自己的学习经常本身确实是富有成效的。所以有时会出现类似的事情技能条或其他可视化这让人们知道,他们正在取得进展。

拉斯·奥尔特曼: 是。

艾玛brunskill: 一件事,你先前提到的,我们很多人觉得很激励观察进展情况,并觉得我们学习自己。和暴露,早学习者本身可以是非常强大的。

拉斯·奥尔特曼: 因此,当将这些系统可用?有没有从实验室到部署的路径?我敢肯定,你想想,因为你的工作是由现实世界的问题的动机。又有什么路径是什么样子?

艾玛brunskill: 我认为它变化。我认为有一件事是,仍然有很多种类的基本问题,以得到正确的。我们已经开始在自己的实验室里做的事情之一,就是接触到新的潜在合作伙伴,想想如何将这些类型的想法可以在真正的大系统中。之类的东西MOOC的和其他的东西大量的开放式在线课程。

拉斯·奥尔特曼: 谢谢。

艾玛brunskill: 是的。

拉斯·奥尔特曼: 感谢您定义您的缩写。

艾玛brunskill: 我们是,现在大多数的使用仍然教学往往非常传统的方式。讲课,然后让人们做活动。有正常的不是很多适应性或个性化的,所以我觉得这些类型的技术可以结合使用。

拉斯·奥尔特曼: 这是, 未来的一切。 我是拉斯·奥尔特曼,多与医生。CQ9电子游戏强化学习,教育和其他AI艾玛brunskill对获取知识和技能的方法。接下来就SIRIUS XM的见解121。

欢迎回, 未来的一切。 我是拉斯·奥尔特曼。我跟医生说。艾玛brunskillCQ9电子游戏学习,机器学习和强化学习;特别是在教育我们的最后一段的上下文。现在我想移动到医疗保健。所以这是另一个领域,我知道你感兴趣的,当然是近,亲爱的我的心脏。什么是机会,和挑战,成就为这些类型的学习医疗方法?

艾玛brunskill: 是啊,这样的事情我是说前一个是,有一件事我们这个教育体系做的是尽量利用收集旧数据和结果,并试图推断出我们应该在这个未来做。这种如果有什么理由的。我认为,医疗记录是这样的一个巨大的机会。我们已经看到了人工智能和机器学习被应用至今医疗保健的方式,主要是在预测措施方面。预测诊断或者类似的东西。但对我来说真正的机会之一是只是说,“我们一直在做治疗决策,提出建议。”我们可以找出他们是否有些地方有某种艾为副驾驶,我们可以做出更好的决策。

所以我们正在尝试使用相似类型的统计方法来找出我们如何排序使用正在由医生或医疗服务提供者,并推断做出的决定顺序的,如果我们能找到的东西,可以帮助他们做出更好的决策。你可以在某些情况下,特别是想象,他们是可能是某种非常微妙的趋势是机器学习系统往往是在揭露很好。而这可能是非常有益的。

拉斯·奥尔特曼: 刚进去,你有很多的分数学习者和通过分数学习他们的道路的例子这种情况下,回到我们的分数的讨论。然后,你有你的新学员,你说,即使,你有他们如何能够通过拼接在一起学习一个非常好的主意。所以我可以采取锁,股票和桶,现在将其传送到您通过医疗体系有很多病人轨迹的医生,而且我们也许能够帮助得到好的结果更快,由经验拼接在一起其他患者创造一个全新的体验。就是它…

艾玛brunskill: 这是完全正确的想法。因此,例如有一件事我们最近在看是肝素凝血方面用药的人,问题是我们可以找出在那里趋势这将使我们能够进行排序,无论是学习,因为同类型的决策策略什么医生做的或潜在的甚至更好。我认为一件事是一个大的,开放的和技术的挑战在做这个的是,当我们试图使用这些算法我们经常要访问所有的功能,人们可能会使用作出这些决定。这样,在级分游戏的情况下,决定正由一个算法制成。

拉斯·奥尔特曼: 对。

艾玛brunskill: 所以我们知道的所有功能。如果决策是由人做,无论是临床医生还是真人教师,有可能是各种细微的东西,不在数据,这是对这些决定真的很重要。

拉斯·奥尔特曼: 他们可能没有记录的,主要因素在他们的决定。例如,我的意思是作为一个医生我知道我有时会开不同的药基础上,如果它是一个不同的人,每天一次或一天两次。这是非常难以接受药物每日四次,因此,如果我有两个工作,孩子们一个非常困难的生活,那么四周一天的时间药物的患者,甚至是更好的可能不是补种更好,因为他们不会能够把它。所以,我们就去了每天一次的药物。与这些类型的,我很少会文件证明。

艾玛brunskill: 权,即排序功能的是,如果有人排序明确的口头,他们是超级,超级忙,这些信息可能不会被放置在电子病历系统。但如果我们想算法能够开发新的决定的政策,我们可以可靠地预测,我们将如何在未来做这种信息是非常重要的。

拉斯·奥尔特曼: 你会发现你一起工作的医疗合作者,都开到系统的这些想法?你可以想像,他们会说,“哦,该系统是要去进行的第二个猜测我,我很忙,我并不需要有一个唠叨系统提醒我所有的事情我可以做了。”那么我们如何考虑在医疗保健将这些系统整合到非常复杂输送系统一样的人的方面?

艾玛brunskill: 我认为这是一个很大的问题,这就是为什么我喜欢与其他人合作,包括与我的同事们HCI像周杰伦blundae我认为原因之一 -

拉斯·奥尔特曼: HCI是人机交互。

艾玛brunskill: 谢谢你,是的。所以,我认为这些类型的专家认为真正深入思考,如何使那些真正有用的人使用的系统。

拉斯·奥尔特曼: 对。

艾玛brunskill: 而且他们的种种所出现,例如重要的问题,“什么是一组功能,我们应该写下来解释这些?哪些类型的实际限制?而我们如何让这些使最终当他们与人交往时,你会得到更好的结果?”因为这些系统不只是单独使用。

拉斯·奥尔特曼: 是的,不幸的人的人,我的意思是,在一个很好的方法,它在某种程度上简化,因为很多人会以类似的方式作出反应,即使在不同的情况下,以新技术,我们可以得到最佳做法。

但是,另一种东西是别人做的是他们担心,我想获得到在我们我们讨论的最后一部分,对公平,责任和安全问题。所以这些系统现在已经对我非常亲密的个人数据。他们知道,如果我是一个快速学习,或慢学习者,或者即使这是一个事。他们知道,如果我有麻烦的部分,如果它是在医疗保健,他们知道多少,我有一个坏的疾病,还是我是一个标准的病人和服用,这是我们使用它的抢了我的药的指示字太可怕了字。我敢肯定,你不用担心这些问题。你怎么接近他们?

艾玛brunskill: 是的,我认为他们是非常重要和关键的问题。他们也真的很重要的技术问题和我和许多人都在思考了很多CQ9电子游戏这些方面。现在有其实新的会议叫公平,问责制,并在机器学习的透明度,所以我觉得整个社会真的,采取这一问题非常重视。

我想,事情,我觉得一个是CQ9电子游戏我们如何让这些系统使得他们可以种被限制。所以,很多这些系统都试图做一些形式的优化。他们试图以优化学生的成绩或者他们试图帮助的人他们的治疗改善。但我们常常需要某种对他们的约束,有话说,“我们需要这些公平,我们需要为不同的子组男性与女性等等,我们必须是要针对不同的子组做的一样好算法“。我想到的令人兴奋的事情对我来说是,我们经常可以在数学上形成这一块,所以我们现在可以创建算法,不仅可以做到公平,但有时甚至可以减少实际上是存在于数据的偏差。

拉斯·奥尔特曼: 这是 未来的一切。 我是拉斯·奥尔特曼我与艾玛brunskill谈论公平这个很有意思的话题,甚至消除不公平。所以,是让我们说,你在两个你既为教育和医疗保健的例子做了,你就看着历史模式来预测的事情。但如果例如发生了什么,在那些分数学习者如果是80%的男孩和20%的小女孩,那么也许当你暴露系​​统小女孩,他们没有得到缝合在一起的轨迹,他们应该。所以告诉我们,我敢肯定,这是非常技术性的,但你可以给我们什么公平算法可能会做,当数据,它的基础上,提高公平感,不是很公平吗?

艾玛brunskill: 是的,事情之一,我们已经做了,这常常是与我以前的博士后一起工作,菲尔·托马斯,就是思考我们怎么把限制进入系统,让你有几分此,稍微复杂的优化问题。和我们正在寻找两个,我们想说的是能提供这些情感系统,但我们想要的方式去做,让我们确保的安全的男性和女性,我还是不同的子群体。该系统不公平地在对方的成功惩罚一组。我认为这是我们经常思考的是我们就像好,我们不希望有男性比女性更精确的系统的东西。它不应该在那个点球男性更好的解决方案。我们可以把在数学上的约束。这使得它一点点更复杂的解决和计算量更大,但它是可能的。

拉斯·奥尔特曼: 所以,你用这个词的限制,你能和它听起来像它有一个非常技术性的意义。你可以给我们什么样的约束可能会倾向于更公平些例子吗?

艾玛brunskill: 是的,因此,例如想象,我们正在考虑更像是一个预测的任务,像预测的测试成绩表现什么的。我想,以确保准确的,我可以预测弯曲。比方说,我可以预言他们加上或减去一个点。我不想得到一个算法,能做到这一点是那么意味着我只能预测女性,加上或减去10分。或者说,我系统下,预测为女性。所以我们可以把在说:“你能不能过高地预测男性多说0.05的妇女相比。”或者我们就可以说,“在你不能过高地预测。”

拉斯·奥尔特曼: 啊,你也会这样也许接受一组不太精确的性能,以便使它在所有群体更公平吗?是那种可能发生的事情吗?

艾玛brunskill: 我认为这正是技术问题之一,我们试图回答是,“那是否意味着你稍微牺牲的一个表现,以确保它是跨大家一样好或有它的排序,就赢得了大家的情况下你刚刚结束了一个更好的解决方案。”

拉斯·奥尔特曼: 这样当然是第二种情况是容易的?

艾玛brunskill: 是。

拉斯·奥尔特曼: 但更难一个又一个,我敢肯定,将需要讨论和一些社会协议,是我们做的,以使其更加公平的一组牺牲性能。这里面的,我敢肯定,谁的人会说,“是的,绝对!”我敢肯定,还有谁还会有麻烦的人,然后就变成了非技术问题,而是非常重要的决定,社会必须作出。

艾玛brunskill: 是的,我认为最终这不应该是正在这些电话应该是社会的计算机科学家。并在指定,你不能对系统的一个组与另一个区别许多情况下,他们的规定。所以这是算法尊重已经被我们的社会做出这些决定的方式。

拉斯·奥尔特曼: 感谢您的收听, 未来的一切。 我是拉斯·奥尔特曼。如果您错过了这个情节,监听与SIRIUS XM的应用需求的任何时间。