首页 / 智能AI / 人工智能以及人们为什么应该害怕(Reith 讲座介绍)

人工智能以及人们为什么应该害怕(Reith 讲座介绍)

加州大学伯克利分校人类兼容人工智能中心的创始人 Stuart Russell 教授将在今年的 Reith Lectures 上发表演讲。

他的四场讲座,与人工智能共存,解决了比人类更强大的机器带来的生存威胁,并提供了前进的道路。

上个月,他与当时的 BBC 新闻技术记者 Rory Cellan-Jones 谈了会发生什么。

你是如何塑造讲座的?

我发给他们的初稿过于尖锐,过于关注人工智能的知识根源和理性的各种定义,以及它们是如何在历史和类似事物中出现的。

所以我重新调整了——我们有一场讲座,介绍了人工智能和未来的好坏前景。

然后,第四个将是:“好吧,这就是我们将来如何避免失去对 AI 系统的控制。”

你有一个公式,一个定义,什么是人工智能?

是的,机器会感知并采取行动,并希望选择能够实现其目标的行动。

你读到的所有这些其他东西,比如深度学习等等,它们都只是其中的特例。

但是洗碗机不符合这个定义吗?

这是一个连续体。

恒温器感知并采取行动,从某种意义上说,他们有一个小规则说:“如果温度低于这个,打开暖气。

“如果温度高于这个,关掉暖气。”

所以这是一个微不足道的程序,它是一个完全由一个人编写的程序,所以没有涉及学习。

一直到另一端 – 你有自动驾驶汽车,那里的决策要复杂得多,要实现这种质量的决策需要进行大量的学习。

但没有硬性规定。

我们不能说低于此值的任何内容都不算为 AI,而高于此值的任何内容都算数。

那么AI的归宿是什么?

如果你看看这个领域的创始人所说的他们的目标是通用人工智能,这意味着它不是一个真正擅长下围棋的程序或一个非常擅长机器翻译的程序,而是可以做人类几乎任何事情的程序可以做,而且可能还有更多,因为机器比人类具有巨大的带宽和内存优势。

就说我们需要一所新学校。

机器人会出现。

机器人卡车、建筑机器人、建筑管理软件会知道如何建造它,知道如何获得许可证,知道如何与学区和校长交谈以找出适合学校的正确设计等等- 一周后,你有一所学校。

就这段旅程而言,我们在哪里?

我会说我们是一个相当不错的方式。

显然,仍有一些重大突破需要实现。

我认为最大的问题是复杂的决策。

因此,如果您考虑建立一所学校的示例 – 我们如何从我们想要一所学校的目标开始,然后进行所有对话,然后进行所有建设,人类是如何做到的?

嗯,人类有能力在多个抽象尺度上思考。

所以我们可能会说:“好吧,我们首先需要弄清楚我们要把它放在哪里。它应该有多大?”

我们不会开始考虑应该先移动左手指还是先移动右脚,我们专注于需要做出的高层决策。

你已经描绘了一幅图,表明人工智能取得了相当大的进步——但并不像它想象的那么多。然而,我们是否处于极端危险的时刻?

我想是的,是的。

关于为什么我们应该注意,有两种争论。

一是即使我们现在的算法远不及人类的一般能力,但当你有数十亿个算法在运行时,它们仍然可以对世界产生非常大的影响。

另一个令人担忧的原因是,在我们有生之年或在我们孩子的有生之年,我们完全有可能拥有通用人工智能——而且大多数专家认为很有可能。

我认为,如果通用人工智能是在当前超级大国竞争的背景下创建的——你知道,谁统治了人工智能就统治了世界,那种心态——那么我认为结果可能是最糟糕的。

您希望对这些讲座的反应是什么——人们会害怕、受到鼓舞、决心看到这项技术的前进道路?

以上所有 – 我认为有点恐惧是合适的,而不是当你明天早上起床并认为我的笔记本电脑会杀死我或其他什么时的恐惧,但考虑到未来 – 我会说同样的恐惧我们有关于气候的,或者更确切地说,我们应该有关于气候的。

我想有些人只是说:“嗯,今天看起来不错”,他们没有考虑更长的时间范围或更广阔的前景。

我认为有点恐惧是必要的,因为这就是让你现在采取行动的原因,而不是在为时已晚时采取行动,事实上,这就是我们对气候所做的。

本文来自网络,不代表本地资讯门户立场,转载请注明出处:https://www.gamecheng.com/ai/3206.html

雯华作者

上一篇
下一篇

为您推荐

发表评论

您的电子邮箱地址不会被公开。

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

手机访问
手机扫一扫打开网站

手机扫一扫打开网站

返回顶部