智源大会2023观后感:对AI更有信心,也更担心人类了
MIT人工智能与基础交互研究中心教授 Max Tegmark:以机械可解释性去掌控AI
Max Tegmark,现任麻省理工学院物理学终身教授、基础问题研究所科学主任、生命未来研究所创始人、大名鼎鼎的“暂停AI研究倡议的发起人”(3月底的那份倡议书上有伊隆·马斯克、图灵奖得主Yoshua Bengio、苹果联合创始人史蒂夫·沃兹尼亚克等1000+名人的联合签名),在智源大会上做了一个精彩的演讲,题目是《如何掌控AI》(Keeping AI under control),并与清华大学张亚勤院士进行了对话,共同探讨AI伦理安全和风险防范问题。
演讲详细讨论了AI的机械可解释性,这实际上是研究,人类知识究竟是如何储存在神经网络里那些复杂的连接关系里的。这个方向的研究如果持续下去,或许最终可以真正解释LLM大语言模型为什么会产生智能这个终极问题。
演讲之外,有趣的事实是,作为“暂停AI研究倡议”发起人,主题演讲却是关注如何进行一个更深入的AI大模型研究。也许正如Max自己最后所说, 他并非AI三巨头之一杨立昆教授所说的厄运者,他实际上对AI充满希望和向往,只是我们可以确保所有这些更强大的智能为我们服务,并用它来创造一个比科幻作家过去梦想的更鼓舞人心的未来。
注:本来以为会很枯燥,意外地非常精彩,津津有味地看完一个小时的最长演讲!不愧是经常讲课的教授,非常引人入胜,也非常有理论深度,而且深入浅出。更令人惊喜的是不仅不是古板的 AI 反对者,其实还是个更好的AI的倡导者!还会说中文,一边演讲还不忘一边给自己招生……
精彩观点摘录:
1、机械可解释性是一个非常有趣的领域。你训练一个你不理解的复杂神经网络来执行智能任务,然后尝试弄清楚它是如何做到的。
我们要这样如何做?您可以有三个不同层次的抱负。最低层次的抱负是仅对其可信度进行诊断,了解您应该信任它多少。例如,当您开车时,即使您不了解刹车的工作原理,您至少希望知道是否可以相信它会减速。
下一个层次的抱负是更好地理解它,以使其更加可信赖。最终的抱负是非常雄心勃勃的,这也是我期望的,那就是我们能够从机器学习系统中提取出它们学到的所有知识,并在其他系统中重新实现它们,以证明它们将按照我们的意愿行事。
2、让我们慢下来,让我们确保我们开发出更好的护栏。所以这封信说让我们暂停一下,前面提到过。我想说清楚,它并没有说我们应该暂停人工智能,它并没有说我们应该暂停几乎任何事情。到目前为止,我们在这次会议上听说过,我们应该继续做几乎所有你们都在做的精彩研究。它只是说我们应该暂停,暂停开发比GPT-4更强大的系统。所以这对一些西方公司来说主要是一个暂停。
现在,原因是这些正是系统,恰恰是可以使我们最快失去控制的系统,拥有我们还不够了解的超级强大的系统。暂停的目的只是让人工智能更像生物技术,在生物技术领域,你不能只说你是一家公司,嘿,我有一种新药,我发现了,明天开始在北京各大超市销售。首先你要说服中国政府或美国政府的专家,这是一种安全的药物,它的好处大于坏处,有一个审查过程,然后你就可以做到。
让我们不要犯那个错误,让我们变得更像生物技术,使用我们最强大的系统,不像福岛和切尔诺贝利。
3、张亚勤:好吧,Max,你的职业生涯是在数学、物理、神经科学,当然还有人工智能方面度过的。显然,在未来,我们将越来越依赖跨学科的能力和知识。我们有很多研究生,很多未来的年轻人。
在年轻人如何做出职业选择方面,您对他们有何建议?
Max Tegmark:首先,我的建议是在人工智能时代,专注于基础知识。因为经济和就业市场的变化会越来越快。因此,我们正在摆脱这种学习12年或20年,然后余生都做同样事情的模式。它不会是那样的。
更重要的是,你要有扎实的基础,并且非常善于创造性、思想开放的思维。这样才能身手敏捷,随波逐流。
当然,要关注整个人工智能领域正在发生的事情,而不仅仅是在你自己的领域。因为在就业市场上,首先会发生的事情不是人被机器取代。但不与人工智能打交道的人将被与人工智能打交道的人所取代。
我可以再添加一点吗?我看到时间在那里闪烁。
我只想说一些乐观的话。我觉得Yann LeCun是在取笑我。他称我为厄运者。但如果你看看我,其实我很开心很开朗。对于我们理解未来AI系统的能力,我实际上比Yann LeCun更乐观。我认为这是非常非常有希望的。
我认为,如果我们全速前进,将更多的控制权从人类手中交给我们不了解的机器,那将以非常糟糕的方式结束。但我们不必那样做。我认为,如果我们努力研究机械可解释性和今天将在这里听到的许多其他技术主题,我们实际上可以确保所有这些更强大的智能为我们服务,并用它来创造一个比科幻作家过去梦想的更鼓舞人心的未来。
- 币种
- 全球指数(¥)
- 24H涨幅12
-
BTC460334.803800
$65658.000000+0.10% -
ETH18726.507878
$2670.980000+0.23% -
USDT7.012980
$1.000268+0.01% -
USDC7.009698
$0.999800+0.00% -
BNB4205.257780
$599.800000-0.88% -
BUSD7.013203
$1.000300-0.01% -
XRP4.254335
$0.606800+2.81% -
ADA2.776396
$0.396000-2.92% -
SOL1091.417937
$155.670000-1.44% -
DOGE0.849465
$0.121160-1.74% -
DOT33.688336
$4.805000-1.97% -
DAI7.143610
$1.018900-0.02% -
TRX1.081813
$0.154300+0.04% -
SHIB0.000137
$0.000020+1.54% -
AVAX205.565452
$29.320000-1.41% -
WBTC458978.015728
$65464.480000+0.37% -
LEO41.218250
$5.878999+0.92% -
MATIC2.660011
$0.379400-2.64% -
UNI52.667383
$7.512000+2.07% -
FTT10.120523
$1.443500-0.19% -
LTC491.478110
$70.100000+1.76% -
CRO0.607907
$0.086706-0.22% -
LINK87.778972
$12.520000-1.92% -
XLM0.698306
$0.099600+0.81% -
NEAR37.789829
$5.390000-5.06% -
ATOM35.041478
$4.998000-3.54% -
XMR832.217570
$118.700000-1.91% -
ALGO0.991370
$0.141400-2.99% -
ETC142.535663
$20.330000-1.56% -
BCH2452.482780
$349.800000-3.01% -
VET0.182429
$0.026020-2.07% -
FLOW4.283782
$0.611000-3.46% -
ICP68.554536
$9.778000+2.07%