OpenAI悄悄更改“价值观”:不All in AGI的别来沾边

时事新闻2023-10-16 14:09:02无忧百科

OpenAI悄悄更改“价值观”:不All in AGI的别来沾边

金磊 发自 凹非寺
量子位 | 公众号 QbitAI

OpenAI,悄然更改了核心价值观(Core Values)。

曾经的它,在自家官方网站中列出的六大核心价值观是这样的:

Audacious(大胆)、Thoughtful(深思熟虑)、Unpretentious(谦逊)、Impact-driven(影响力驱动)、Collaborative(协作)、Growth-oriented(成长型)。



现如今,若是再浏览官网,其核心价值观已然发生了翻天覆地的变化。

不仅从“六大”缩减到了“五大”,就连内容都换掉了:

AGI focus(聚焦AGI)、Intense and scrappy(热切且斗志昂扬)、Scale(规模化)、Make something people love(做人们喜欢的事物)、Team spirit(团队精神)。



而且“AGI focus”赫然位列核心价值观之首:

We are committed to building safe, beneficial AGI that will have a massive positive impact on humanity’s future.
我们致力于建立安全、有益的AGI,这将对人类的未来产生巨大的积极影响。
Anything that doesn’t help with that is out of scope.
任何对此没有帮助的东西都不在讨论范围之内。

尤其是第二句,说得直白一些,就是“任何跟AGI无关的都别来沾边”。

其实早已有迹可循

OpenAI对AGI如此重视也并不意外。

毕竟CEO Sam Altman已经不止一次对AGI做过评价,例如他曾在官网博客中把AGI描述为:

通常比人类更聪明的系统。

但在后续的采访中,他将这个定义降级描述为:

相当于一个中等水平的人,你可以雇佣它作为同事。



△Sam Altman,由Midjourney生成

而且他在个人的 X(原推特)中,也经常谈及对AGI的想法:

构建AGI是一个科学问题。
构建超级人工智能是一个工程问题。



就连收到同事送的《塞尔达传说》游戏,在表示这款游戏害得他落下许多工作之后,也不忘提一句AGI:

AGI延迟4天。



不过对于OpenAI更改核心价值观这一行为,有人却觉得很不OK:

说改就改,这还是核心价值观吗?

但在OpenAI的发展历程中,类似这样的变化也并非第一次。

例如在最初2015年成立的时候,OpenAI还是一家非营利性研究实验室,本质上意味着构建好的AI来对抗坏的AI。

后来在慢慢的发展过程中,OpenAI却与“非营利性”逐渐背道而驰,这也导致马斯克等人的陆续退出。

至于OpenAI的使命和愿景,自2018年发布以来至今却没有变过,依旧是:

确保通用人工智能(AGI)造福全人类。

那么对于此次更改核心价值观这件事,你怎么看呢?

参考链接:
[1]https://futurism.com/the-byte/openai-core-values-agi
[2]https://www.semafor.com/article/10/12/2023/openai-quietly-changed-its-core-values
[3https://openai.com/careers

本文标签: 价值观  agi  人工智能  openai  埃隆_马斯克  

相关推荐

猜你喜欢

大家正在看