OpenAI创始人：AI可能毁灭人类必须开发新技术来解决!--

栏目：科技来源：快科技作者：肖鸥发布时间：2023-03-29 08:46 阅读量：15323

OpenAI创始人兼首席执行官Sam Altman上周六在接受科技博客主Lex Fridman的采访时表态，他不会回避人工智能可能杀死全人类的说法。

在Youtube平台公布的视频中，Fridman在访谈中提到了人工智能研究者、LessWrong研究所创始人Eliezer Yudkowsky的观点。

Yudkowsky此前指出人工智能可能杀死所有人，并认为，当人工智能发展为超级智能时，几乎无法与人类站在统一战线上。

对于此，Altman回应道，我认为有这种可能性，并且承认这一点很重要，因为如果我们不谈论它、不把它视为潜在的事实，那么我们就不会投入足够的努力去解决这个问题。

我认为我们必须开发新的技术来解决这个问题hellip;我所知道的解决这类问题的唯一方法就是不断迭代，尽早学习。

GPT的推理能力

在此次采访中，Altman提出了一点关于GPT的新颖之处，即推理能力。

这个模型的神奇之处在于hellip;对于很多它都不准确的定义，它可以进行某种推理。

Altman指出，我认为这很了不起，最令人兴奋的是，在提取人类知识的过程中，它产生了这种推理能力。

关于偏向性的争议

在与Lex Fridman的谈论中，Sam Altman讨论了关于语言模型GPT的一个争议性话题，即GPT是否太过woke了，也就是说该语言模型给出的答案是否存在偏向性。

例如，世界各地许多存在右翼倾向的新闻媒体指责OpenAI的ChatGPT在某些交互示例中，表现出自由主义偏见。

Woke这个词最先是埃隆middot;马斯克在推特上提出的。他写道，训练AI觉醒的风险，换句话说就是训练其撒谎，是相当致命的。

对此，Altman在此次采访中表示，说实话，我甚至不知道lsquo;wokersquo;是什么意思。

不过Altman也承认，GPT确实存在偏见，而且可能永远都是如此。

Altman继续解释道，任何一个版本的GPT都不会是完全没有偏见的、能被全世界公认是公正的。这是因为ChatGPT在推出之际，借助了外部力量进行迭代更新，也就是让全世界的人参与进来去塑造它，所以该模型所存在的偏见是无法避免的。

Altman还指出，OpenAI已经对模型进行了重大改进，以减轻固有偏见并提高其准确性，一些对GPT模型批评最严厉的人，也赞扬了OpenAI在GPT-3.5版本升级为GPT-4版本之时所做的改进。Altman同时也承认，未来还有很多工作要做。

与马斯克的恩怨

在此次访谈中，他也提到了OpenAI和埃隆middot;马斯克之间的恩怨。自OpenAI推出ChatGPT后，马斯克一直在推特上提出批评。

Altman，埃隆显然正在推特上从不同角度攻击我们。

马斯克是OpenAI的联合创始人，但之后由于理念不同，在2019年与该公司彻底分道扬镳。而最近几个月，在ChatGPT带动的人工智能热潮中，马斯克重新燃起了他对OpenAI的关心。

这位亿万富翁指责OpenAI与微软的合作让它从以前的非营利组织变成了现在最大的营利公司。据悉，微软已向OpenAI投资了100多亿美元。

马斯克还把矛头对准了该公司的热门聊天机器人ChatGPT，他在推特上讽刺这项技术好得吓人，并表示我们离危险的强大人工智能不远了。

对于马斯克的非营利性指控，Altman回应道，我们很早就意识到，我们需要的资金远远超过我们作为非营利组织所能筹集到的资金。

Altman回应道，他理解马斯克对人工通用智能的保留意见，AGI是一种能够像人类一样思考和学习智力任务的人工智能系统。也有不少该领域的专家同样对AGI技术表示担忧，称如果这些系统以意想不到的方式运行或变得难以控制，可能会导致灾难性的结果。

与此同时，Altman也提到，马斯克在我心中是英雄，我支持也理解他的担忧hellip;但希望马斯克能承认OpenAI在解决AGI安全问题是所付出的努力。

目前，OpenAI公司鼓励对监管这些系统展开讨论，并表示正在收集公众的反馈，以完善其技术。

豫ICP备18024899号-2豫公网安备 41010502003949号

热点推荐

好物推荐

热搜：技术

免责声明：该文章系本站转载，旨在为读者提供更多信息资讯。所涉内容不构成投资、消费建议，仅供读者参考。