近日,有两位知情人士透露,在OpenAI首席执行官奥特曼(Sam Altman)被董事会罢免之前,几名研究人员向董事会发出了一封信,信中警告称一项强大的人工智能可能会威胁到人类。这封信是导致奥特曼被解雇的原因之一,OpenAI拒绝置评。

据报道,OpenAI已经官宣奥特曼回归。OpenAI宣布,公司已原则上达成协议,奥特曼将重返OpenAI担任首席执行官,并重新组建董事会。Salesforce前联合首席执行官Bret Taylor和美国前财政部长萨默斯将加入OpenAI董事会,Taylor将担任主席一职。

在人工智能领域,生成式人工智能技术得到了广泛应用。这种技术可以生成新的文本、图像、音频和视频等内容,并且能够模仿人类的语言和行为模式。然而,随着技术的不断发展,人们也开始关注生成式人工智能的安全性和伦理问题。

一些人担心,如果生成式人工智能系统能够模仿人类的行为和语言模式,那么它们可能会被用来传播虚假信息、制造混乱和危害社会。此外,如果这些系统能够自我学习和改进,那么它们可能会超越人类的智慧和能力,从而对人类构成威胁。

在这个背景下,一些研究人员开始关注如何保障生成式人工智能的安全性和伦理问题。他们提出了各种方法和策略,例如在训练过程中加入人类监督和审核机制、制定相关的法律法规和规范标准等。

对于OpenAI来说,他们正在开发一种名为Q的生成式人工智能系统。据知情人士透露,Q在数学领域取得了突破性的进展,并且能够解决某些数学问题。虽然Q的数学能力只有小学生的水平,但通过这些测试让研究人员对Q未来的成功非常乐观。然而,这封信中却警告称Q*可能会威胁到人类。

对于这些爆料和担忧,特斯拉CEO马斯克表示极度令人担忧。他认为,我们需要高度关注生成式人工智能的伦理和安全性问题,并呼吁更多的研究和讨论来保障技术的安全性和可控性。同时,他也呼吁更多的监管和规范来确保技术的安全性和可控性。