日前,超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信,他们在信中警告称,AI可能给人类带来灭绝风险。
这份公开信发布在非营利组织人工智能安全中心(Center for AI Safety)的网站上,签署者包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。
公开信的核心只有一段话:“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项。”这份公开信由超过 350 名从事人工智能工作的高管、研究人员和工程师签署,他们呼吁加强监管和管理,避免类似的问题出现。
自聊天机器人ChatGPT掀起AI热潮以来,对这项技术潜在风险的担忧持续增加。此次公开信引发了广泛关注和热议,也使得人们对 AI 技术的发展和应用有了更加深入的思考与探讨。
其实早在今年3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。
包括特斯拉CEO埃隆·马斯克在内的1000多名行业高管和专家签署公开信,呼吁在6个月内暂停高级AI的开发。马斯克等人在信中写道,高级AI可能会对社会和人类构成深远的风险。