上周，埃隆·马斯克(Elon Musk)在加利福尼亚州法院起诉山姆·奥特曼(Sam Altman)和OpenAI，指控被告忘记了OpenAI的核心使命，即开发有用且无害的人工通用智能。自那以后，奥特曼开始支持自己负责任的人工智能，包括签署一封公开信，承诺开发人工智能“改善人们的生活”。

然而，批评者仍然不相信奥特曼表现出的责任感。自从去年生成式人工智能(genAI)迅速普及以来，这些批评者一直在警告说，不受约束和不受监管的人工智能发展的后果不仅会腐蚀人类社会，而且会对人类社会构成威胁。

IDC负责全球人工智能和自动化研究的集团副总裁Ritu Jyoti表示，奥特曼公开支持负责任开发的举动只不过是一种欺骗。

她说:“虽然业界一致认为，负责任地开发和部署人工智能是集体责任，但这封信没有提出所需的具体行动。”“所以，在我看来，没有多少附加值。”

奥特曼还签署了一封信，承认人工智能有改变世界的风险，但批评者继续认为，解决这些风险的努力的自我监管性质是不够的。

关键在于行业未能解决校准问题，当人工智能工具开始开发超出其设计规范的行为时，就会出现校准问题。令人担忧的是，最先进的人工智能实例可能会自我迭代——这是一种严重的风险，可能会以人类不希望的方式发展。

“问题是，如果一个系统比我们更聪明，我们能控制它吗?”Joep Meindertsma问道。他是一名荷兰开发者，也是PauseAI集团的创始人，该集团致力于减轻人工智能带来的风险。

Meindertsma举了一个像AutoGPT这样的系统的例子，它可以问自己问题，并创建自己的查询来完成复杂的研究任务，这种技术可能会被证明是高度破坏性的——而且是危险的。

他说:“在某个时候，有人会问那台电脑一些问题，涉及到将它传播到其他机器上是有用的。”“人们真的要求AutoGPT尝试接管世界。”

至于针对奥特曼和OpenAI的诉讼，迈因德茨玛说，马斯克可能有道理。他认为，最初创立OpenAI的全部意义在于引导人工智能朝着负责任的方向发展。在Altman和OpenAI的领导下，目前的高速发展速度已经超过了任何行业组织所创造的护栏。

因此，批评人士认为，不能相信该行业能够自我监管，政府必须介入，以避免潜在的灾难。Meindertsma说，已经展示的能力——比如GPT4自主入侵网站的能力——是极其危险的，缺乏监管加上基因人工智能的快速进化是一种生存威胁。

迈因德茨玛说:“我们应该像管理核材料一样管理它。”