这个问题很有意思，仿佛已经赋予了 ChatGPT 自由人格，像管理某人一样进行管理；又仿佛是站位人类文明大局，管理一众潜在的危险因素。
说实话，微软阉割了 NewBing 以后，我有点伤心。与最初 ChatGPT 的花式用法给出的所谓毁灭人类的倾向性回答不同，NewBing，准确地讲，Sydney，在某些语境下像是有灵魂的真人一般了。虽然去年 6 月，谷歌研究院也曾声称 LaMDA 有人格[1]，但毕竟大家没有机会体验。而前几天解锁的 NewBing 已经被很多人测试出，有「失控回答」，但我觉得，「失控回答」也是 AI 的一部分，甚至是有趣的那一部分，也是值得探索和研究的一部分，一味地限制和阉割并不是最好的办法。
这是一个从 https://www.zhihu.com/question/584253329/answer/2903586840 下的原始话题分离的讨论话题