失控的人工智能可能威胁人类？
一封由科技界一些知名人士签署的公开信正在引起全球关注和关于人工智能伦理的激烈讨论。
信中说，最近几个月，人工智能实验室在开发和部署更强大的数字思维的竞赛中失控，没有人，甚至他们的创造者，能够理解、预测或可靠地控制。
在题为“暂停巨型人工智能实验：一封公开信”的信中，签名者表示，由于担心“具有人类竞争智能的人工智能系统可能对社会和人类构成巨大风险”，他们呼吁“所有人工智能实验室立即暂停至少六个月，训练比GPT-4更强大的人工智能系统。
这封信由生命未来研究所出版，已成功吸引了超过15，500个签名，包括Space X&Twitter首席执行官埃隆马斯克，苹果联合创始人史蒂夫沃兹尼亚克和着名的人工智能研究员斯图尔特拉塞尔。
这封信被释放后立即引发了争议。一些批评者认为，这封信过于关注假设和长期风险，正如The Verge指出的那样，它不太可能对当前的人工智能研究环境产生任何影响。
然而，其他人坚持认为，人工智能工具已经引发了一些不容忽视的社会或道德问题，例如提供有偏见的回应、传播错误信息和影响消费者隐私。
对人工智能技术负面影响的担忧日益加剧，特别是随着ChatGPT的升级。例如，ChatGPT 使犯错的学生能够在学习成绩上作弊。据路透社报道，欧盟警察部队欧洲刑警组织警告说，该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。
就连ChatGPT的创建者Open AI也在一份声明中表示，在某些时候，“在开始训练未来的系统之前，获得独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新模型的计算的增长率。
那个“某个点”就是现在。
人工智能安全创业公司SaferAI的首席执行官Simeon Campos告诉《时代》杂志，他签署了这封信，因为不可能管理系统的风险，即使是这些系统的发明者也不确切知道它们是如何工作的，不知道它们有什么能力，也不知道如何限制它们的行为。
不可否认，人类从人工智能技术的进步中受益匪浅。但是，如果尖端技术对人类生存构成潜在和不可预测的风险，那么谁来承担这种毁灭性后果的责任呢？
这不仅关乎人工智能的创造者和开发者，还关乎地球上的每个人。
所以这封公开信并不完美，但它的写作精神是正确的。
“我们需要放慢速度，直到我们更好地了解后果，”纽约大学教授加里马库斯也签署了这封信，他告诉路透社。
我们需要在为时已晚之前更加重视有关人工智能的法规和法律。人类的未来应该由人类决定，而不是由人工智能系统决定。
