俄媒：专家警告称人类未准备好与高级AI打交道
参考消息
2023-04-04 08:50:32
(相关资料图)
参考消息网4月4日报道据今日俄罗斯电视台网站4月1日报道，知名计算机科学家艾利泽·尤德考斯基说，人类还没有做好与更高级人工智能(AI)打交道的准备，地球上的每个人都可能因此灭亡。
尤德考斯基警告说，中止先进人工智能系统的研发并严惩违反禁令的行为，是使人类免于灭绝的唯一途径。
作为美国机器智能研究所联合创始人，尤德考斯基3月29日在《时代》周刊发表一篇观点性文章，解释了为什么他没有在请愿书上签字的原因。这一请愿书要求“所有人工智能实验室立即暂时中止高级人工智能培训”。这种培训有可能生成比GPT-4更强大的系统。GPT-4是开放人工智能研究中心(OpenAI)3月早些时候发布的一种多模式大型语言系统。
尤德考斯基辩称，由埃隆·马斯克和苹果的史蒂夫·沃兹尼亚克等人签名的请愿书“要求过少”，难以解决人工智能快速无序发展所带来的问题。
尤德考斯基写道：“在当前环境下发展超级人工智能最有可能带来的后果是，地球上的每个人都将灭亡。”
他认为，要与一个“既不关心人类，也不在意有知觉生命”的计算机系统打交道，人类需要“有精准的技术和准备，并具备新的科学远见”，人类目前尚不具备这些知识，而且在可预见的未来也不大可能具备。
尤德考斯基警告说：“一个足够聪明的人工智能不会长期存在于计算机中。”他解释说，现在已经有这种可能性，即通过电邮将脱氧核糖核酸(DNA)信息串发给实验室，进行蛋白质制造，进而使人工智能“能够建立人造生命形式或建立前端系统，直接制造后生物时代的分子”，并最终进入现实世界。
他说，必须立即在全世界无限期暂停新的大型人工智能训练。他强调：“这个禁令不能有任何例外，包括对政府和军队。”
尤德考斯基坚称，应该签署国际协议，对训练人工智能系统时使用的算力设定上限。
他还说，人工智能的威胁非常之大，因此，应该“在国际外交中明确规定，防止人工智能灭绝人类的优先等级应该高于阻止全面核战争”。
