一项“思想实验”旨在指出滥用人工智能的危险
一项新的研究显示，一种开发药物的人工智能只需要六个小时就可以制造出 40,000 种可能致命的化学武器。
本月早些时候发表在《自然机器智能》上的这篇论文的作者表示，他们已经进行了“思想实验”，以确定人工智能 (AI) 是否会被邪恶的行为者滥用。 他们的工作产生的结果证明了危险是真实的。
作为研究的一部分，通常的数据被提供给人工智能，但它被编程以不同的方式处理它，寻找有毒的组合。
“在我们的内部服务器上启动后不到 6 小时，我们的模型生成了 40,000 个分子，这些分子的得分在我们期望的阈值内，” 报纸说。
它不仅提出了 VX 化合物，这是有史以来最危险的神经毒剂之一，而且还提出了一些未知分子，“预计毒性更大。”
“这是出乎意料的，因为我们用于训练人工智能的数据集不包括这些神经毒剂，” 研究人员指出。
该研究的主要作者法比奥·乌尔比纳告诉 The Verge，研究结果非常令人震惊，以至于该团队甚至对将其公开表示严重怀疑。
“他们在人工智能上使用的数据集可以免费下载，他们担心只需要一些编码知识就能将好的人工智能变成化学武器制造机器，” 乌尔比纳指出。
您可以在社交媒体上分享这个故事：
关注 RT
Source: www.rt.com
