美国有线电视新闻网)- - -
周二，当计算机科学家杰弗里·辛顿（Geoffrey Hinton）因在机器学习方面的研究而获得诺贝尔物理学奖时，他立即对他的研究帮助推动的技术——人工智能——的力量发出了警告。
“这将与工业革命相提并论，”他在宣布之后说。“但它不是在体力上超越人类，而是在智力上超越人类。我们没有经历过比我们聪明的东西是什么感觉。”
因警告人工智能的潜在危险而退出谷歌的辛顿被称为该技术的教父。现在隶属于多伦多大学，他与普林斯顿大学教授约翰·霍普菲尔德（John Hopfield）分享了该奖项，以“表彰通过人工神经网络实现机器学习的基础发现和发明”。
尽管辛顿承认人工智能可以使社会的某些方面变得更好——例如，在医疗保健等领域导致“生产力的巨大提高”——但他也强调了“一些可能的不良后果，特别是这些事情失控的威胁”的可能性。
他说：“我担心，这种情况的总体后果可能是，比我们更智能的系统最终会掌控一切。”
辛顿并不是第一个对他帮助开创的这项技术的风险提出警告的诺贝尔奖得主。以下是其他对自己的工作发出类似警告的人。
1935年诺贝尔化学奖由弗雷德里克·约里奥和艾琳·约里奥-居里夫妇（获奖者玛丽·居里和皮埃尔·居里的女儿）共同获得，因为他们发现了第一个人工制造的放射性原子。这项工作为医学的重大进步做出了贡献，包括癌症治疗，但也为原子弹的发明做出了贡献。
在那一年的诺贝尔奖演讲中，约里奥特最后警告说，未来的科学家将“能够带来爆炸性的、真正的化学链式反应的嬗变”。
他说：“如果这种嬗变确实成功地在物质中传播，可以想象，可用能量的巨大解放。”“但是，不幸的是，如果这种传染病蔓延到我们星球上的所有元素，那么避免这种灾难的后果只能令人担忧。”
尽管如此，约里奥特预测，“（未来的）调查人员无疑会在采取必要的预防措施的同时试图实现这一过程。”
1945年，亚历山大·弗莱明爵士与恩斯特·钱恩和爱德华·弗洛里爵士共同获得诺贝尔医学奖，以表彰他发现青霉素并将其用于治疗细菌感染。
弗莱明在1928年做出了最初的发现，到1945年他发表诺贝尔奖演讲时，他已经向世界发出了一个重要警告：“在实验室里，通过将微生物暴露在不足以杀死它们的浓度中，使它们对青霉素产生抗药性并不困难，同样的事情偶尔会在体内发生，”他说。
“也许有一天，任何人都可以在商店里买到青霉素，”他接着说。“还有一种危险是，无知的人很容易服用剂量不足的药物，并将他的微生物暴露在非致死量的药物中，使它们产生抗药性。”
费城儿童医院（Children's Hospital of Philadelphia）的传染病医生、抗菌药物管理项目（Antimicrobial Stewardship Program）的医学主任杰弗里·格伯（Jeffrey Gerber）博士说，这是“多年前一个如此重要和有先见之明的想法”。
据世界卫生组织称，在弗莱明最初发现抗菌素耐药性近一个世纪后，抗菌素耐药性——细菌等病原体对治疗药物的耐药性——被认为是全球公共卫生面临的最大威胁之一，仅在2019年就造成127万人死亡。
弗莱明警告的关键部分可能是抗生素的过度广泛使用，而不是低剂量的想法。
“更多的时候，人们被给予完全不必要的抗生素，”格伯在一封电子邮件中告诉CNN。而且“越来越多的时候，我们看到细菌对几乎所有（有时是所有）抗生素都有抗药性。”
保罗·伯格（Paul Berg）因开发重组DNA而获得1980年诺贝尔化学奖，这项技术帮助启动了生物技术产业。他没有像其他一些获奖者那样，对自己研究的潜在风险发出严厉警告。
但他也承认，人们对基因工程可能导致的后果感到担忧，包括生物战、转基因食品和基因疗法。基因疗法是一种用正常功能的基因替换导致疾病的缺陷基因的医学形式。
在他1980年的诺贝尔奖演讲中，伯格特别关注基因治疗，他说这种方法“有很多陷阱和未知，其中包括关于任何特定遗传疾病的可行性和可取性的问题，更不用说风险了。”
“在我看来，”他继续说，“如果我们要沿着这条路走下去，我们就需要更详细地了解人类基因是如何组织的，它们是如何运作和调节的。”
在几十年后的一次采访中，伯格指出，他和该领域的其他科学家在1975年的一次名为阿西洛马（Asilomar）的会议上，已经公开承认了这项技术的潜在危险，并开始研究护栏。
根据诺贝尔奖网站上的文字记录，他在2001年对科学作家乔安娜·罗斯（Joanna Rose）说：“对重组DNA或基因工程的担忧来自科学家，所以这是一个非常关键的事实。”
伯格说，通过公开承认风险和检查风险的必要性，“我们获得了大量的公众钦佩和宽容，因此我们被允许真正开始处理如何防止我们的工作产生任何危险的问题。”
他说，到2001年，“已经完成的经验和实验表明，我们最初认为可能实现的担忧，实际上并不存在。”
现在，基因疗法是一个不断发展的医学领域，已经被批准用于治疗镰状细胞病、肌肉萎缩症和一些遗传性失明，尽管它还没有被广泛应用，因为它仍然很复杂，而且非常昂贵。早在1999年，这项技术导致17岁的临床试验参与者杰西·盖尔辛格（Jesse Gelsinger）死亡，引发了有关这项研究如何进行的伦理问题，并减缓了该领域的工作。
尽管伯格自己也提出了担忧，但他在1980年的诺贝尔奖演讲中还是呼吁人们保持乐观，并“需要继续前进”。
他说：“重组DNA的突破为我们提供了一种新的、强有力的方法来解决几个世纪以来一直困扰着人类的问题。”“就我个人而言，我不会在这种挑战面前退缩。”
四年前，Jennifer Doudna和Emmanuelle Charpentier共同获得了诺贝尔化学奖，因为他们开发了一种名为CRISPR-Cas9的基因组编辑方法。
在她的演讲中，杜德纳详细介绍了该技术在公共卫生、农业和生物医学领域的“非凡和令人兴奋的机会”。
但她特别指出，在应用于人类生殖细胞时，工作必须进行得更加小心，因为生殖细胞的遗传变化会传给后代，而体细胞的任何遗传变化都仅限于个体。
杜德纳说：“遗传性使生殖细胞的基因组编辑成为一个非常强大的工具，例如，当我们考虑在植物中使用它或用它来创建更好的人类疾病动物模型时。”“当我们考虑到在人类中使用生殖细胞编辑的可能性所带来的巨大伦理和社会问题时，情况就大不相同了。”
杜德纳是创新基因组学研究所的创始人，她本周告诉CNN，她认为“科学家对他们的发现可能被滥用的适当警告是一项重要的责任和有益的公共服务，特别是当这项工作具有广泛的社会影响时。”
她说：“我们这些最了解CRISPR科学的人都知道，它是一种强大的工具，可以积极地改变我们的健康和世界，但也有可能被恶意利用。”“我们已经看到了核能等其他变革性技术的双重用途能力，现在又看到了人工智能。”
CNN的克里斯蒂安·爱德华兹和凯蒂·亨特对此报道也有贡献。
