侯树文 科技日报记者 王春

在未来，人工智能的智慧会超越人类的智慧，当那个时刻到来，人们也称之为奇点，或者叫科技奇点。今后会不会出现 “技术奇点”？

在11月1日线上举行的世界顶尖科学家国际协作论坛II：科技发展与前瞻治理上，2013年沃尔夫物理学奖得主伊格纳西奥•西拉克教授认为，目前，这个奇点的出现会更加接近科幻小说而非现实世界，但技术奇点肯定会出现在人工智能非常发达的时代，发达到机器可以在方方面面取代人类心智的程度。

“如果机器也能像人类一样收集信息，至少在理论上，人类能做到的，机器也能做到。到那时，机器就可能取代科学家，也能超越人类。当然，这个时间可能会很长。”伊格纳西奥•西拉克说。

这不仅仅是科学界的一个风险，也将是地球和人类面临的巨大风险，亟需科学的管理方式和前瞻性的治理理念对其进行科学、合规、有序的管理与引导。

论坛上，包括伊格纳西奥•西拉克在内的三位顶尖科学家都认为，科技发展对社会的影响具有两面性，颠覆性技术极大地加速了社会经济的发展，同时也在以潜入和替代的方式从根本上颠覆传统（主流）技术，并引发相应规则和格局的变革，影响重大。因此，在积极鼓励颠覆性技术创新的同时，亟需进行规范和治理，真正做到用科学技术为人类社会生活、生命健康谋福利。

在当今社会，生物科学技术和医学上有任何的新突破、新发现，都会影响着人类与社会发展的步伐。1988年诺贝尔化学奖得主罗伯特•胡贝尔教授从事结构生物学研究工作60多年，他以自己的科研经历向人们介绍了科学技术带来的变革。

第一个是超分辨率技术如显微镜、核磁共振显像、x射线晶体衍射等，这些新技术改变了我们看待生物学的方式，尤其在医学诊断领域；第二个事例是生物结晶领域，20世纪60年代早期增长非常缓慢，20多年后呈指数级增长，膜蛋白也是如此，这都要归功于技术的进步。

2020年邵逸夫生命科学和医学奖得主吉罗•麦森伯克教授是第一个通过基因改造神经细胞的科学家。他分享了近50年重组DNA技术的安全风险引起了民众的担忧，以及科学家采取的措施。

“在20世纪60年代末分离出第一个基因后，大家就呼吁就基因进步加速的社会和伦理层面进行对话，随后人们开始关注致癌病毒的传染性，但真正点燃激烈争论导火索的是分子生物学家，因为对于每一个有能力的分子生物学家来说，在物种之间传递基因信息是很容易的，尽管只是假设，但这些风险在理论上是存在的，这导致了许多科学家自愿暂这项被认为具有潜在危险的实验。”

三位科学家一致认为，在构建治理体系中，除了科研机构的自我约束、加强国际协作、政府机构起到监督协调作用外，最关键是要制定一套规则和体系，设立一个由科学家和有科学素养的公众成员组成的独立机构，比如技术评估机构，它不仅仅是对科学质量，还对如何管理技术成果，如何使技术成果商业化，以及如何确定获取途径，提供独立的建议和报告。

（主办方供图）