在未來，機器取代科學家這樣的“技術奇點”是否會出現(xiàn)？

“目前，這個奇點的出現(xiàn)會更接近于科幻小說，而不是現(xiàn)實世界。但技術奇點肯定會出現(xiàn)在人工智能非常發(fā)達的時代，發(fā)達到機器可以在方方面面取代人類心智的程度?！?013年沃爾夫物理學獎得主伊格納西奧·西拉克（Ignacio Cirac）在第四屆世界頂尖科學家論壇上做出如上預測。

這不僅是科學界的一個風險，也將是地球和人類面臨的巨大風險。因此，在積極鼓勵顛覆性技術創(chuàng)新的同時，亟須科學的管理方式和前瞻性的治理理念對其進行科學、合規(guī)、有序的管理與引導。

11月1日，在世界頂尖科學家國際協(xié)作論壇II：科技發(fā)展與前瞻治理上，西拉克和1988年諾貝爾化學獎得主羅伯特?胡貝爾（Robert Huber）、2020年邵逸夫生命科學和醫(yī)學獎的得主吉羅?麥森伯克（Gero Miesenboeck）以及上海交通大學物理與天文學院長特聘教授、博導金賢敏等頂尖科學家聚焦顛覆性技術創(chuàng)新的特性，探討如何構建科學的、具備前瞻性的治理體系，并就具體的治理程序制定提出合理建議。

伊格納西奧?西拉克

伊格納西奧?西拉克現(xiàn)任德國馬克斯?普朗克量子光學研究所主任。他指出，科學技術的顛覆一直存在于我們?nèi)祟惿鐣校踔量梢宰匪莸角嚆~時代。相比之前的科技顛覆，一方面，現(xiàn)在科技顛覆發(fā)生的速度太快，人類很難趕上并且認識所有的顛覆；另一方面，現(xiàn)在的科技顛覆具有不均衡性和挑戰(zhàn)性，主要體現(xiàn)在如何將技術傳遞給第三世界和不發(fā)達國家。

對于技術奇點的問題，西拉克認為技術奇點的出現(xiàn)與人工智能的發(fā)展息息相關。

“有人會說，人類的靈感是無可取代的。這是因為人類接收了大量信息，在處理這些信息后，形成了某種特定方式作出反應。如果機器也能像人類這樣收集信息，那么至少在理論上，人類能做到的，機器也能做到。”西拉克解釋道，“到那時，機器就可能取代科學家，也能超越人類。當然，這個時間可能會很長，目前科學家們預計可能會在未來1000年后會出現(xiàn)?！?/p>

羅伯特?胡貝爾

在當今社會，生物科學技術和醫(yī)學上有任何的新突破、新發(fā)現(xiàn)，都會影響著人類與社會發(fā)展的步伐。羅伯特?胡貝爾出生于1937年，從事結構生物學研究工作60多年，幾乎包攬了生命科學和醫(yī)學領域的各種大獎，他以自己的科研經(jīng)歷向人們介紹了科學技術帶來的變革。因“確定了光合作用反應中心的三維結構”，獲得了 1988 年諾貝爾化學獎。

第一個是超分辨率技術如顯微鏡、核磁共振顯像、x射線晶體衍射等，這些新技術改變了我們看待生物學的方式，尤其在醫(yī)學診斷領域；第二個事例是生物結晶領域，20世紀60年代早期增長非常緩慢，20多年后呈指數(shù)級增長，膜蛋白也是如此，這都要歸功于技術的進步。

吉羅?麥森伯克

吉羅?麥森伯克是神經(jīng)學科學家，是光遺傳學的創(chuàng)始人，也是第一個通過基因改造神經(jīng)細胞的科學家。他分享了近50年重組DNA技術的安全風險引起了民眾的擔憂，以及科學家采取的措施。

“在20世紀60年代末分離出第一個基因后，大家就呼吁就基因進步加速的社會倫理層面進行對話，隨后人們開始關注致癌病毒的傳染性，但真正點燃激烈爭論導火索的是分子生物學家?！丙溕苏f道，“因為對于每一個有能力的分子生物學家來說，在物種之間傳遞基因信息是很容易的。盡管只是假設，但這些風險在理論上是存在的，這導致了許多科學家自愿暫停這項被認為具有潛在危險的實驗?！?/p>

在論壇上，三位頂尖科學家都認為，科技發(fā)展對社會的影響具有兩面性，顛覆性技術極大地加速了社會經(jīng)濟的發(fā)展，同時也在以潛入和替代的方式從根本上顛覆傳統(tǒng)（主流）技術，并引發(fā)相應規(guī)則和格局的變革，影響重大。因此，在鼓勵顛覆性技術創(chuàng)新的同時，對科學技術進行合理有序的規(guī)范和治理，才是為人類社會生活、生命健康謀福利的最好方式。

他們一致認為，食物、能源、和平，和科學技術一樣，對人類的發(fā)展都十分重要，而音樂、藝術、文學等則從精神層面滿足人類的需求。在構建治理體系中，除了科研機構的自我約束、加強國際協(xié)作、政府機構起到監(jiān)督協(xié)調(diào)作用外，最關鍵是要制定一套規(guī)則和體系，設立一個由科學家和有科學素養(yǎng)的公眾成員組成的獨立機構。比如技術評估機構，它不僅僅是對科學質量進行評估，還對技術成果的管理、商業(yè)化、獲取途徑，提供獨立的建議和報告。