1. 首頁 > 生活百科 > >

人工智能可能是我們未能與外星文明接觸的罪魁禍首

人工智能


人工智能可能是我們未能與外星文明接觸的罪魁禍首


那里有數量驚人的行星 。來源：美國國家航空航天局/詹姆斯·韋伯望遠鏡
據對話（邁克爾·加勒特）：在過去的幾年里，人工智能以驚人的速度發展 。一些科學家現在正在尋求人工超智能（ASI）的發展，這是一種人工智能，不僅會超越人類的智能，而且不會受到人類學習速度的限制 。
但是，如果這一里程碑不僅僅是一項了不起的成就呢？如果它也代表著所有文明發展中的一個巨大瓶頸，一個如此具有挑戰性以至于阻礙其長期生存的瓶頸 ， 該怎么辦？
這個想法是我最近發表在《宇航學報》上的一篇研究論文的核心 。人工智能會成為宇宙的“偉大過濾器”嗎？這是一個很難克服的門檻，它阻止了大多數生命進化成太空文明？
這一概念可能解釋了為什么搜尋地外智慧（SETI）尚未探測到銀河系其他地方先進技術文明的特征 。
大濾波器假說最終是費米悖論的一個解決方案 。這就質疑了為什么在一個幅員遼闊、古老到足以容納數十億顆潛在宜居行星的宇宙中，我們沒有發現任何外星文明的跡象 。該假說表明，在文明的進化時間表上存在著難以逾越的障礙，阻礙了它們發展成為太空實體 。
我相信ASI的出現可能就是這樣一個過濾器 。人工智能的快速發展 ， 可能導致ASI，可能與文明發展的一個關鍵階段相交——從單一行星物種向多行星物種的過渡 。
這是許多文明可能會動搖的地方 ， 人工智能的進步比我們控制它或可持續探索和填充太陽系的能力要快得多 。
人工智能，特別是ASI的挑戰在于其自主性、自我放大性和改進性 。在沒有人工智能的情況下 ， 它有可能以超過我們進化時間表的速度增強自己的能力 。
出現嚴重問題的可能性是巨大的，導致生物文明和人工智能文明在有機會成為多行星文明之前就已經衰落 。例如 ， 如果各國越來越依賴相互競爭的自主人工智能系統，并將權力移交給它們，那么軍事能力可能會被用來以前所未有的規模進行殺傷和摧毀 。這可能會導致我們整個文明的毀滅 ， 包括人工智能系統本身 。
在這種情況下，我估計一個技術文明的典型壽命可能不到100年 。這大約是從能夠在恒星之間接收和廣播信號（1960年）到估計ASI在地球上出現（2040年）之間的時間 。與數十億年的宇宙時間尺度相比，這段時間短得驚人 。
當將這一估計代入德雷克方程的樂觀版本中時——德雷克方程試圖估計銀河系中活躍的、可交流的外星文明的數量——表明，在任何給定的時間，只有少數智慧文明存在 。此外，和我們一樣 ， 它們相對溫和的技術活動可能會使它們很難被探測到 。
叫醒電話
這項研究不僅僅是一個潛在厄運的警示故事 。它為人類敲響了警鐘，要求建立強有力的監管框架來指導人工智能的發展 ， 包括軍事系統 。
這不僅僅是為了防止人工智能在地球上的惡意使用；這也是為了確保人工智能的進化與我們物種的長期生存相一致 。這表明，我們需要投入更多資源 ， 盡快成為一個多行星社會——自阿波羅計劃令人興奮的日子以來，這一目標一直處于休眠狀態，但最近私營公司的進步重新點燃了這一目標 。
正如歷史學家尤瓦爾·諾亞·哈拉里（Yuval Noah Harari）所指出的，歷史上沒有任何東西讓我們為將無意識、超智能實體引入我們的星球的影響做好準備 。最近，人工智能自主決策的影響導致該領域知名領導人呼吁暫停人工智能的發展，直到引入負責任的控制和監管形式 。
但是，即使每個國家都同意遵守嚴格的規則和條例 ， 流氓組織也很難控制 。
自主人工智能在軍事防御系統中的集成必須是一個特別值得關注的領域 。已經有證據表明，人類會自愿將重要權力交給能力越來越強的系統，因為它們可以在沒有人類干預的情況下更快、更有效地執行有用的任務 。因此，鑒于人工智能提供的戰略優勢，各國政府不愿在這一領域進行監管，正如最近在加沙發生的災難性事件所表明的那樣 。
這意味著我們已經危險地接近懸崖，自主武器超越道德界限，避開國際法 。在這樣一個世界里，為了獲得戰術優勢而將權力交給人工智能系統 ， 可能會無意中引發一系列迅速升級、極具破壞性的事件 。眨眼之間，我們星球的集體智慧就可能被抹殺 。
人類正處于其技術發展軌跡的關鍵時刻 。我們現在的行動可以決定我們是成為一個持久的星際文明 ， 還是屈服于我們自己創造的挑戰 。
利用SETI作為一個鏡頭，我們可以通過它來審視我們的未來發展 ， 這為關于人工智能未來的討論增加了一個新的維度 。我們所有人都有責任確保，當我們到達恒星時，我們這樣做并不是作為其他文明的警示故事，而是作為希望的燈塔——一個學會與人工智能共存的物種 。