面向模水電行仿智能的盤算體系

中國網/中國發展門戶網訊 人類進進年夜科學時代后,“模擬”作為“理論”“實驗”以外主要的補充技術手腕,成為科學研討的第3個支柱。從表現情勢看,科學研討可以被視為樹立模子(modeling)的過程。而模擬(simulation)則是所樹立的科學模子在計算機上的運行過程。最晚期的計算機模擬(computer simulation)可以追溯到第二次世界年夜戰之后,是專門針對核物理學和氣象學研討的一種開創性的科學東西。后來,在越來越多的學科中,計算機模擬變得愈發主要,并不斷衍生出計算和其他領域穿插的學科,如:計算物理、計算化學和計算生物學等學科。Weaver在1948年撰文指出:人類解決有序復雜問題并實現科學新飛躍,將重要依賴于計算機技術的發展和分歧學科佈景科學家的技術碰撞。一方面,計算機技術的發展使人類能夠解決復雜且難以處理的問題。另一方面,計算機技術能夠有用激發有序復雜性問題的新解決方式。這種新解決方式自己也恰是計算科學(computational science)的范疇之一,讓科學家有機會台北 水電 維修集中資源,將分歧領域的見解聚焦在配合問題上。這種見解聚焦的結果,促使分歧學科佈景的科學家們,構成比單一學科佈景科學家們更強年夜的“混雜團隊”;這樣的“混雜團隊”將有才能解決某些復雜性問題,并且得出有效的結論。總之,科學和建模緊密相關,模擬執行代表理論的模子,人們把科學研討中的計算機模擬稱為科學模擬(scientific simulation)。

今朝,還沒有任何針對“計算機模擬”的單必定義能夠恰當地描寫科學模擬的概念。american國防部將模擬定義為一種方式,即:“一種隨時間實現模子的方式”;進而,將計算機模擬定義為一種過程,即:“在計算機上執行代碼、把持和顯示接口硬件,并與現實世界設備進行接口交互的過程”。Winsberg把計算機模擬的定義又分為狹義和廣義范圍。

在狹義定義中,計算機模擬就是“在計算機上運過程序的過程”。計算機模擬應用步進方式來摸索數學模子的近似行為。模擬法式在計算機上的一次運行過程,代表了對目標系統的一次模擬。人們愿意用中山區 水電計“我兒子要去祁州。”裴毅對媽媽說。算機模擬方式求解問題,重要有以下2個緣由:原始模子自己包括離散方程;原始模子的演變更適適用“規則”,而不是“方程”來進行描寫。值得留意的是,這種狹義角度指代計算機模擬時,需求限制到特定處理器硬件上算法的實現、用特定編程語言編寫應用,以及核函數法式、應用特定編譯器等限制條件。在分歧應用問題的場景下,由于這些限制條件的變化,凡是會獲得分歧的機能結果。

在廣義定義中,可以把計算機模擬看作研討系統的一種綜合方式,是加倍完全的計算過程。該過程包含模子選擇、通過模子實現、算法輸出計算、結果數據可視化及研討。整個模擬的過程也可以與科學研討過程進行對應,如Lynch所描寫:提出一個經驗上可答覆的問題;從旨在答覆該問題的理論中推導出一個可證偽的假設;搜集(或發現)和剖析經驗數據以檢驗該假設;拒絕或未能拒絕該假設;將剖析結果與得出該問題的理論聯系起來。在過往,這種廣義的計算機模擬凡是出現在認識論或許方式論的理論場景中。

Winsberg進一個步驟將計算機模擬劃分為基于方程的模擬(equation-based simulation)和基于主體的模擬(agent-based simulation)。基于方程的模擬常用于物理等理論學科中。這些學科中普通存在主導性的理論,這些理論可以用來指導構建基于微分方程的數學模子。例如,基于方程的模擬可所以針對粒子的模擬,這種模擬凡是包括數量宏大的多個獨立粒子和一組描寫粒子之間彼此感化的微分方程。此外,基于方程的模擬也可所以基于場的模擬,凡是包括一組描寫連續介質或場的時間演變方程。基于主體的模擬往往遵守某種演變規則,是模擬社會和行為科學的最常見方法。例如, Schelling的隔離政策模子。盡管基于主體的模擬在必定水平上可以表現多個主體的行為,但與基于方程的粒子模擬分歧,這里沒有把持粒子運動的全局微分方程。

從計算機模擬的定義和分類中,可以看出人們對科學模擬分歧層次的希冀。從狹義的計算機模擬角度看,它已經成為理論剖析和實驗觀察等傳統認知方法的補充手腕。科學或工程領域無一破例是由計算機模擬推動的,在某些特定應用領域和場景下,甚至是由計算機模擬改變的。假如沒有計算機模擬,許多關鍵技術就無法被懂得、開發和應用。廣義的計算機模擬蘊含著一個哲學問題:計算機能否可以自立進行科學研討?科學研討的目標是認識世界,這意味著計算機法式必須創造新的知識。隨著人工智能技術研討及應用的新一輪爆發,人們對計算機自動地以“智能”方法進行科學研討充大安區 水電行滿了等待。值得一提的是,Kitano在2021年提出的“諾貝爾-圖靈挑戰”的新觀點——“到2050年,開發能夠自立執行研討任務的智能科學家,做出諾貝爾獎級別的嚴重科學發現”。該觀點觸及狹義和廣義的計算機模擬相關技術,但沒有圍繞廣義定義的“哲學問題”深刻探討,只是把其作為科學模擬的一個宏偉目標對待。

科學模擬的發展階段

從最直觀的視角來看,科學模擬的載體是計算機法式。從數學情勢上講,計算機法式是由可計算函數組成的,此中每個函數將無限輸進數據的離散集映射到無限輸出數據的離散集上。從水電行計算機技術上講,計算機法式等于算法加上數據結構。是以,科學模擬的實現需求以科學問題及其解決方法被情勢化抽象為條件。這里,本文借用Simon的觀點:科學家即問題“求解器”。在此觀點中,科學家給本身設定了嚴重科學問題,確定問題息爭決問題的戰略和技術是科學發現的本質。基于上述“求解器”的話語體系,本文類比求解方程的情勢,將科學模擬的發展劃分為3個階段,即數值計算、模擬智能和科學年夜腦(圖1)。

數值計算

但是,這種將部門復雜科學問題轉換為相對簡單的計算問題的解題形式,僅僅是一種粗粒度的建模計劃,在一些應用場景下會碰到計算瓶頸。在解決真實場景中復雜物理模子時,經常面臨基礎物理道理計算量過年夜的問題,并由此導致空有道理而無法有用解決科學問題。例如,第一性道理分子動力學的關鍵為求解量子力學Kohn-Sham方程,其焦點算法求解過程是屢次求解年夜規模特征值問題。特征值問題的計算復雜度為N3(N為矩陣的維度)。在實際物理問題的求解中,最常用的立體波基組凡是是原子個數的100—10000倍。這意味著對于上千原子的體系規模,矩陣維度N達到106,其相應的浮點數運算總量也將達到1018 FLOPS,即達到EFLOPS級別的計算量。需求留意的是,在信義區 水電單步分子動力學中需求屢次求解特征值問題,這也就使得單步分子動力學的模擬時間凡是為數分鐘甚至1小時。由于單步分子動力學的模擬物理時間只能達到1飛秒,假設要完成納秒物理時間的分子動力學模擬過程,就需求106個分子動力學步。相應的計算量至多要達到1024 FLOPS。這般龐年夜的運算量即便應用世界上最年夜規模的超級計算機也難以在短時間內完成。為清楚決僅應用第一性道理計算帶來的超年夜計算量,研討人員發展了多標準方式,此中最典範的是獲得了2013年諾貝爾化學獎的量子力學/分子力學(信義區 水電QM/MM)方式。該方式的思惟是針對焦點物理化學反應部門(如:酶及其結合底物的活躍位點原子),采用高精度的第一性道理計算方式,對于周圍的物理化學反應區域(溶液水電 行 台北、卵白質和其他區域)采用低精度且計算復雜度更低的經典力學方式。這種高精度、低精度相結合的計算方式,可以有用地下降計算量。但面對實際問題時,該方式仍然存在著宏大的挑戰。例如,細胞半徑約0.2微米的單個生殖支原體包括3×109個原子和77000個卵白質分子。由台北 水電行于焦點計算時間仍來自QM部門,模擬2小時的過程預計需求耗費109年。假如將類似問題推廣到人腦的模擬中,相中山區 水電行應的系統原子數將達到1026個,守舊估計需求1010個活躍位點的QM計算。由此可以推斷,模擬1小時的QM部門需求長達1024年的時間,而MM部門的模擬也需求長達1023年的時間。這種超長計算時間的情況也被稱為“維度災難”。

模擬智能

是以,模擬智能在傳統數值計算中嵌進人工智能模子(當前重要是深度學習模子),分歧于其別大安區 水電行人工智能應用領域的深度學習模子“黑盒子”。模擬智能請求這些模子水電網的基礎出發點和基礎結構是可解釋的。今朝,這一標的目的已存在大批研討,Zhang等在2023年對模擬智能領域最新進展進行了系統性的梳理。從懂得亞原子(波函數和電子密度)、原子(分子、卵白質、資料和彼此感化)到宏觀(流體、氣候和地下)標準物理世界,把研討對象分為量子(quantum)、原子(atomistic)和連續介質(continuum)三年夜體系,涵蓋量子力學、密度泛函、小分子、卵白質、資料科學、分子間彼此感化和連續力學等7個科學領域。此外,還詳細討論了此中關鍵的配合挑戰,即:若何通過深度學習方式捕獲物理第一性道理,特別是天然系統中的對稱性。應用物理道理的智能模子幾乎已經滲透了傳統科學計算的一切領域。模擬智能年夜幅晉陞了對微觀多標準系統的模擬才能,為在線實驗反饋迭代供給了加倍周全的支撐條件。例如,計算模擬系統松山區 水電和機器人科學家之間的疾速實時迭代,有助于晉陞科研效力。是以,模擬智能在必定水平上,還將包含“理論—實驗”迭代的把持過程,同時也會觸及部門廣義的科學模擬。

科學年夜腦

傳統的科學方式從最基礎上塑造了人類摸索天然和科學發現的分步“指南”。面對全新的研討問題,科學家們已經被訓練成從假設和替換計劃的角度出發,指定若何開展把持測試的定勢思維。雖然這種研討過程在過往幾個世紀內都是有用的,可是很是緩慢的。從某種意義上來說,這種研討過程是主觀的,是由科學家的聰明才智和偏見驅動的。這種偏見,有時會阻礙需要的范式轉變。人工智能技術的發展激發了人們對科學和智能融會產生最優的且具有創新性的解決計劃的希冀。

以上所提到的科學模擬發展經歷的3個階段,能夠明顯區分計算機模擬在可計算和智能化才能方面慢慢晉陞的過程。數值計算階段,對復雜科學問題中相對簡單的計算問題進行了粗粒度建模,屬于單純的狹義計算機模擬定義范疇。它不僅促進眾多領域宏觀標準科學發現,同時也開啟了對微觀世界的初步摸索。模擬智能階段,將針對微觀世界的多標準摸索推上一個新的臺階。除了在狹義計算機模擬定義范疇內對計算才能進行了數量級地晉陞之外,該階段還觸及對實驗中某些關鍵環節的計算加快,在必定水平上為科學模擬下一階段的台北 水電實現奠基了基礎。科學年夜腦階段,將是對廣義計算機模擬定義的實現。在此階段中,計算機模擬將具備創造知識的才能。

設計模擬智能計算系統的關鍵問題

依照本文對科學模擬發展階段的粗粒度劃分,與其相應的計算系統也在同步進化。超級計算機在數值計算階段發揮了不成替換的感化;發展到新的模擬智能階段,底層計算系統的設計也是基石。那么,模擬智能計算系統的發展標的目的應該遵守什么樣的指導思惟?

縱觀計算和才緩緩開口。沉默了一會兒。科學研討發展歷史,可歸納出計算系統發展的基礎周期性規律:在新的計算形式和需求產生階段的初期,計算系中山區 水電行統的設計側重尋求極致的專用性。而在經過一段時間的技術演變和應用拓展之后,計算系統的設計開始側重于對通用性的尋求。在人類科技文明晚期發展的漫長過程中,計算系統曾經是各式各樣的專用機械設備,輔助進行一些簡單的運算(圖2)。近代以來,電子技術的衝破催生了電子計算機的出現,并且隨著其計算才能的不斷晉陞,數學、物理等學科的發展也不斷向前,尤其是超級計算機上的年夜規模數值模擬結果,引領了大批前沿科學研討和嚴重工程應用。由此可見,日益發展的通用高機能計算機在不斷地加快宏觀標準科學的各類年夜規模應用,并獲得嚴重結果。接下來,微觀世界的多標準摸索將是未來Z級(1021)超級計算機應用的焦點場景。而現有通用高機能計算機的技術路線則將碰到功耗和效力等瓶頸,難以為繼。結合模擬智能階段所呈現的新特征,本文認為面向模擬智能的計算系統,將以尋求極致的Z級計算專用智能系統為設計目標,未來機能最高的計算系統將專門針對模擬智能應用法式,在硬件自己及軟件底層的算法和抽象中進行定制。

圖2 科學模擬計算系統發展的周期性規律

Figure 2 Periodic trends of computing system for scientific simulation

直觀上講,面向模擬智能的計算系統離不開智能組件(軟件和硬件),那么基于現有的智能組件來構建智能計算系統就能真正滿足模擬智能的需求嗎?謎底能否定的。李國杰院士曾經指出:“有人曾戲謔今朝信息領域的形勢為:‘軟件在吞噬世界,人工智能在吞噬軟件,深度學台北 水電行習在吞噬人工智能,GPU(圖形處理器)在吞噬深度學習。’”研討制造更高機能的GPU或類似的硬件加快器,似乎成了對付年夜數據的重要前途。可是假如不明白該在什么處所加快,只自覺依附硬件的蠻力是不明智的。是以,設計智能系統的關鍵在于深入懂得請求解的問題。計算機架構師的腳色是選擇好的知識表現、識別開銷密集型任務、學習元知識、確定基礎操縱后,再用軟硬件優化技術往支撐這些任務。”

面向模擬智能的計算系統設計是一個新產生的研討主題,相對其他計算系統設計而言,加倍具有顯著的獨特徵。是以,需求一個整體統一的視角,來推進人工智能和模台北 水電行擬科學的穿插。1989年,Wah和Li水電總結了關于智能計算機系統設計的3個層次,該觀點至今仍然值得借鑒。但遺憾的是,今朝還沒有任何關于這方面的加倍深刻的討論和實際性研討。具體而言,智能計算機系統的設計要考慮3個層次——表現層(representation level)、把持層(control level)和處理層(processor level)。表現層處理用于解決給定人工智能問題的知識和方式,以及若何表現該問題;把持層關注算法中依賴關系和并行性,以及問題的法式表現;處理層解決執行算法和法式表現所需的硬件和體系結構組件。上面將以這3個層次為基礎,討論面向模擬智能的計算系統設計的關鍵問題。

表現層

表現層是大安區 水電行設計過程中的一個主要元素,包含領域知識表現和個性特征(元知識)表現,其決定了給定問題能否能夠在公道的時間內獲得解決。定義表現層的本質是對適應廣泛應用的行為和方式進行高級抽象,將它們與特定的實現解耦。上面給出領域知識表現和個性特征表現的案例。

從現階段面向科學的人工智能研討看,對稱性的研討將成為表征學習的一個信義區 水電行主要衝破口,其緣由在于物理上台北 水電 行的守恒定律是由對稱性導致的(諾特定理),而守恒定律常被用來研討粒子的基礎屬性和粒子之間的彼此感化。物理上的對稱性是指在某種變換后或某種操縱下的不變性,無法做出可辨別的測量(不成區分性)。基于多層感知機(MLP)、卷積神經網絡(CNN)、圖神經網絡(GNN)的小分子表征模子在有用參加對稱性之后,已經廣泛應用于卵白質、分子、晶體等物質的結構預測。

2004年,Colella向american國防高松山區 水電級研討計劃局(DARPA)提出了科學計算的“七個小矮人”(Seven Dwarfs)——濃密線性代數、稀少線性代數、結構網格計算、非結構網格計算、譜方式、粒子方式、蒙特卡洛模擬。此中,每一種科學計算問題,都代表了一種可以捕獲計算和數據移動形式的計算方式。受此啟大安 區 水電 行發,巴斯德實驗室的Lavin等以類似方法定義了模擬智能中的9種基元(nine motifs of simulation intelligence)——多物理現象多標準建模、代表建模擬真、基于模擬的推理、因果關系建模推理、基于主體的建模、概率編程、微分編程、開放式優化、機器編程。“寶貝一直以為它不是空的。”裴毅皺著眉頭淡淡的說道。這9種基元代表了互為補充的分歧計算方式類型,為協同模擬和人工智能技術促進科學發展奠基了基礎。面向傳統科學計算歸納的各個主題,曾為應用于分歧學科的數值方式(以及并行計算)的研發任務供給了明確的路線圖;面向模擬智能的各個主題同樣不局限于狹義的機能或法式代碼,而是激勵算法、編程語言、數據結構和硬件方面的創新。

把持層

把持層承上啟下,在整個計算系統中起到連接和把持算法映射與硬件執行的關鍵感化,在現代計算機系統中表現為系統軟件棧。本文僅討論和科學模擬相關的關鍵組件。模擬智能計算系統的把持層的變化重要彩修的聲音響起,藍玉華立即看向身旁的丈夫,見他還在安穩的睡著,沒有被吵醒,她微微鬆了口氣,因為時間還早,他本可來自2個方面:數值計算、年夜數據和人工智能的緊耦合;底層硬件技術能夠發生的顛覆性變化。近年來,由于科學年夜數據的急劇增添,在科學模擬的數值計算階段,年夜數據軟件棧逐漸被超算系統領域所關注,只是相對于傳統的數值計算,年夜數據軟件棧是完整獨立的,在模擬流程上屬于分歧的步驟。是以,基于2套系統的軟件棧是基礎可行的。而在模擬智能階段,情況產生了最基礎上的變化。根據前文中所表現的問題解法描寫公式y=F(f(x),A(x)),人工智能和年夜數據部門都是嵌進在數值計算內的,這種結合是一個緊耦合的模擬過程,天然需求一個異質融會的系統軟件棧。以DeePMD為例,該模子包括平移不變性的嵌進網絡、對稱性堅持操縱和擬合網絡3個模塊。鑒于體系的能量、受力等屬性不以人為定義改變(例如,便于測量或描寫而賦予體系中各個原子的坐標),接進擬合網絡進行原子能量和受力的擬合,就能獲得較高精度的擬合結果。再考慮模子的訓練數據強依賴于第一性道理計算,整個流程是一個數值計算和深度學習緊耦合的過程。

是以,系統軟件在代碼天生和運行時執行過程中,將不再區分個性核函數的來源,即不再區分能否由傳統人工智能、傳統數值計算或根據特定問題進行人工定制擴展得來。相應的,系統軟件一方面中山區 水電行需求針對3類分歧來源的個性核函數,供給易于擴展和開發的編程接口。另一方面則需求對這3類函數,在代碼編譯方面和運行時資源治理方面,兼顧并行效力和訪存部分性等機能保證;在面向分歧粒度的計算任務時,能夠逐層進行融會和協同優化,發揮分歧類型體系結構處理器的最佳機能。

處理層

縱觀數值計算階段到模擬智能階段,一個驅動技術發展的主要原因是當前硬件技術無法滿足計算需求。是以,處理層設計重要問題是:表現層的變化(如對稱性、基元)會產生全新的硬件體系架構嗎台北 水電 行?它們是基于傳統專用集成電路(ASIC)實現,還是超出互補金屬氧化物半導體(CMOS)——從高機能計算的發展路線圖來看,這也是未來Z級超算的硬件設計要考慮的焦點問題。可以年夜膽預測,在2035年擺中山區 水電佈,Z級超算能夠會出現。水電網盡管基于機能和靠得住性原因的考慮,那時CMOS平臺仍將占據主流,但一些焦點組件將是樹立在非CMOS工藝上的專用硬件。

摩爾定律雖然放緩但仍然有用,要重點解決的關鍵難題是若何迫近摩爾定律的極限。換句話說,若何通過軟硬件協同設計的手腕,將基于CMOS的硬件潛力充足發掘出來。因為,即便在機能優先級最高的超算領域,多數算法負載所獲得的實際機能僅僅只是硬件裸機能的極小部門。回顧超算領域晚期發展階段,其基礎設計哲學就是軟硬件協同。未來十幾年,微處理器敏捷發展的“紅利”將耗盡,面向模擬智能的計算系統硬件架構應該回歸到從頭設計的軟硬件協同水電行技術上。一個凸起的例子是如前所述的分子動力學模擬,Anton系列是一個從零開始中山區 水電行設計的超級計算機家族,可以滿足年夜規模長時間標準的分子動力學模擬計算,而這也恰好是對微觀世界摸索的需要條件之一。但是,最新的Anton計算也只能對基于經典力場模子實現20微秒的模擬,無法進行第一性道理精度的長時間標準模擬;但是,后者才幹滿足多數實際應用(如藥物設計等)需求。

比來,作為模擬智能的典範應用,DeePMD模子在傳統年夜規模并行系統上的衝破證明了其宏大的潛力。中國科學院計算技術研討所超算團隊,已實現了170個原子的第一性道理精度分子動力學的納秒級模擬。可是,長時間標準模擬請求硬件架構具有極高的可擴展性,需求在運算邏輯和通訊操縱上有極致的創新。本文認為有2類技術可以預期能夠發揮關鍵感化:存算一體架構,通過下降數據移動的延遲來進步運算效力;硅光互連技術,可以在高能效下供給年夜帶寬的通訊才能,有助于進步并行性和數據規模。進而,隨著對模擬智能應用廣泛而深刻的研討,信任未來將慢慢構成科學模擬領域的“新浮點”運算單元和指令集。

本文認為,在科學模擬的現階段,尚處于模擬智能階段的晚期,此時對模擬智能的使能技術展開研討至關主要。在普通科學研討中,獨立的概念、關系和行為能夠是易懂得的。可是,它們的組合行為會導致不成預測的結果。深刻清楚復雜系統的動態行為,對于許多處理復雜挑戰性領域的研討人員來說長短常寶貴的。在面向模擬智能的計算系統設計中,一個必不成少的環節是跨學科一起配合,即領域科學、數學、計算機科學與工程、建模與仿真等學科任務者之間的協作。這種跨學科一起配合會構建更優的模擬計算系統,構成更周全和整體的方式,往解決加倍復雜的現實世界的科學挑戰。

(作者:譚光亮、賈偉樂、王展、元國軍、邵恩、孫凝暉,中國科學院計算技術研討所。《中國科學院院刊》供稿)

Similar Posts

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *