本發(fā)明涉及芯片設(shè)計領(lǐng)域，特別是涉及一種多處理器互連的擴展拓撲系統(tǒng)。

背景技術(shù)：

1、大模型的訓練和推理過程需要在高帶寬域做張量、流水和數(shù)據(jù)的并行，在低帶寬域只能做流水和數(shù)據(jù)的并行。高帶寬域是gpu廠商通過高速互聯(lián)協(xié)議將多個gpu進行互連實現(xiàn)，低帶寬域可以采用以太網(wǎng)實現(xiàn)。大模型高度依賴張量并行，只有在高帶寬域中所支持的gpu數(shù)量不足時才會使用流水和數(shù)據(jù)并行。因此，高帶寬域中支持的gpu數(shù)量越多，越能夠更好的支持大模型的訓練和推理過程的進行。

2、目前gpu之間通過oam協(xié)議互連，由于oam協(xié)議中規(guī)定任意兩個gpu之間互連的路由是確定的，無法更改，因此基于oam協(xié)議的gpu互連拓撲結(jié)構(gòu)最多支持8個gpu互連，每個gpu預(yù)留8個互連端口，在8個gpu的互連拓撲結(jié)構(gòu)中任意兩個gpu都能夠直接點對點互連，但是由于oam協(xié)議的限制，無法擴展為8個gpu以上的互連拓撲結(jié)構(gòu)。因此，亟需一種能夠支持8個gpu以上的互連拓撲結(jié)構(gòu)。

技術(shù)實現(xiàn)思路

1、針對上述技術(shù)問題，本發(fā)明采用的技術(shù)方案為：一種多處理器互連的擴展拓撲系統(tǒng)，所述擴展拓撲系統(tǒng)包括n組處理器；每組處理器包括m個處理器；每組處理器中各個處理器的位置分布相同；每組處理器包括兩層互連結(jié)構(gòu)：組內(nèi)互連結(jié)構(gòu)和組間互連結(jié)構(gòu)；其中，所述組內(nèi)互連結(jié)構(gòu)中m個處理器之間點對點全連接；所述組間互聯(lián)結(jié)構(gòu)包括m個環(huán)形連接結(jié)構(gòu)，所述環(huán)形連接結(jié)構(gòu)中連接的每個處理器在每組處理器中的分布位置相同。

2、本發(fā)明至少具有以下有益效果：

3、綜上所述，本發(fā)明提供的一種多處理器互連的擴展拓撲系統(tǒng)，該擴展拓撲系統(tǒng)包括n組處理器，每組處理器包括m個處理器，每組處理器的位置分布相同，每組處理器包括兩層互連結(jié)構(gòu)：組內(nèi)互連結(jié)構(gòu)和組間互連結(jié)構(gòu)，使得到的擴展拓撲系統(tǒng)在符合原有協(xié)議的情況下，實現(xiàn)擴展處理器互連的數(shù)量。

技術(shù)特征：

1.一種多處理器互連的擴展拓撲系統(tǒng)，其特征在于，所述擴展拓撲系統(tǒng)包括n組處理器；

2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征在于，每組處理器的組內(nèi)互連結(jié)構(gòu)為原始拓撲結(jié)構(gòu)中的全互連結(jié)構(gòu)。

3.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征在于，每組處理器內(nèi)部通過相同的m-1個端口實現(xiàn)全互連。

4.根據(jù)權(quán)利要求3所述的系統(tǒng)，其特征在于，組間互連是通過互連處理器的剩余端口之間跳轉(zhuǎn)形成一個環(huán)形結(jié)構(gòu)。

5.根據(jù)權(quán)利要求1所述的結(jié)構(gòu)，其特征在于，m等于4。

6.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征在于，處理器為gpu或gpgpu。

7.根據(jù)權(quán)利要求1所述的系統(tǒng)，其特征在于，所述系統(tǒng)還包括：查找軟件地址重映射表得到每個處理器地址的重映射地址，獲取重映射地址對應(yīng)的路由。

8.根據(jù)權(quán)利要求7所述的系統(tǒng)，其特征在于，當處理器地址大于7時，處理器地址的重映射地址為對處理器地址取模。

技術(shù)總結(jié)
本發(fā)明涉及芯片設(shè)計領(lǐng)域，特別是涉及一種多處理器互連的擴展拓撲系統(tǒng)，系統(tǒng)包括N組處理器；每組處理器包括M個處理器；每組處理器中各個處理器的位置分布相同；每組處理器包括兩層互連結(jié)構(gòu)：組內(nèi)互連結(jié)構(gòu)和組間互連結(jié)構(gòu)；其中，所述組內(nèi)互連結(jié)構(gòu)中M個處理器之間點對點全連接；所述組間互聯(lián)結(jié)構(gòu)包括M個環(huán)形連接結(jié)構(gòu)，所述環(huán)形連接結(jié)構(gòu)中連接的每個處理器在每組處理器中的分布位置相同，使得到的擴展拓撲系統(tǒng)在符合原有協(xié)議的情況下，實現(xiàn)擴展處理器互連的數(shù)量。

技術(shù)研發(fā)人員：李兆石,叢高建,付軒,劉曉青,魏莉
受保護的技術(shù)使用者：沐曦集成電路（上海）股份有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/15