★本書(shū)深入淺出地對(duì)WebRTC技術(shù)進(jìn)行了系統(tǒng)講解,既有原理又有實(shí)戰(zhàn),從WebRTC是如何實(shí)現(xiàn)實(shí)時(shí)音視頻通信的,到如何應(yīng)用WebRTC庫(kù)實(shí)現(xiàn)音視頻通信,再到WebRTC源碼的剖析,逐步展開(kāi)講解。此外,對(duì)WebRTC的傳輸系統(tǒng)進(jìn)行了重點(diǎn)分析,相信讀者通過(guò)本書(shū)可以一窺WebRTC傳輸?shù)膴W秘。
第1~3章介紹音視頻實(shí)時(shí)通信的由來(lái),WebRTC做了什么,以及它要解決什么問(wèn)題;
第4~10章是實(shí)戰(zhàn)部分,介紹如何使用WebRTC庫(kù)實(shí)現(xiàn)音視頻通信,并對(duì)其實(shí)現(xiàn)原理進(jìn)行講解;
第11~13章對(duì)WebRTC源碼進(jìn)行分析,讓讀者對(duì)WebRTC有更深層次的認(rèn)知。
想了解WebRTC實(shí)現(xiàn)的專(zhuān)業(yè)開(kāi)發(fā)人員可以通過(guò)本書(shū)了解WebRTC運(yùn)轉(zhuǎn)機(jī)理;
學(xué)生、老師和音視頻愛(ài)好者可以通過(guò)本書(shū)了解WebRTC可以做什么,如何通過(guò)WebRTC實(shí)現(xiàn)音視頻的實(shí)時(shí)通信。
★本書(shū)是一本W(wǎng)ebRTC從入門(mén)到進(jìn)階的書(shū)籍,不僅對(duì)WebRTC的網(wǎng)絡(luò)傳輸做了細(xì)致、大量的分析,而且還向你詳細(xì)介紹了如何通過(guò)WebRTC實(shí)現(xiàn)Web端與Android和iOS端的互聯(lián)互通;后還對(duì)WebRTC的源碼進(jìn)行了剖析,使你不但可以知道如何使用WebRTC實(shí)現(xiàn)音視頻通信,還能讓你了解其中的原理,并知道WebRTC具體是如何做的。
★內(nèi)容詳實(shí)、深入淺出、案例豐富,是音視頻應(yīng)用開(kāi)發(fā)工程師的參考資料,也可供相關(guān)專(zhuān)業(yè)的在校學(xué)生和入門(mén)者學(xué)習(xí)參考。 得到業(yè)內(nèi)多個(gè)行業(yè)專(zhuān)家聯(lián)袂推薦。
★關(guān)注華章計(jì)算機(jī),回復(fù)68501獲取本書(shū)配套代碼地址及后續(xù)例程的更新、通過(guò)RTC開(kāi)發(fā)者社區(qū)本書(shū)專(zhuān)欄地址與作者互動(dòng)交流。
【前言】
回想2020年,疫情的爆發(fā)使得世界經(jīng)濟(jì)陷入衰退,目前仍對(duì)我們的生活造成影響。
幸運(yùn)的是我們生活在一個(gè)好時(shí)代,科技在這幾十年中得到了迅猛發(fā)展。即使在疫情嚴(yán)重的時(shí)刻,我們?nèi)匀豢梢酝ㄟ^(guò)音視頻會(huì)議進(jìn)行遠(yuǎn)程辦公,通過(guò)在線教育系統(tǒng)進(jìn)行學(xué)習(xí),通過(guò)一些視頻軟件觀看直播。
從某個(gè)角度看,這次疫情雖然導(dǎo)致很多行業(yè)處于崩潰邊緣,但也迫使一些行業(yè)加速發(fā)展,其中音視頻會(huì)議、在線教育的重要性馬上體現(xiàn)了出來(lái),新的溝通方式和教育方式被越來(lái)越多的人所認(rèn)知、接納。我們甚至可以推測(cè),在線教育行業(yè)和音視頻會(huì)議行業(yè)會(huì)在今年崛起,并在未來(lái)十年得到迅猛發(fā)展。音視頻技術(shù)、傳輸技術(shù)(如5G)的飛速發(fā)展,以及因此激發(fā)出的人們對(duì)音視頻的需求,也為音視頻行業(yè)的發(fā)展提供了動(dòng)力。
現(xiàn)在音視頻技術(shù)已經(jīng)非常成熟了,它被越來(lái)越廣泛地應(yīng)用于各行各業(yè),如抖音、微信短視頻、娛樂(lè)直播、教育直播、音視頻會(huì)議等。就連熱門(mén)的AI技術(shù)也與音視頻技術(shù)關(guān)系密切,如智能音箱、自動(dòng)駕駛、人臉識(shí)別等都離不開(kāi)音視頻技術(shù)。未來(lái)音視頻技術(shù)會(huì)有更好的前景,對(duì)音視頻人才的需求也必然會(huì)像當(dāng)年移動(dòng)互聯(lián)網(wǎng)發(fā)展時(shí)一樣出現(xiàn)井噴現(xiàn)象。面對(duì)這樣的機(jī)遇,你若能掌握音視頻的核心技術(shù),一定可以在未來(lái)職場(chǎng)上獲得豐厚的回報(bào)和滿(mǎn)滿(mǎn)的成就感。所以,目前是學(xué)習(xí)音視頻的時(shí)機(jī),及早加入音視頻研發(fā)的隊(duì)伍,有助于你在未來(lái)的職場(chǎng)上更有作為。
說(shuō)到音視頻技術(shù),就不得不說(shuō)Google開(kāi)源的WebRTC庫(kù)了。WebRTC庫(kù)如同音視頻技術(shù)的一頂王冠,上面鑲嵌了大大小小、各種各樣的寶石,如降噪、回音消除、自動(dòng)增益、NetEQ、網(wǎng)絡(luò)擁塞控制······不勝枚舉!目前國(guó)內(nèi)無(wú)論是在線教育直播系統(tǒng),還是音視頻會(huì)議系統(tǒng),其底層幾乎無(wú)一例外都使用了WebRTC或從WebRTC中借鑒了不少有價(jià)值的模塊和思想。不僅如此,如果現(xiàn)在你去應(yīng)聘一線大廠的音視頻研發(fā)崗,可以發(fā)現(xiàn)崗位描述中都寫(xiě)有熟悉WebRTC技術(shù)者優(yōu)先之類(lèi)的要求,WebRTC的重要性由此可見(jiàn)一斑。因此,了解和學(xué)習(xí)WebRTC更顯得尤為重要。
自從2011年WebRTC推出之后,我就一直在追蹤其進(jìn)展。近幾年WebRTC的發(fā)展越來(lái)越快,服務(wù)質(zhì)量也越來(lái)越好,現(xiàn)在對(duì)于大多數(shù)公司來(lái)說(shuō),完全不必像我們當(dāng)年(2010年)那樣從0開(kāi)始自研音視頻系統(tǒng)了。你可以在WebRTC的基礎(chǔ)上構(gòu)建系統(tǒng),這樣既省時(shí)又省力,質(zhì)量又能得到保障。
但學(xué)習(xí)WebRTC也并非易事,需要你有良好的基礎(chǔ),如熟練掌握C 、熟悉音視頻知識(shí)、了解網(wǎng)絡(luò)傳輸?shù),這顯然增加了學(xué)習(xí)WebRTC的成本。而我自從加入跟誰(shuí)學(xué)團(tuán)隊(duì)后,不知怎的竟有了好為人師的沖動(dòng),一直在想是否可以對(duì)WebRTC做一個(gè)深入剖析,讓更多的人知道WebRTC能做什么,該如何更好地利用WebRTC。這種想法一直縈繞心頭,隨著時(shí)間的推移反而愈加強(qiáng)烈,后來(lái)竟成了我必須完成的使命!
因此,自2018年開(kāi)始,我制定了WebRTC三部曲的計(jì)劃,即推出三門(mén)課,分別是WebRTC入門(mén)與實(shí)戰(zhàn)百萬(wàn)級(jí)高并發(fā)WebRTC流媒體服務(wù)器的實(shí)現(xiàn)WebRTC源碼剖析。這三門(mén)課的前兩門(mén)我已經(jīng)在慕課網(wǎng)推出,受到了廣泛好評(píng),而第三門(mén)則以圖書(shū)的形式推出,本書(shū)也就與大家見(jiàn)面了。當(dāng)然,WebRTC源碼十分龐雜,想通過(guò)一本書(shū)將其講清楚是不現(xiàn)實(shí)的,所以這本書(shū)的推出既是我制定的WebRTC三部曲計(jì)劃的終點(diǎn),也是后面深入分析WebRTC源碼的起點(diǎn),而我的終極目標(biāo)是將WebRTC剖析透徹,讓更多的人可以更好地利用WebRTC做出更優(yōu)秀的產(chǎn)品。
【本書(shū)分為三部分,共13章】
第①部分,第1~3章,主要介紹WebRTC的由來(lái),為什么要選擇WebRTC,以及實(shí)時(shí)音視頻通信的本質(zhì)是什么。
其中第3章為關(guān)鍵,只有了解了音視頻實(shí)時(shí)通信的本質(zhì),你才能知道音視頻實(shí)時(shí)通信要解決什么問(wèn)題,然后才能知道如何解決這些問(wèn)題,從而理解WebRTC為什么要這樣做。
第②部分,第4~10章,循序漸進(jìn)地向你講解WebRTC的理論和實(shí)戰(zhàn)。
第4章介紹了一個(gè)簡(jiǎn)單的WebRTC信令服務(wù)器該如何構(gòu)建,
第5章介紹了如何通過(guò)瀏覽器實(shí)現(xiàn)一對(duì)一通信,通過(guò)這兩章你就可以搭建出一個(gè)WebRTC一對(duì)一實(shí)時(shí)通信系統(tǒng)了。
第6章介紹了WebRTC底層是如何傳輸音視頻數(shù)據(jù)的,重點(diǎn)是如何進(jìn)行NAT穿越;
第7章詳述了WebRTC媒體協(xié)商使用的SDP各字段的含義。需要說(shuō)明的是,SDP中的每個(gè)字段你都需要牢記在心,這樣才能為后續(xù)閱讀WebRTC代碼掃清障礙。
第8章介紹如何通過(guò)移動(dòng)端(Android、iOS)Native的方式實(shí)現(xiàn)一對(duì)一通信,讀完本章內(nèi)容后,將能實(shí)現(xiàn)Web端與移動(dòng)端的互聯(lián)互通;
第9章介紹了WebRTC底層的傳輸協(xié)議RTP/RTCP,這部分內(nèi)容是每個(gè)從事實(shí)時(shí)通信工作的讀者必須掌握的;
第10章介紹了WebRTC的兩種擁塞控制算法,詳細(xì)介紹了WebRTC為什么終選擇Transport-CC作為默認(rèn)擁塞控制算法。
第③部分,第11~13章。
第11章介紹了編譯WebRTC源碼庫(kù)的方法,對(duì)于大多數(shù)剛?cè)腴T(mén)的讀者來(lái)說(shuō),學(xué)習(xí)WebRTC的道門(mén)檻便是如何編譯WebRTC,通過(guò)對(duì)該章的學(xué)習(xí),相信你一定可以順利地將WebRTC庫(kù)編譯出來(lái);
第12章對(duì)WebRTC的peerconnect_client例子做了深入剖析,這個(gè)例子可以說(shuō)是我們學(xué)習(xí)WebRTC源碼的必經(jīng)之路,這一章你一定要多花些時(shí)間將其全部掌握;
第13章是對(duì)WebRTC源碼的整體架構(gòu)和運(yùn)轉(zhuǎn)流程的詳細(xì)分析,也是本書(shū)難的部分,將這章了解清楚后,你就知道WebRTC是如何運(yùn)轉(zhuǎn)的了。
【推薦序】
2021年1月29日,WebRTC正式成為W3C和IETF標(biāo)準(zhǔn)。自2011年Google宣布WebRTC開(kāi)源,已經(jīng)十年了。記得2011年10月,我約了當(dāng)時(shí)還在VisualOn的劉華平和華平科技的劉睿在上海討論基于WebRTC創(chuàng)業(yè)計(jì)劃。
WebRTC的前身是GIPS(GlobalIPSolutions)。GIPS早全名叫作GlobalIPSound,是和SpritDSP一樣的終端語(yǔ)音通信解決方案。很多運(yùn)營(yíng)商都使用了GIPS或SpritDSP的方案做3G的底層通話(huà)SDK。GIPS的突出特點(diǎn)是包括編解碼、回聲消除、降噪等3A算法。GIPS團(tuán)隊(duì)中也不乏大師,比如KenVos、BastiaanKleijn。KenVos(也是后來(lái)發(fā)明SILK的科學(xué)家)的iLBC和iSAC編碼器(2000年后基于FFT的語(yǔ)音編碼器)都開(kāi)創(chuàng)了編解碼考慮網(wǎng)絡(luò)丟包影響的先河。發(fā)明回聲消除動(dòng)態(tài)延時(shí)估計(jì)算法的BastiaanKleijn大師的論文一直被后來(lái)的工程師膜拜,它從根本上解決了延時(shí)估計(jì)的問(wèn)題。GIPS后期開(kāi)始做視頻通信SDK方案,所以也把全名由GlobalIPSound改成了GlobalIPSolutions。但星光閃耀的GIPS在商業(yè)上不算成功,后在2011年以不到7000萬(wàn)美元的價(jià)格賣(mài)給了Google。而同年5月,微軟收購(gòu)?fù)瑯蛹夹g(shù)領(lǐng)先的Skype時(shí)花費(fèi)了85億美元。
如果把端到端通信互動(dòng)技術(shù)分解一下,會(huì)發(fā)現(xiàn)其中有幾個(gè)技術(shù)難點(diǎn):客戶(hù)端技術(shù)、服務(wù)器技術(shù)、全球設(shè)備網(wǎng)絡(luò)適配技術(shù)和通信互動(dòng)質(zhì)量監(jiān)控與展示技術(shù)。在被收購(gòu)時(shí),GIPS更像一個(gè)完整的客戶(hù)端解決方案。所以后期Google的開(kāi)發(fā)者在里面增加了P2P通信技術(shù)和一些簡(jiǎn)單的互聯(lián)互通協(xié)議,以及基于Web展示的質(zhì)量監(jiān)控,使整個(gè)方案逐漸完整起來(lái)。
李超先生擁有十多年的實(shí)時(shí)音視頻研發(fā)經(jīng)驗(yàn),曾帶領(lǐng)團(tuán)隊(duì)研發(fā)過(guò)多個(gè)直播平臺(tái),先后任職滬江網(wǎng)高級(jí)架構(gòu)師、新東方音視頻技術(shù)專(zhuān)家。這本書(shū)從代碼出發(fā),詳細(xì)介紹了如何使用WebRTC搭建一對(duì)一通信服務(wù),并對(duì)內(nèi)部的協(xié)議、擁塞控制技術(shù)和交互邏輯也做了詳細(xì)的剖析,是一本難得的WebRTC開(kāi)發(fā)書(shū)籍。
十年彈指一揮間,一本書(shū)囊括了李超先生多年的經(jīng)驗(yàn)總結(jié)。很榮幸能為李超先生的作品作序。
聲網(wǎng) Agora 技術(shù) VP & 合伙人,高澤華
★李超
北京音視跳動(dòng)科技有限公司首席架構(gòu)師,曾先后擔(dān)任滬江網(wǎng)高級(jí)架構(gòu)師、新東方音視頻技術(shù)專(zhuān)家等,擁有十余年的音視頻實(shí)時(shí)互動(dòng)直播研發(fā)經(jīng)驗(yàn)及多年團(tuán)隊(duì)管理經(jīng)驗(yàn),參與設(shè)計(jì)了多個(gè)高負(fù)載、高并發(fā)服務(wù)器架構(gòu)。曾在全時(shí)云會(huì)議擔(dān)任Tang平臺(tái)研發(fā)經(jīng)理,帶領(lǐng)團(tuán)隊(duì)研發(fā)自主知識(shí)產(chǎn)權(quán)的全時(shí)音視頻會(huì)議平臺(tái)該平臺(tái)可以同時(shí)并發(fā)10000場(chǎng)會(huì)議,每場(chǎng)可以支持超過(guò)1000人的實(shí)時(shí)互動(dòng)。
●第1章音視頻直播的前世今生1
1.1音視頻的歷史1
1.2移動(dòng)互聯(lián)網(wǎng)3
1.3音視頻直播的兩條技術(shù)路線3
1.4音視頻直播的現(xiàn)狀5
1.5音視頻直播的未來(lái)6
1.6小結(jié)7
●第2章為什么要使用WebRTC8
2.1自研直播客戶(hù)端架構(gòu)8
2.1.1拆分音視頻模塊9
2.1.2跨平臺(tái)10
2.1.3插件化管理11
2.1.4其他13
2.2WebRTC客戶(hù)端架構(gòu)14
2.3小結(jié)16
●第3章音視頻實(shí)時(shí)通信的本質(zhì)17
3.1兩種指標(biāo)18
3.1.1實(shí)時(shí)通信延遲指標(biāo)18
3.1.2音視頻服務(wù)質(zhì)量指標(biāo)19
3.2實(shí)時(shí)通信的主要矛盾20
3.2.1增加帶寬20
3.2.2減少數(shù)據(jù)量22
3.2.3適當(dāng)增加時(shí)延24
3.2.4提高網(wǎng)絡(luò)質(zhì)量24
3.2.5快速準(zhǔn)確地評(píng)估帶寬25
3.3小結(jié)25
●第4章構(gòu)建WebRTC一對(duì)一信令服務(wù)器27
4.1WebRTC一對(duì)一架構(gòu)27
4.2細(xì)化架構(gòu)28
4.3信令29
4.3.1信令定義29
4.3.2信令時(shí)序30
4.3.3信令傳輸協(xié)議的選擇31
4.4構(gòu)建信令服務(wù)器31
4.4.1信令服務(wù)器的實(shí)現(xiàn)方案32
4.4.2信令服務(wù)器的業(yè)務(wù)邏輯32
4.4.3信令服務(wù)器的實(shí)現(xiàn)33
4.4.4信令服務(wù)器的安裝與部署35
4.4.5信令服務(wù)器的完整代碼37
4.5小結(jié)40
●第5章WebRTC實(shí)現(xiàn)一對(duì)一通信41
5.1瀏覽器對(duì)WebRTC的支持41
5.2遍歷音視頻設(shè)備42
5.3采集音視頻數(shù)據(jù)44
5.4MediaStream與MediaStreamTrack47
5.5本地視頻預(yù)覽47
5.6信令狀態(tài)機(jī)49
5.7RTCPeerConnection52
5.7.1創(chuàng)建RTCPeerConnection對(duì)象52
5.7.2RTCPeerConnection與本地音視頻數(shù)據(jù)綁定53
5.7.3媒體協(xié)商54
5.7.4ICE55
5.7.5SDP與Candidate消息的交換57
5.7.6遠(yuǎn)端音視頻渲染58
5.7.7客戶(hù)端完整例子59
5.8小結(jié)82
●第6章WebRTC中的ICE實(shí)現(xiàn)83
6.1Candidate種類(lèi)與優(yōu)先級(jí)83
6.2ICE策略85
6.3P2P連接87
6.3.1完全錐型NAT89
6.3.2IP限制錐型NAT90
6.3.3端口限制錐型NAT91
6.3.4對(duì)稱(chēng)型NAT92
6.3.5NAT類(lèi)型檢測(cè)93
6.3.6如何進(jìn)行NAT穿越97
6.4網(wǎng)絡(luò)中繼101
6.4.1TURN協(xié)議中轉(zhuǎn)數(shù)據(jù)101
6.4.2WebRTC使用TURN協(xié)議102
6.4.3STUN/TURN服務(wù)器的安裝與部署103
6.5小結(jié)105
●第7章WebRTC中的SDP106
7.1SDP標(biāo)準(zhǔn)規(guī)范106
7.2WebRTC中SDP的整體結(jié)構(gòu)108
7.3媒體信息110
7.3.1音頻媒體信息111
7.3.2視頻媒體信息112
7.3.3SSRC與CNAME114
7.4PlanB與UnifiedPlan115
7.5WebRTC如何保證數(shù)據(jù)安全117
7.6RTP擴(kuò)展頭119
7.7服務(wù)質(zhì)量120
7.8SDP詳解122
7.9ORTC131
7.10小結(jié)131
●第8章各端的互聯(lián)互通132
8.1WebRTCNative的核心132
8.2Android端的實(shí)現(xiàn)134
8.2.1申請(qǐng)權(quán)限134
8.2.2引入WebRTC庫(kù)136
8.2.3構(gòu)造PeerConnection-Factory138
8.2.4創(chuàng)建音視頻源138
8.2.5視頻采集139
8.2.6視頻渲染142
8.2.7創(chuàng)建PeerConnection144
8.2.8建立信令系統(tǒng)146
8.3iOS端的實(shí)現(xiàn)146
8.3.1申請(qǐng)權(quán)限146
8.3.2引入WebRTC庫(kù)147
8.3.3構(gòu)造RTCPeerConnection-Factory148
8.3.4創(chuàng)建音視頻源149
8.3.5視頻采集150
8.3.6本地視頻預(yù)覽151
8.3.7建立信令系統(tǒng)153
8.3.8創(chuàng)建RTCPeer-Connection155
8.3.9遠(yuǎn)端視頻渲染158
8.4PC端與Mac端的實(shí)現(xiàn)159
8.5小結(jié)159
●第9章網(wǎng)絡(luò)傳輸協(xié)議RTP與RTCP160
9.1如何選擇UDP與TCP160
9.2RTP162
9.2.1RTP協(xié)議頭163
9.2.2RTP的使用165
9.2.3RTP擴(kuò)展頭167
9.2.4RTP中的填充數(shù)據(jù)170
9.3RTCP171
9.3.1RTCP報(bào)文分類(lèi)171
9.3.2RTCP協(xié)議頭172
9.3.3WebRTC的反饋報(bào)文173
9.4小結(jié)174
●第10章WebRTC擁塞控制175
10.1WebRTC的擁塞控制算法175
10.1.1Goog-REMB176
10.1.2Transport-CC181
10.1.3基于丟包的擁塞評(píng)估算法原理184
10.1.4WebRTC擁塞控制流程184
10.2擁塞控制算法比較185
10.2.1擁塞控制的準(zhǔn)確性186
10.2.2與TCP連接并存時(shí)的公平性187
10.2.3同種類(lèi)型連接的公平性188
10.2.4擁塞控制算法在丟包情況下的表現(xiàn)189
10.3小結(jié)191
●第11章WebRTC源碼分析入門(mén)192
11.1WebRTC源碼的選擇193
11.2WebRTC開(kāi)發(fā)環(huán)境的搭建193
11.2.1配置軟硬件環(huán)境194
11.2.2安裝依賴(lài)工具包195
11.2.3獲取并編譯WebRTC代碼195
11.3國(guó)內(nèi)WebRTC鏡像196
11.4WebRTC目錄結(jié)構(gòu)197
11.4.1WebRTC主目錄197
11.4.2modules目錄198
11.5小結(jié)200
●第12章分析WebRTC源碼的必經(jīng)之路201
12.1信令服務(wù)器實(shí)現(xiàn)分析201
12.1.1信令服務(wù)器的組成202
12.1.2信令服務(wù)器的工作流程203
12.2PeerConnection客戶(hù)端分析206
12.2.1運(yùn)行peerconnection_client206
12.2.2peerconnection_client的組成207
12.2.3界面的展示213
12.2.4視頻的渲染218
12.2.5WebRTC的使用220
12.2.6信令的處理225
12.3小結(jié)229
●第13章WebRTC源碼分析231
13.1WebRTC的數(shù)據(jù)流231
13.2WebRTC線程模型234
13.2.1WebRTC線程的創(chuàng)建與使用234
13.2.2線程切換236
13.3網(wǎng)絡(luò)傳輸250
13.3.1網(wǎng)絡(luò)接收與分發(fā)模塊類(lèi)關(guān)系圖250
13.3.2網(wǎng)絡(luò)連接的建立251
13.4音視頻數(shù)據(jù)采集256
13.4.1音頻采集與播放256
13.4.2視頻采集與渲染258
13.5音視頻編解碼261
13.5.1音頻編碼261
13.5.2音頻解碼265
13.5.3視頻編碼267
13.5.4視頻解碼270
13.6小結(jié)272