AI大模型從ChatGPT3.5問世以來取得了革命性突破。大語言模型通過深度學習算法和大量數(shù)據(jù)訓練，具備創(chuàng)造出高質(zhì)量的文本、圖片、視頻等新內(nèi)容的能力，為腦力勞動帶來了創(chuàng)新與效率的雙重提升。

而AI新時代的到來，也為操作系統(tǒng)帶來更多挑戰(zhàn)。目前市面上缺少AI原生的操作系統(tǒng)，操作系統(tǒng)對大模型的嵌入深度和廣度，還遠未達到AI大模型的應用水平。

紅帽最新的工作，則是對人工智能大模型的理解，以及對于使用者的支撐。

一、操作系統(tǒng)的演進路線

大型機到個人電腦時代，Windows操作系統(tǒng)搭配Intel的X86架構處理器，憑借其相對友好的圖形用戶界面、強大的辦公套件、互聯(lián)網(wǎng)瀏覽等殺手級應用，極大地降低了電腦使用的門檻，標志著個人電腦時代的正式到來。

個人電腦到智能手機時代，傳統(tǒng)的PC操作系統(tǒng)無法滿足新應用場景，蘋果iOS系統(tǒng)以其封閉而優(yōu)化的生態(tài)，以及谷歌Android系統(tǒng)以其開源、可定制性強的優(yōu)勢，結(jié)合Arm架構低功耗、小體積的特點，共同引領了智能手機發(fā)展。

AI大模型時代，操作系統(tǒng)需更好支持大規(guī)模數(shù)據(jù)處理、模型訓練和高效推理，應具備高度集成的AI服務框架、高效的異構計算調(diào)度、動態(tài)資源管理、優(yōu)秀的數(shù)據(jù)安全機制以及跨平臺的兼容性。

二、AI大模型年代的操作系統(tǒng)應該具備哪些特征？

●   高度集成的AI服務。操作系統(tǒng)應內(nèi)嵌AI服務平臺，原生支持主流AI框架、集成API，使開發(fā)者能夠通過簡單的接口調(diào)用，快速實現(xiàn)自然語言處理、圖像識別、聲音分析等多種復雜功能。

●   異構計算支持與優(yōu)化。大模型對算力要求高、突發(fā)性強，操作系統(tǒng)需整合異構計算架構，通過智能調(diào)度算法動態(tài)分配任務，確保在不同的硬件平臺上都能發(fā)揮最大效能。系統(tǒng)也應支持不同類型的優(yōu)化算法，減少計算延遲，提升能效比。

●   跨平臺與多設備協(xié)同。操作系統(tǒng)應具備強大的跨平臺能力，實現(xiàn)邊緣計算到云計算資源的靈活調(diào)度，確保AI大模型應用能在電腦、手機、服務器等多種設備高效運行。

●   生態(tài)開放與標準化。操作系統(tǒng)應建立開放的標準和API，推動第三方開發(fā)者和云服務提供商廣泛參與，形成繁榮的生態(tài)系統(tǒng)，促進技術創(chuàng)新。

●   增強的數(shù)據(jù)安全與隱私保護機制。大模型涉及大量敏感數(shù)據(jù)，如公司機密信息、個人隱私信息等，若本地算力不足還需接入云端處理。因此，操作系統(tǒng)需集成數(shù)據(jù)保護技術，確保數(shù)據(jù)傳輸存儲安全，并建立嚴格的數(shù)據(jù)訪問控制體系。

紅帽的OpenShift平臺就滿足了以上大部分需求。

●   AI服務集成方面，OpenShift內(nèi)置DevOps功能，使MLOps能夠加快交付AI驅(qū)動型應用，并簡化集成ML模型和持續(xù)重新部署以提高預測準確性的迭代流程。包括OpenShift Build、OpenShift Pipelines、OpenShift GitOps用于構建應用、迭代開發(fā)及自動化部署。

●   算力優(yōu)化方面，OpenShift通過紅帽認證GPU operator，集成了流行的硬件加速器，從而可以無縫地滿足高計算資源要求，幫助選擇最佳 ML 模型以提供最高預測準確性，并在模型在生產(chǎn)中遇到新數(shù)據(jù)時協(xié)助ML推理工作。

●   跨平臺方面，OpenShift包含多項關鍵功能，可以跨數(shù)據(jù)中心、公共云計算和邊緣計算以一致的方式實現(xiàn)機器學習運維（MLOps）。

●   生態(tài)方面，紅帽的開放混合云平臺整合了容器、Kubernetes、DevOps等技術與實踐，由廣泛的合作伙伴提供支持，幫助開發(fā)者為生產(chǎn)就緒型AI/ML 環(huán)境構建堅實的基礎，同時提供AI云服務和快速采用培訓。

三、本地化部署AI大模型可能是第一步

（1）為什么大模型需要本地化部署？

●   數(shù)據(jù)安全合規(guī)。金融、醫(yī)療、IT、工業(yè)等行業(yè)AI大模型應用中，私有化部署將確保數(shù)據(jù)存儲與處理均在企業(yè)防火墻之內(nèi)，符合歐洲GDPR、美國加州CCPA等數(shù)據(jù)保護法規(guī)要求，防止數(shù)據(jù)外泄風險。

●   行業(yè)專屬模型。私有化部署AI大模型，企業(yè)能根據(jù)自身業(yè)務流程和市場需求定制AI功能，加速產(chǎn)品和服務的創(chuàng)新。如模型微調(diào)、新算法快速測試部署、與現(xiàn)有IT系統(tǒng)深度集成，促進AI技術與業(yè)務深度融合。

●   長期成本效益。長期來看，私有化部署可以降低云服務費用，特別是在數(shù)據(jù)處理量巨大或模型頻繁使用的情況下，成本效益更為明顯。

（2）大模型應該怎么私有化部署？

AI大模型本地化部署全套服務的成本較高。授權費用通常包含模型使用權、技術支持與維護等服務，加上必要的硬件投資，總體開銷不容小覷。

圖片來源：智譜AI開放平臺

考慮到成本控制的需求，企業(yè)可以選擇一種更為經(jīng)濟靈活的路徑——采用開源大模型加定制化部署服務的模式。

LLAMA、Qwen等提供開源預訓練模型，企業(yè)按需選擇合適的模型二次開發(fā)和微調(diào)。通過第三方技術服務商，企業(yè)獲得模型選型、部署到后期運維的一站式解決方案，享受開源成本優(yōu)勢，確保系統(tǒng)穩(wěn)定運行。

——紅帽就提供了本地化部署和服務的商業(yè)模式。

紅帽O(jiān)penShift提供了一個適合AI工作負載的可擴展應用平臺，并以主流的硬件加速器來加以完善。加拿大皇家銀行與紅帽、英偉達合作，內(nèi)部交付AI私有云功能，推動企業(yè)IT技術進步的同時，也保障了數(shù)據(jù)的隱私。

四、端云結(jié)合，可能是未來AI大模型操作系統(tǒng)的重點方向

大模型本地化部署面臨算力瓶頸問題，訓練效率與推理性能受限。需在模型性能上妥協(xié)，以適應有限的計算資源。

云平臺是AI大模型訓練和推理的理想場所，可結(jié)合高算力訓練、優(yōu)化、運行參數(shù)量更大的模型。此外，云平臺還可以接入自然語言理解、圖像識別、視頻分析等API，可調(diào)用服務實現(xiàn)功能的快速集成。

此外，隨著阿里云、火山引擎等國內(nèi)大廠相繼推出大模型降價甚至免費的策略，大大降低了企業(yè)和開發(fā)者接入高質(zhì)量AI服務的門檻。

圖片來源：阿里云大模型服務平臺百煉

面向未來，AI大模型需端云結(jié)合。端側(cè)私有化部署，減少數(shù)據(jù)延遲，減少敏感數(shù)據(jù)傳輸，增強隱私保護和數(shù)據(jù)安全性。云端進行模型訓練、更大參數(shù)模型推理，結(jié)合各種接口開發(fā)應用，并基于端側(cè)新數(shù)據(jù)迭代優(yōu)化模型，持續(xù)迭代優(yōu)化。

紅帽的AI端云協(xié)同的平臺OpenShift ，可以跨公共云、本地、混合云或邊緣架構提供一致體驗。可以跨數(shù)據(jù)中心、公共云計算和邊緣計算以一致的方式實現(xiàn)機器學習運維。通過應用 DevOps 和 GitOps 原則，企業(yè)可以自動化并簡化將機器學習模型集成到軟件開發(fā)、生產(chǎn)、監(jiān)控、再訓練和重新部署的迭代流程。

總結(jié)

AI大模型的浪潮不僅推動了技術邊界的拓展，也對傳統(tǒng)操作系統(tǒng)提出了新的挑戰(zhàn)。當前市場上，真正意義上的AI原生操作系統(tǒng)尚屬空白，處理大模型所需的高效數(shù)據(jù)流轉(zhuǎn)、異構資源調(diào)度、以及模型生命周期管理等方面的能力存在局限。

紅帽作為開源操作系統(tǒng)解決方案的領導者，正探索將AI大模型更深融入操作系統(tǒng)。他們一方面理解AI大模型的技術特性與應用需求，包括模型架構、訓練與推理的優(yōu)化策略，如何利用端側(cè)和云端的資源；同時，構建面向用戶的支撐體系，簡化開發(fā)者、運維人員在操作系統(tǒng)層面上，集成、部署、監(jiān)控AI大模型的流程，提供一套易用的工具鏈和框架，快速實現(xiàn)AI大模型的價值轉(zhuǎn)化?；诖?，紅帽旨在打造更智能、靈活的操作系統(tǒng)，最大限度地釋放AI技術的生產(chǎn)力。

關于作者

劉延

關注硬科技、數(shù)碼等領域。知乎優(yōu)秀答主。