2月28日，由浦軟創(chuàng)投攜手華為云，聯(lián)合硅基流動、清昴智能、蜜度科技、蘑菇云創(chuàng)客空間共同舉辦的《大模型驅(qū)動下的AI Infra創(chuàng)新：技術(shù)突破與應(yīng)用拓展》主題會議在上海浦東軟件園舉行，這場盛會吸引了眾多AI領(lǐng)域的大咖齊聚一堂。

《大模型驅(qū)動下的AI Infra創(chuàng)新：技術(shù)突破與應(yīng)用拓展》主題會議

本次活動亮點(diǎn)紛呈，不僅有AI Infra領(lǐng)域的前沿洞察分享，還深度探討了人工智能行業(yè)的痛點(diǎn)與解決方案，為參與者提供一場思想的盛宴。無論是關(guān)注大模型私有化部署的企業(yè)高管，還是AI領(lǐng)域的創(chuàng)業(yè)者與技術(shù)負(fù)責(zé)人，亦或是對大模型應(yīng)用感興趣的開發(fā)者，都能在這里找到靈感與機(jī)遇。

會議現(xiàn)場

硅基流動政企商業(yè)化負(fù)責(zé)人分享了在AI應(yīng)用部署大模型的過程中，開發(fā)者面臨的四大核心挑戰(zhàn)：模型豐富度不足、推理速度瓶頸、推理成本過高、系統(tǒng)可用性風(fēng)險，為此，AI基礎(chǔ)設(shè)施需通過模型微調(diào)與集成工具鏈增強(qiáng)多模型兼容性，借助超低延遲架構(gòu)與調(diào)度優(yōu)化突破算力效率邊界，依托芯片適配與吞吐量最大化策略實(shí)現(xiàn)硬件降本增效，并通過云原生穩(wěn)定性架構(gòu)與開發(fā)工具鏈兼容設(shè)計構(gòu)建全鏈路可靠性保障，最終形成覆蓋“模型-算力-硬件-系統(tǒng)”的閉環(huán)解決方案。

清昴智能市場合伙人現(xiàn)場介紹了其玄武智算平臺的突破性能力：通過DeepSeek敏捷集群部署方案的自動化優(yōu)化技術(shù)，在Llama系列模型（78/158/308/658）上實(shí)現(xiàn)推理速度2-10倍提升、內(nèi)存占用縮減2-4倍、吞吐量激增10-30倍，同時將模型部署周期從傳統(tǒng)3-12個月壓縮至1周，在最小化精度損失的基礎(chǔ)上，全面兼容國產(chǎn)芯片與英偉達(dá)異構(gòu)算力，以實(shí)際案例驗證了該方案如何系統(tǒng)性攻克AI應(yīng)用“高延遲、高成本、長周期”難題，推動行業(yè)邁向高效敏捷部署的新階段。

蘑菇云創(chuàng)客空間的聯(lián)合創(chuàng)始人夏青主持圓桌論壇并分享看法

蘑菇云創(chuàng)客空間聯(lián)合創(chuàng)始人夏青主持了圓桌論壇，并分享了對于人工智能基礎(chǔ)建設(shè)發(fā)展的看法，人工智能基礎(chǔ)設(shè)施（AI Infra）的演進(jìn)正推動新一輪技術(shù)范式重構(gòu)：在生成式AI與大模型爆發(fā)性需求的催化下，行業(yè)競爭已從單一算法突破轉(zhuǎn)向系統(tǒng)性效率博弈。頭部企業(yè)依托資本與生態(tài)優(yōu)勢加速構(gòu)筑技術(shù)壁壘，而中小參與者的破局關(guān)鍵在于通過異構(gòu)計算優(yōu)化、輕量化架構(gòu)設(shè)計、開源協(xié)同生態(tài)實(shí)現(xiàn)技術(shù)普惠化——以分布式訓(xùn)練效率提升降低算力邊際成本，以自適應(yīng)模型壓縮打破硬件依賴桎梏，以模塊化工具鏈縮短開發(fā)周期。這場變革的本質(zhì)是算力民主化進(jìn)程的深化，唯有將底層基礎(chǔ)設(shè)施的“高門檻、重資產(chǎn)”特性轉(zhuǎn)化為“可擴(kuò)展、可定制”的服務(wù)能力，方能在產(chǎn)業(yè)級智能化的浪潮中重塑價值分配格局。