青云科技 2024 AI 算力發(fā)布會成功舉辦，以 “無界算力，共創(chuàng)數(shù)智未來” 為主題，全面展示了青云在 AI 算力領域的產(chǎn)品創(chuàng)新、生態(tài)建設及場景落地成果。

青云科技副總裁沈鷗與中科曙光智能計算產(chǎn)品事業(yè)部副總經(jīng)理胡曉東、中關村科服副總經(jīng)理陳俊豪、智譜 VP 聞劍輝、升哲科技首席架構師張國棟等合作伙伴代表，就“智算生態(tài)協(xié)同創(chuàng)新，構建企業(yè)數(shù)智未來”坐而論道，展開深入交流。

企業(yè)應用 AI 的挑戰(zhàn)與困難

主持人：2023 年常被視作 AIGC 元年，2024 年則被稱為 AIGC 的應用之年。當前，企業(yè)對于使用 AI、引入 AI 的意愿極為強烈，但實際上，在這個過程中企業(yè)會面臨諸多挑戰(zhàn)與困難。下面請各位嘉賓來依次談談如何看待企業(yè)應用 AI 時所遇到的挑戰(zhàn)和困難。

張國棟：升哲科技基于算力底座以物聯(lián)網(wǎng)和人工智能為依托，提供城市級的數(shù)據(jù)服務，因此我們會做大規(guī)模城市治理等相關應用的開發(fā)。目前，我們已在平臺中引入多模態(tài)大模型，對業(yè)務流程進行改造。當前面臨的最大挑戰(zhàn)在于，多模態(tài)、大模型的使用方式與傳統(tǒng)模型差異顯著，整個用戶邏輯、界面交互流程以及使用方法都與以往大不相同。我們?nèi)栽诿鳟斨?，同時也在與各地用戶共同打磨、嘗試，以期找到更好的邏輯，充分發(fā)揮多模態(tài)、大模型的強大威力。此外，我們發(fā)現(xiàn)目前市面上熟悉多模態(tài)、包括大語言模型的產(chǎn)品經(jīng)理，以及懂得如何運用的工程師較為稀缺。

聞劍輝：就人工智能應用而言，智譜觀察到，當前客戶面臨的最大挑戰(zhàn)或許在于自我革命。如今，真正在人工智能應用方面推廣力度較大的往往是超大規(guī)模企業(yè)，因為他們資金充裕且有長遠規(guī)劃。還有一些技術、市場驅(qū)動的企業(yè)，他們積極主動擁抱未來，希望借此提升自身生產(chǎn)力。然而，對于一些中型企業(yè)或傳統(tǒng)行業(yè)來說，相對而言包袱較重。一方面，他們需要看清大模型的發(fā)展路徑，另一方面，顛覆自身所有業(yè)務模式以及 IT 構建模式對他們而言難度頗大。從這個角度來看，無論是大模型的生態(tài)建設，包括底層算力和上層應用，大家都只有不斷創(chuàng)新，真正向客戶展現(xiàn)出應用價值和未來創(chuàng)新價值，才能將大模型真正應用于千行百業(yè)。

胡曉東：中科曙光聚焦于算力底座這一層，從與各行業(yè)的合作溝通經(jīng)驗來看，我們認為，對于企業(yè)而言，關鍵在于如何充分挖掘自身的場景價值和數(shù)據(jù)價值。此前我們談到 2023 年是 AIGC 元年，實際上在 2023 年，新的大模型持續(xù)發(fā)布，趨勢十分明顯。而到了 2024 年，大家都在致力于實現(xiàn)自身行業(yè)的垂直落地，大模型的發(fā)布節(jié)奏反而會稍緩一些。對于企業(yè)來說，AI 的幾大要素包括算力、算法和數(shù)據(jù)。算力無疑是非常重要且熱門的，在算法方面，大家都在積極發(fā)展大模型，國內(nèi)外在算法上處于互相追趕的狀態(tài)。實際上，在企業(yè)應用上，更為重要的是數(shù)據(jù)。我們常說 AI 賦能千行百業(yè)，專有的數(shù)據(jù)和場景才是千行百業(yè)的特征所在。企業(yè)不可能完全依賴一個第三方來發(fā)展 AI，必須聯(lián)合起來，既有外部的算力專家和算法專家，同時也有了解企業(yè)內(nèi)部場景和應用數(shù)據(jù)的人員，共同進行抽象和挖掘，提煉出特有的行業(yè)屬性，才能促進企業(yè)的深層應用，推動垂類 AI 場景實現(xiàn)更好的發(fā)展。

陳俊豪：中關村科服有幾個方面的認識：其一，作為北京市屬國企，除了我們這類服務科技創(chuàng)新的企業(yè)，還有很多是服務民生及基礎設施建設運營的企業(yè)，第一個問題便是如何將自身的服務產(chǎn)品與客戶數(shù)據(jù)和模型相結(jié)合，獲得高質(zhì)量、可用于訓練和推理的數(shù)據(jù)，這個事頗具難度，是當下傳統(tǒng)行業(yè)以及國央企要積極擁抱人工智能但又有實現(xiàn)障礙的原因之一。

其二，中關村在北京有十幾個園區(qū)，在北京之外還有幾十個園區(qū)，園區(qū)里匯聚了相當數(shù)量的科技企業(yè)。如何讓這些企業(yè)用上更便宜的算力，是一個關鍵問題。正如青云科技分享了許多關于多卡、異構、國產(chǎn)算力與進口算力的適配等情況，對用戶來說還有很多障礙。我們也在思考究竟是投入算力基礎設施建設，還是與青云這樣的生態(tài)伙伴共同打造一個智算服務平臺。

其三，我們特別希望能夠扶持國內(nèi)的國產(chǎn)算力企業(yè)，包括芯片企業(yè)。我兼任中關村芯園的董事長，芯園為一大批芯片設計企業(yè)提供流片等服務，我們同樣希望能夠早日用上我們自己的國產(chǎn)算力。

沈鷗：我想表達兩點：第一， AI 對于傳統(tǒng)的 IT 基礎架構、傳統(tǒng)應用而言都是顛覆性的。正如剛才聞總所說，對于算力建設者來說，這種顛覆性意味著他們需要理解大模型建設背后的深層次技術能力是如何達成的，他們首先要在自身的組織架構以及知識體系上進行一些重構。

第二，評估以何種方式去構建與大模型相關的應用系統(tǒng)和系統(tǒng)架構，這對于大多數(shù)企業(yè)而言都是一個新的課題，這也正是為什么剛才花費了較多時間來介紹青云在各個行業(yè)和場景中的挑戰(zhàn)和 AI 建設場景。我們遇到了不少客戶，他們提出的問題仍然是基于傳統(tǒng)的 CPU 理念的，我們希望通過這樣的場景介紹，為那些希望使用大模型應用的客戶指出一條路，讓他們知道起點在哪里，如何逐步走好建設大模型的道路。

生態(tài)合作才能更好實現(xiàn) AI 落地

主持人：從今年人工智能產(chǎn)業(yè)的發(fā)展情況來看，所有企業(yè)都在談論生態(tài)。在當前行業(yè)狀態(tài)下，各位嘉賓是如何看待通過生態(tài)合作來實現(xiàn)更好的客戶成就，或者幫助企業(yè)獲得更好的產(chǎn)品或服務的？正好前面陳總談到關于生態(tài)合作的一些想法，那這個問題先請陳總回答。

陳俊豪：先分享一個消息，中關村科服多次承辦由北京市國資委主辦的科創(chuàng)企業(yè)與北京市屬國有企業(yè)應用場景發(fā)布對接會。最近一次預計在 12 月初，可能由京津冀三地國資委共同舉辦，歡迎今天在座的生態(tài)伙伴前來參與。

從我們自身的角度來看，如果大家現(xiàn)在都去建設算力基礎設施，短期內(nèi)可能會出現(xiàn)過剩的情況，最科學的方法是根據(jù)企業(yè)的實際需求提供全棧式解決方案。而這個全棧式解決方案從理論上講不應該由一家企業(yè)來提供，也不可能形成一家獨大的市場格局。我們作為第三方專業(yè)科技服務機構，希望在市里、區(qū)里相關政策的支持以及行業(yè)生態(tài)伙伴的合作下，以最少的成本為企業(yè)提供最好的服務，讓大家在賺錢的前提下共同做好這件事，使所有相關產(chǎn)業(yè)鏈中的客戶和服務者都能獲得自己的應有收益。

我們期望這個生態(tài)更開放、更共享。我們后續(xù)還將進行一個開源社區(qū)的建設落地工作，包括與青云科技一起，針對某些應用場景，如數(shù)字醫(yī)療等場景進行生態(tài)開發(fā)，非常歡迎大家共同合作。

張國棟：升哲自身積累了物聯(lián)網(wǎng)和人工智能方面的能力，擁有相關的軟硬件資源。然而，在 IaaS 和 PaaS 部分，當一個城市接入成千上萬個攝像頭時，底層平臺所承受的壓力是巨大的。所以在這方面，我們每個算力中心基本上都是與青云合作，由青云為我們提供 IaaS 和 PaaS 的能力，這樣我們便可以專心致志地做好應用服務工作。

聞劍輝：大模型技術從本質(zhì)上來說是對傳統(tǒng)人工智能的更新與迭代。大模型技術在應用側(cè)，更為關鍵的是降低了應用開發(fā)廠商進入人工智能技術領域的門檻。所以實際上，大模型本身就是從根本上擁抱生態(tài)的產(chǎn)物。從整個生態(tài)建設的角度來看，最需要的是良好的土壤和空氣。在這一點上，我們確實堅定不移地期望國家和政府能夠給予相應的產(chǎn)業(yè)扶持，從而帶動上下游企業(yè)共同發(fā)展。最后，我還是想強調(diào)，生態(tài)建設不光是我們同業(yè)之間的合作，更多的是需要涵蓋我們的客戶。只有將大家真正的場景落地，才能真正讓這個生態(tài)進入正循環(huán)。

胡曉東：剛才沈總分享里 AI 架構圖中，底層是算力底座，中間涵蓋平臺層、模型層以及一些行業(yè)應用，最上層則是用戶。結(jié)合這張圖來看，曙光作為底層算力底座，在推動我們的產(chǎn)品和方案時，要做的事情是從底座直接貫穿至上層用戶場景。這樣的業(yè)務特征決定了我們在生態(tài)中具有一項優(yōu)勢，即拉通作用。我們可以與客戶共同分析業(yè)務需求，明確需要什么樣的功能，如何對行業(yè)進行場景化分析，以及需要什么樣的 ISV 等等。

即便我們的某個伙伴專注于某個層面，因為畢竟整個鏈條很長，我們可以并且愿意將分析出來的需求共享，以硬件為載體，與整個上下游拉通，形成整體解決方案。這是我們愿意提供的價值，并且我們希望以曙光的硬件作為載體，以場景作為切入點，將整個鏈條所需的廠商聚集在一起，共同推進，讓千行百業(yè)的場景得以落地。

沈鷗：建設生態(tài)是青云在整個智算建設過程中最為看重的一點，對于主持人的問題，我稍作延展。在整個生態(tài)合作當中，如何讓生態(tài)合作伙伴建立起更好的互信，從而使這個生態(tài)真正落地，我認為是關鍵所在，這并非僅僅依靠一個紙面簽字或者單純進行技術對接就能實現(xiàn)的。

我們希望能夠從客戶的實際業(yè)務場景出發(fā)，共同規(guī)劃和驗證，和方案落地實施。只有當各方的解決方案合作起來，真正解決客戶的痛點和難點，讓客戶覺得物有所值時，客戶才會買單。只有當多方合作形成的方案被復制，被更大客戶所應用，才能帶來更好的經(jīng)濟效益，推動大家繼續(xù)前行。因此，我們需要先彼此達成共識，明確目標，為商業(yè)合作的達成共同努力。

企業(yè) AI 投資的 ROI 如何保障

主持人：在近兩年的訪談當中，我們發(fā)現(xiàn)，企業(yè)常常在大模型投入方面表現(xiàn)得特別遲疑或者擔憂。他們尤其擔心自身的資源投入與回報周期不匹配，大家都在思索投資回報率（ROI）究竟如何，都期望找到良好的解決方案來推進這件事。關于這個問題，我想先請從事大模型相關工作的聞總談談看法。

聞劍輝：這確實是一個頗為難答的問題。但有一點是明確的，大模型的未來或者說人工智能的未來是不可逆轉(zhuǎn)的。正如我一開始所說，很多客戶要么具備規(guī)劃能力，要么有著進行變革、創(chuàng)新的緊迫需求，所以往往會更快地接觸這些新技術。對于很多中型企業(yè)或者有一定資金能力但目前仍在遲疑的客戶，我個人的建議是，大家可以跨過淺水區(qū)，直接進入深水區(qū)。如果一項技術能夠給企業(yè)帶來革新，尤其是對核心應用的革新，相信每個企業(yè)都會進行資金投入的嘗試。

但如果大家認為大模型目前只能解決一些淺顯的問題，那么確實可能會遲疑。但大模型技術的更新迭代非常快，我們今天的投入可能在三個月、六個月內(nèi)看不到結(jié)果，但三個月、六個月之后的大模型技術或許真的能夠讓他們獲得一些成果。所以，我覺得那些遲疑的企業(yè)可以跨過淺層應用，直接到深水區(qū)進行嘗試。

胡曉東：這個問題歸根結(jié)底是要解決投入與產(chǎn)出之間如何匹配的問題。首先是選擇適合自身的投入方式。實際上，企業(yè)的定位各不相同，如果讓每個企業(yè)購買千張卡去構建自己的大模型，這肯定不現(xiàn)實，也無法獲得回報。企業(yè)需要考量自身的需求體量、業(yè)務特征以及此前的工作模式。比如，企業(yè)可以根據(jù)自身情況選擇構建自己的集群進行微調(diào)，打造具有行業(yè)屬性的模型。如果體量再小一些，可以考慮采用一體機或者利用線上資源池?？傊髽I(yè)要選擇與自身情況相匹配的投入方式。

其次是產(chǎn)出要有逐步的預期。不能期望立即產(chǎn)生回報、立即改變生產(chǎn)模式并實現(xiàn)降本增效。而是從改變某些局部業(yè)務場景開始，逐步深化到企業(yè)的更多層面。企業(yè)還是要先入場，只有先入場，才能在快速變化的環(huán)境中找到適合自己的模式。如果行動越來越慢，可能就更跟不上時代的潮流了。

陳俊豪：我們需要跳出來審視這個問題。從產(chǎn)品可復制、算力可復制以及能夠無限獲取邊際收益的角度來看，我認為人工智能是一個永遠不可逆的潮流。大家在與人工智能相關的所有事情上的投入，終將把人解放出來，最終可能只需要便宜的能源。而在這件事情上，政府和大型國央企或許會找到更好的解決方式。就大模型而言，邊際收益一定是正的，并且一定是能夠無限放大的。

沈鷗：在過去的三年多時間里，北美有幾家公司從事無人卡車業(yè)務，從明星公司最高市值 120 億美元，到現(xiàn)在基本上都黃了。為什么呢？看到一個觀點，任何大模型、AI 智能要在場景落地時，一定要回到這個場景最本質(zhì)的地方去理解整個業(yè)務的鏈路，以及與業(yè)務相關聯(lián)的各個利益方到底是如何考慮和參與的。只有找準了真正能解決痛點、帶來現(xiàn)金流的場景時，無論是用戶方還是技術方，大家都會非常愿意投入。

所以說，大模型相關的投資回報率（ROI）到底是高還是低呢？我認為有兩個維度：第一個維度，大模型對于整個產(chǎn)業(yè)來說是革命性的變革，如果現(xiàn)在不投入，可能就會落后。這也是為什么這兩年大家拼命投入智算中心，不計成本地進行 AI 應用開發(fā)，就怕晚了一步。第二個維度，選擇真正能通過 AI 工具帶來質(zhì)變的場景和應用。當成功做出一個案例時，后續(xù)就很容易迭代和快速復制，到那時 ROI 這件事就會變得相對容易。這就要看企業(yè)思考哪個維度優(yōu)先，不同的企業(yè)會有不同的選擇。

如何看待開放與標準化

主持人：我們今年看到“人工智能+”成為非常重要的戰(zhàn)略，大家也在探討算力中心的互聯(lián)互通、大模型的標準以及操作性。從技術開放、開源、標準化的角度來講，對 AI 生態(tài)有哪些助力？

沈鷗：在過去的一年里，青云積極參與到國家的一些標準建設當中，包括參加了許多信通院的標準制定工作。在國家算力互聯(lián)互通的測試驗證中，青云也是第一批完成相關技術驗證工作的企業(yè)。

剛才介紹時提到，青云在構建生態(tài)時有一個重要利器，那就是云原生平臺，這是基于我們的開源社區(qū)所打造的非常強大的產(chǎn)品，現(xiàn)在 K8s 是智算相關技術依賴的的一個重要基礎，無論從事存儲、網(wǎng)絡還是其他方面的工作，包括像英偉達所提供的產(chǎn)品服務 NIM，都是基于云原生 Kubernetes。大家相互之間使用同一種技術，同一個技術平臺進行溝通，會變得非常方便。國家層面正在建立互聯(lián)互通標準，而我們則建立企業(yè)與企業(yè)之間在技術對接平臺的標準。這些標準結(jié)合在一起，會對 AI 產(chǎn)業(yè)的發(fā)展起到非常大的推動作用。

陳俊豪：中關村科服對政府部門的一些相關政策和支持會更為了解，包括市經(jīng)信局、市科委、市發(fā)改委、市國資委在冗余資源的組織、公共服務能力方面，甚至是對企業(yè)的投入補貼、使用推廣以及相應的對客戶的補貼等方面，我們可以進行一些對接。

胡曉東：首先，開放無疑是當前行業(yè)中不可回避的問題，更是主旋律。在傳統(tǒng)觀念中，企業(yè)有上下游的概念，但在人工智能領域，可能并非傳統(tǒng)的上下游概念。智算中心更像是一個全連接的存在，只有這樣才能屏蔽一些困難。比如，不同行業(yè)的場景提供商無需關心底層云平臺采用何種調(diào)度策略，而對于同樣的行業(yè)廠商來說，他們關心的是將軟件層對接好，無需理會底層的硬件是何種芯片或服務器。這樣的模式?jīng)Q定了不同的合作方向。只有實現(xiàn)全面連接，才能推動這個行業(yè)快速發(fā)展。如果選擇一條封閉的道路，很快就會與大的發(fā)展趨勢脫節(jié)。

另一點是標準化。我們需要建立一個統(tǒng)一標準，曙光也同樣參與了一些信通院的標準制定工作，包括如何進行平臺適配、調(diào)度、切分以及接口設計等。這樣能夠形成行業(yè)的高效合作，減少溝通時間，讓各家更加專注于自己的領域，做好迭代，促進一個更加完整的產(chǎn)業(yè)鏈良性發(fā)展。

聞劍輝：如今可以說我們處于一個萬眾創(chuàng)新的時代。我們的同業(yè)與我們的客戶共同摸索創(chuàng)新，最終目的是為了百花齊放。既然國家制定了發(fā)展新質(zhì)生產(chǎn)力的大戰(zhàn)略，我們期望在大戰(zhàn)略的引領下，大家能夠?qū)⒏髯缘膬?yōu)勢發(fā)揮得更加淋漓盡致，只有這樣，我們的未來才可能相對更加便捷，也能夠讓我們更加快速地看到成果。

張國棟：從實際應用的角度來說，國家制定標準是一件好事。我們現(xiàn)在使用過很多開源或者閉源的大模型，目前大家基本對 OpenAI 的協(xié)議都是兼容的，都可以進行調(diào)用。但是，在一些特別的功能上，比如對一些圖片進行檢測或者分割的時候，每家的語法還是不太一樣，這一方面的統(tǒng)一標準很難制定出來，相信標準的制定出來會對行業(yè)有更多推動作用。

對行業(yè)的期待

主持人：最后我想請各位專家、嘉賓用一句話說一下自己，對 AI、對算力行業(yè)的期待。

張國棟：人工智能已經(jīng)在悄悄改變我們的工作和生活。

聞劍輝：分享智譜堅信的一句話：讓機器像人一樣思考。

胡曉東：希望和大家一起攜手創(chuàng)新，開放共贏。

陳俊豪：祝愿每一家企業(yè)都能用算力助力自己發(fā)展。

沈鷗：我來收尾，要求一個“特權”，說兩句話。第一句是代表公司，我們希望整個 AI 的發(fā)展越來越好，能真正滲透到千行百業(yè)，為企業(yè)的發(fā)展助力。第二句是代表個人，我希望像具身機器人這些新的 AI 技術，能解決越來越多的現(xiàn)實生活問題，比如養(yǎng)老。