操欧美大逼-操榴视频-操操网址-不卡一区二区在线观看-亚洲人成在线中文字幕-亚洲人成在线免费观看

首頁 > 汽車生活 > 汽車生活 > 高文院士談AI:規(guī)模即所需,三“大”缺一不可

高文院士談AI:規(guī)模即所需,三“大”缺一不可

發(fā)布時間:2024-05-26 15:40:17來源: 15210273549

規(guī)模是做好生成式人工智能的撒手锏,大數(shù)據(jù)、大模型和大算力對于生成式人工智能缺一不可。”在近日舉行的第七屆數(shù)字中國峰會之中國移動人工智能生態(tài)大會上,中國工程院院士、鵬城實(shí)驗(yàn)室主任、北京大學(xué)博雅講習(xí)教授高文表示。高文院士回顧了人工智能發(fā)展的三次浪潮,并對影響當(dāng)下生成式人工智能發(fā)展的關(guān)鍵因素進(jìn)行了分析。

歷經(jīng)三次浪潮

1956年夏天,美國達(dá)特茅斯學(xué)院舉行了一場研討會,在會上麥卡錫首提“人工智能”,標(biāo)志著人工智能元年的到來。追憶歷史,高文表示,從1956年開始人工智能經(jīng)歷了三次浪潮:以推理研究為主的第一次浪潮,持續(xù)20年左右時間;以專家系統(tǒng)為主的第二次浪潮,持續(xù)30年左右時間;以及從2006年開始的第三次浪潮。其中第三次浪潮又包括兩大技術(shù)進(jìn)展:從2009年開始的判別式人工智能,從2018年開始的生成式人工智能。

2009年,華裔科學(xué)家李飛飛和李凱教授提出imageNet(圖像網(wǎng)絡(luò)),一石激起千層浪,業(yè)界八仙過海各顯神通,紛紛基于imageNet提出各自的判別式人工智能算法,直到2012年深度神經(jīng)元網(wǎng)絡(luò)出現(xiàn),以絕對優(yōu)勢令其他算法黯然失色,將百花齊放的格局進(jìn)行收斂。2015年微軟研究院何凱明、孫劍等聯(lián)合提出ResNet(殘差網(wǎng)絡(luò)),又將判別式人工智能帶到了新高度。此后,從深度神經(jīng)網(wǎng)絡(luò)DNN到卷積神經(jīng)網(wǎng)絡(luò)CNN再到循環(huán)神經(jīng)網(wǎng)絡(luò)RNN,深度網(wǎng)絡(luò)快速迭代,不斷走向新的技術(shù)高度。

“判別式人工智能以模式識別見長,如圖像分類、人臉識別、智能監(jiān)測等,如今廣泛應(yīng)用的人臉識別正是判別式人工智能的應(yīng)用。判別式人工智能與人的對象認(rèn)知學(xué)習(xí)接近,可以根據(jù)學(xué)習(xí)速度、記憶規(guī)模、判別準(zhǔn)確度判斷其結(jié)果好壞。”高文分析。

大語言模型破解長語言序列難題

不過,判別式人工智能通過在神經(jīng)網(wǎng)絡(luò)中輸入大量數(shù)據(jù)進(jìn)行快速判別,擅長圖像和矩陣識別,對于長語言序列則力不從心。在這樣的形勢下,大語言模型應(yīng)運(yùn)而生,致力于解決長語言序列問題,而生成式人工智能則是大語言模型的最主要突破。

高文表示,自2018年開始生成式人工智能快速迭代,從大語言模型LLM到ChatGPT再到Sora多模態(tài),萬變不離其宗的是底層關(guān)鍵技術(shù)GPT(生成式預(yù)訓(xùn)練模型)。GPT引入注意力機(jī)制,使得一個長串中無論相隔多遠(yuǎn)的兩個相關(guān)數(shù)據(jù)都能連接在一起,并訓(xùn)練出關(guān)聯(lián)度。“GPT的核心算法是用大量序列做大模型預(yù)訓(xùn)練,關(guān)鍵是注意力機(jī)制。由于GPT算法對業(yè)界并無差別,因此具體應(yīng)用效果取決于學(xué)習(xí)速度、記憶規(guī)模、表達(dá)準(zhǔn)確度等。”高文認(rèn)為。

雖然如今ChatGPT如火如荼,但是GPT起初并沒有激起太多漣漪。這是因?yàn)镚PT使用起來問題較多:給出的答案要么過于簡單,要么過于復(fù)雜,要么不合規(guī),存在意識形態(tài)、文化習(xí)慣、行業(yè)差別等方面的問題。

ChatGPT的出現(xiàn)改變了這一現(xiàn)象,使得業(yè)界對于人工智能的印象和投入力度大為改觀。不過從底層技術(shù)看,從GPT到ChatGPT并沒有改變,其不同在于:一是ChatGPT增加了InstructionGPT指令,通過微調(diào)、對齊和抑制,使得回答更加“人模人樣”;二是引入基于人類反饋的增強(qiáng)學(xué)習(xí)RLHF,解決合規(guī)問題和垂應(yīng)用適配等。

大數(shù)據(jù)、大模型和大算力缺一不可

在中國移動人工智能生態(tài)大會上,中國移動發(fā)布了“萬千百”智能基座,其中,“萬”指“萬”卡互聯(lián)并行加速算力供給,中國移動年內(nèi)將投產(chǎn)3個近兩萬卡超大規(guī)模單體智算中心和12個區(qū)域智算中心,廣泛升級1500個邊緣節(jié)點(diǎn),為全社會提供澎湃算力。

中國移動在智算中心方面的規(guī)模投入并非個例,隨著生成式人工智能的發(fā)展,全國各地多個智算中心如雨后春筍不斷出現(xiàn),而這背后的原因是人工智能的發(fā)展需要算力支撐。

“生成式人工智能做得好不好,規(guī)模是決性定因素。”高文一語道出其中關(guān)鍵。

高文表示,GPT和Sora等人工智能生成技術(shù)并沒有提出理論革新,與20年前的人工智能神經(jīng)網(wǎng)絡(luò)理論本質(zhì)上并無差異。生成式人工智能的突破得益于大數(shù)據(jù)、大模型和大算力,這三個“大”缺一不可。特別是算力,如今千卡是入門級規(guī)模,要想做大模型必須有萬卡級。

對于規(guī)模,OpenAI等公司也有深刻見解:如果能用規(guī)模解決問題,就無需動用新的算法。不僅如此,OpenAI還提出了“假設(shè)性三公理”,已被AI領(lǐng)域奉為圭臬。

第一條公理,苦澀的教訓(xùn)。多年來人工智能的研究者們一直試著將人類已知的知識構(gòu)建到他們的智能體中,但是屢戰(zhàn)屢敗。成功的極少數(shù)案例都是使用規(guī)模計算,通過搜索和機(jī)器學(xué)習(xí)完成的。大規(guī)模、大算力和大數(shù)據(jù)是通用人工智能的必要條件。

第二條公理,規(guī)模即所需。一旦選擇了良好且通用的數(shù)據(jù)標(biāo)注、算法,就能夠找到一套通用的規(guī)律,數(shù)據(jù)越多,模型越大,效果就越好,而且這個規(guī)律在訓(xùn)練之前就可以預(yù)知效果。大規(guī)模是通用人工智能AGI的充分條件,大就是好。

第三條公理,涌現(xiàn)需規(guī)模。隨著規(guī)模的擴(kuò)大、數(shù)據(jù)的增加,大模型一定會涌現(xiàn)出前所未有的能力,這個能力可以被所有人看到。

最后,高文總結(jié)表示,判別式人工智能方興未艾,生成式人工智能如火如荼,關(guān)于下一波浪潮業(yè)界也有很多預(yù)測,如無人駕駛、具身智能、人形機(jī)器等,但總體而言仍不得而知。未來充滿想象,值得我們期待,也需要業(yè)界有所作為。高文特別提到,中國的人工智能需要自己的大模型底座,只有這樣才能實(shí)現(xiàn)以中文語料和中國歷史為基礎(chǔ)的文明傳承。

汽車生活更多>>

比亞迪騰勢Z9 GT交付破萬,創(chuàng)新能源豪華GT車型最快紀(jì)錄 小姐姐最愛買的電動車:小鵬MONA M03累計交付超6萬臺 方程豹豹8交付破萬,國產(chǎn)硬派SUV新速度 smart品牌全球銷量增長7%,2025年拓展超10個海外市場 虞美人花在廢墟上綻放:加拿大的戰(zhàn)爭紀(jì)念 甘會斌|人間已無格爾茨 秉持國匠擔(dān)當(dāng),天津城投·時代之城引領(lǐng)城市更新迭代 理解貴州|紅色I(xiàn)P,何以鮮亮如新——解碼貴州紅色之旅的現(xiàn)代表達(dá) 上海春運(yùn)辦:對外客運(yùn)量呈快速增長趨勢,明天將發(fā)送63萬人次 《國色芳華》:花開應(yīng)傲骨 我要去長安探秘,長安汽車黑科技體驗(yàn)營免費(fèi)開放 比亞迪全新跑車曝光,對標(biāo)保時捷911,老百姓買得起不? 豐田MR2有望重生,Celica及旗艦超跑也在路上 自動駕駛新時代即將到來?中美兩地對比測試小鵬特斯拉智駕系統(tǒng) 比亞迪唐L霸氣來襲,提供無人機(jī)艙,1月17日正式發(fā)布,劍指理想L6 捷尼賽思GV60 Magma能否憑借650馬力刷新高性能電動車市場格局? 37年聚焦中國用戶需求,一汽奧迪以“56789” 體系再現(xiàn)王者實(shí)力 6.2L V8機(jī)增+720Ps馬力,4秒內(nèi)破百,美式SUV頂流,油門給我踩踩踩! 2025年舟山市定海區(qū)民政局招聘社會救助專職社工公告 2025年溫州市蒼南縣人武部招聘民兵教練員駕駛員公告 2025年紹興科技館招聘工作人員公告 2025年溫州市平陽縣科學(xué)技術(shù)局招聘編外工作人員公告 2025年浙江省國土空間規(guī)劃研究院招聘工作人員公告 2025年鹽城市第九實(shí)驗(yàn)學(xué)校選調(diào)教師公告 2025年平果市林業(yè)局公益性崗位人員招聘公告(1人) 2025年越秀區(qū)黃花崗街道招聘輔助人員公告(1人) 上海援藏醫(yī)生在日喀則:連夜手術(shù),搶救地震重癥傷員 余震不斷的西藏定日,他們在一線馳援 集成電路超過手機(jī),成為中國出口額最高的單一商品 紫光國微去年?duì)I收降近三成,凈利腰斬:特種集成電路業(yè)務(wù)下游需求不足
主站蜘蛛池模板: 亚洲一区二区三区免费观看 | 国产精品高清视亚洲乱码 | 91精品福利老司机在线观看 | ak福利影院| 日本高清中文字幕视频在线 | 69国产成人综合久久精品91 | 亚洲天堂一区在线 | 中文黄色 | 色妞在线观看 | 欧美超高清在线观看 | a级片免费观看 | 四虎影视在线永久免费看黄 | 天天久久综合网站 | 尤物精品视频一区二区三区 | 欧美成人一级 | 欧美精品免费线视频观看视频 | 特黄a级片| www亚洲免费| 传媒视频免费在线观看 | 黄色美女网站在线观看 | 全网免费在线播放视频入口 | 麻豆视频官网 | 日本夜夜夜| 欧美综合在线视频 | 久久精品国产清白在天天线 | 国产精品午夜久久久久久99热 | 久草资源在线 | 久久素人| 99视频在线免费 | 国产一区二区免费播放 | 亚洲第一第二区 | 精品视频在线免费播放 | 亚洲国语在线视频手机在线 | 精品美女在线 | 日韩亚色 | 黄色精品在线 | 好爽好大www视频在线播放 | 久久综合九色综合97飘花 | 精品在线视频观看 | 新久草| 麻豆精品传媒视频观看 |