巴菲特：無(wú)法預(yù)判人工智能的前景

周鴻祎談Sora：意味著 AGI (通用人工智能) 實(shí)現(xiàn)或從 10 年縮短至 1-2 年

巴菲特說(shuō)的沒(méi)錯(cuò)，人工智能武器化的話確實(shí)可怕。

一是從技術(shù)發(fā)展看，已經(jīng)朝著強(qiáng)人工智能（通用人工智能）發(fā)展了。或者說(shuō)，人工智能已經(jīng)開(kāi)始表現(xiàn)出形成智慧的能力，這是非常可拍的。

二是從技術(shù)應(yīng)用看，目前美國(guó)一直在將人工智能應(yīng)用于軍事領(lǐng)域了。俄烏沖突可以看出來(lái)，美國(guó)將人工智能應(yīng)用于情報(bào)收集和指揮控制領(lǐng)域了。美國(guó)提出的馬賽克戰(zhàn)，更是打算將人工智能應(yīng)用于作戰(zhàn)了。

三是人工智能在智慧化和武器化的基礎(chǔ)上，一旦控制不好，反向操控人類(lèi)，也是有可能的。

總結(jié)，人工智能是堪稱(chēng)比核武器更厲害的技術(shù)，畢竟人工智能監(jiān)管更難，技術(shù)大規(guī)模擴(kuò)散的成本低太多了。

通用人工智能將重塑場(chǎng)景、行業(yè)和產(chǎn)業(yè)格局
朱松純 中國(guó)政協(xié)雜志 2024-05-04 17:11 北京 2人聽(tīng)過(guò)

人類(lèi)正在跨入智能時(shí)代，通用人工智能的未來(lái)充滿無(wú)限可能，但也遍布多種挑戰(zhàn)。

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，正在深刻地改變著我們的生產(chǎn)方式和生活方式。當(dāng)前，人工智能技術(shù)正加速?gòu)母兄⒄J(rèn)知、理解世界向通用人工智能躍遷。以“通用智能體”為代表的通用人工智能技術(shù)，作為新質(zhì)生產(chǎn)力重要引擎，正在引領(lǐng)新一輪科技革命浪潮，將從以下三個(gè)層面重塑場(chǎng)景、行業(yè)和現(xiàn)代產(chǎn)業(yè)格局。

人工智能場(chǎng)景：北京，中國(guó)科技館，一個(gè)機(jī)器人正在彈奏古箏。（視覺(jué)中國(guó)/圖）

一是加快“人工智能+場(chǎng)景”應(yīng)用速度。過(guò)去多年來(lái)，人工智能的產(chǎn)業(yè)應(yīng)用局限于處理一些簡(jiǎn)單的重復(fù)性任務(wù)場(chǎng)景，無(wú)法理解人類(lèi)意圖，難以認(rèn)知場(chǎng)景中的任務(wù)，因此未能實(shí)現(xiàn)自主任務(wù)規(guī)劃。通用人工智能作為新質(zhì)生產(chǎn)力的典型代表，強(qiáng)調(diào)價(jià)值和數(shù)據(jù)的雙輪驅(qū)動(dòng)。北京通用人工智能研究院打造的通用智能體“小女孩——通通”已經(jīng)具備了類(lèi)人的基礎(chǔ)能力，具有高度的自主性和泛化性，未來(lái)可以像人一樣快速進(jìn)入各行業(yè)的不同場(chǎng)景。目前，研究院已經(jīng)聯(lián)合大型央國(guó)企業(yè)打造了一批行業(yè)智能體，包括應(yīng)急管理智能體、人才培養(yǎng)智能體、綜合治理智能體、醫(yī)療康養(yǎng)智能體等，在應(yīng)急、政務(wù)、康養(yǎng)、教育等領(lǐng)域已經(jīng)實(shí)現(xiàn)了成熟的落地應(yīng)用，推動(dòng)傳統(tǒng)人工智能向新型智能體轉(zhuǎn)化升級(jí)。

二是提高“人工智能+行業(yè)”生產(chǎn)效率。目前大模型技術(shù)在可解釋性、可靠性等方面還不夠成熟，受限于兩個(gè)因素：安全性——面臨數(shù)據(jù)不出域的限制；實(shí)時(shí)性——實(shí)現(xiàn)云端協(xié)同實(shí)時(shí)處理。通用智能體是由認(rèn)知架構(gòu)頂層設(shè)計(jì)，以場(chǎng)景認(rèn)知理解、自主任務(wù)規(guī)劃、嚴(yán)肅知識(shí)管理、具身智能等為關(guān)鍵技術(shù)突破點(diǎn)，在行業(yè)的成長(zhǎng)性高，未來(lái)能實(shí)現(xiàn)自主完成任務(wù)，甚至是無(wú)限個(gè)不同性質(zhì)的任務(wù)，能極大緩解行業(yè)內(nèi)模型“用不好、不敢用”的現(xiàn)狀。比如，在政務(wù)、醫(yī)護(hù)、法律等嚴(yán)肅知識(shí)領(lǐng)域，通過(guò)可解釋AI算法建模，實(shí)現(xiàn)應(yīng)用場(chǎng)景中輔助決策的可溯源、可解釋、可調(diào)整、可信任，解決單純大模型因“幻覺(jué)”問(wèn)題在嚴(yán)肅領(lǐng)域產(chǎn)生的信息概率性失真問(wèn)題。將進(jìn)一步降低人工智能在產(chǎn)業(yè)中的風(fēng)險(xiǎn)和成本，充分激活行業(yè)價(jià)值。

三是重塑“人工智能+產(chǎn)業(yè)”發(fā)展格局。通用人工智能要構(gòu)建開(kāi)放包容的創(chuàng)新生態(tài)，其發(fā)展依賴(lài)于不同背景和領(lǐng)域的研究者、開(kāi)發(fā)者以及企業(yè)之間的合作，加速實(shí)現(xiàn)產(chǎn)業(yè)鏈、創(chuàng)新鏈、資金鏈、人才鏈四鏈融合。在發(fā)改委、教育部、科技部和北京市等的指導(dǎo)和支持下，我們率先打造“通用人工智能協(xié)同攻關(guān)計(jì)劃”人才戰(zhàn)略力量、“通用人工智能全重實(shí)驗(yàn)室”科技戰(zhàn)略力量、“通用人工智能新質(zhì)生產(chǎn)力基金”資金戰(zhàn)略力量和“通用人工智能產(chǎn)業(yè)生態(tài)”智能體生態(tài)戰(zhàn)略力量等，構(gòu)筑人才、技術(shù)、產(chǎn)業(yè)、投資四大生態(tài)體系，推動(dòng)通用人工智能可持續(xù)發(fā)展。

人類(lèi)正在跨入智能時(shí)代，通用人工智能的未來(lái)充滿無(wú)限可能，但也遍布多種挑戰(zhàn)。希望通過(guò)本次協(xié)商會(huì)，能夠進(jìn)一步促進(jìn)各方加強(qiáng)交流、凝聚通用人工智能發(fā)展共識(shí)，共同推動(dòng)我國(guó)現(xiàn)代產(chǎn)業(yè)創(chuàng)新發(fā)展，為提升人類(lèi)福祉作出更大貢獻(xiàn)。

作者：朱松純?nèi)珖?guó)政協(xié)委員北京通用人工智能研究院院長(zhǎng)北京大學(xué)智能學(xué)院院長(zhǎng)編輯：楊 靈校對(duì)：蒲水涵審核：史慧玲來(lái)源：《中國(guó)政協(xié)》2024年第9期

AI知識(shí)5 | 一文看懂什么是AGI

AGI，即通用人工智能（Artificial General Intelligence），是一種能夠執(zhí)行與人類(lèi)相當(dāng)或超越人類(lèi)的廣泛認(rèn)知任務(wù)的人工智能系統(tǒng)。與專(zhuān)注于特定任務(wù)的窄人工智能（Narrow AI）不同，AGI的目標(biāo)是具備廣泛的認(rèn)知能力，能夠在多種不同的任務(wù)和環(huán)境中表現(xiàn)出高度的靈活性和適應(yīng)性。AGI被認(rèn)為是強(qiáng)人工智能的一種形式，旨在實(shí)現(xiàn)類(lèi)人智能和自學(xué)能力，使其能夠執(zhí)行訓(xùn)練或開(kāi)發(fā)目的之外的任務(wù)。

AGI的研究領(lǐng)域包括理解和響應(yīng)非語(yǔ)言線索，如語(yǔ)氣、面部表情和手勢(shì)，以進(jìn)行更有意義、更有效的溝通。此外，AGI的目標(biāo)不僅是理解任意通用任務(wù)，而且還要以人類(lèi)的智力水平執(zhí)行這些任務(wù)，除了“自我意識(shí)”的生成外。盡管AGI的概念較為寬泛，沒(méi)有一個(gè)特別嚴(yán)格準(zhǔn)確的標(biāo)準(zhǔn)，但普遍理解的AGI定義是AI系統(tǒng)能夠在多個(gè)認(rèn)知領(lǐng)域進(jìn)行理解和推理，達(dá)到或超過(guò)人類(lèi)智力水平。

創(chuàng)建AGI是AI研究的主要目標(biāo)之一，也是許多公司如OpenAI、DeepMind和Anthropic等的研究重點(diǎn)。AGI的發(fā)展可能會(huì)對(duì)社會(huì)產(chǎn)生深遠(yuǎn)的影響，包括質(zhì)疑現(xiàn)有的意義和目的，擴(kuò)展知識(shí)，并重新定義人性和命運(yùn)。因此，利益相關(guān)者必須考慮并解決這些影響和風(fēng)險(xiǎn)，包括研究人員、開(kāi)發(fā)人員、政策制定者、教育工作者和公民。

AGI研究進(jìn)展

通用人工智能（AGI）的當(dāng)前研究進(jìn)展主要集中在以下幾個(gè)方面：

具身智能的研究：國(guó)內(nèi)外的大廠及高等學(xué)府，如微軟、谷歌、斯坦福等，都在開(kāi)展具身智能的相關(guān)研究。人形機(jī)器人被認(rèn)為是AGI的最佳載體，業(yè)界的研究進(jìn)展正在加速。
基于圖神經(jīng)網(wǎng)絡(luò)的研究：上海交大洪亮課題組發(fā)表了基于微環(huán)境感知圖神經(jīng)網(wǎng)絡(luò)構(gòu)建指導(dǎo)蛋白質(zhì)定向進(jìn)化的通用人工智能的最新研究成果，這表明在生物信息學(xué)領(lǐng)域，AGI的研究也在取得進(jìn)展。
元學(xué)習(xí)和模型泛化能力的提升：現(xiàn)階段，元學(xué)習(xí)已經(jīng)取得了一定的研究進(jìn)展，但如何提升模型的泛化能力，在不同任務(wù)之間進(jìn)行平衡和優(yōu)化仍是未來(lái)技術(shù)攻破的主要方向。
數(shù)據(jù)剪枝的重要性：斯坦福和Meta AI的新研究表明，在實(shí)現(xiàn)AGI的道路上，數(shù)據(jù)剪枝比我們想象得更重要，這意味著在機(jī)器學(xué)習(xí)的多個(gè)領(lǐng)域中，訓(xùn)練數(shù)據(jù)、模型大小或計(jì)算資源的有效利用對(duì)于提高AGI的能力至關(guān)重要。
大模型智能體的研究：整理了52篇2023年最新的大模型智能體相關(guān)的論文，這些研究涵蓋了LLM-based Agent的構(gòu)建、應(yīng)用、評(píng)估等方面，顯示了在AI Agent領(lǐng)域的最新研究進(jìn)展[XX]。
深度學(xué)習(xí)的基礎(chǔ)科學(xué)問(wèn)題：面向以深度學(xué)習(xí)為代表的人工智能方法的魯棒性差、可解釋性差、對(duì)數(shù)據(jù)的依賴(lài)性強(qiáng)等基礎(chǔ)科學(xué)問(wèn)題，正在挖掘機(jī)器學(xué)習(xí)的基本原理，發(fā)展可解釋、可通用的人工智能方法[7]。
AGI的發(fā)展階段：谷歌提出了AGI的完整路線圖，將AGI的發(fā)展分為6大階段，每個(gè)階段都有對(duì)應(yīng)的深度（性能）和廣度（通用性）指標(biāo)，這為理解AGI的發(fā)展提供了框架[9]。

通用人工智能（AGI）的當(dāng)前研究進(jìn)展涵蓋了具身智能、圖神經(jīng)網(wǎng)絡(luò)、元學(xué)習(xí)與模型泛化能力的提升、數(shù)據(jù)剪枝的重要性、大模型智能體的研究、深度學(xué)習(xí)的基礎(chǔ)科學(xué)問(wèn)題以及AGI的發(fā)展階段等多個(gè)方面。