科技日?qǐng)?bào)北京7月13日電 (記者華凌 通訊員董亦飛)記者13日從北京大學(xué)人工智能研究院獲悉，由該院教授朱松純領(lǐng)銜的聯(lián)合團(tuán)隊(duì)取得一項(xiàng)重大研究成果，構(gòu)建出一種機(jī)器實(shí)時(shí)理解人類價(jià)值觀的計(jì)算框架，讓機(jī)器人與人類用戶通過實(shí)時(shí)溝通完成一系列復(fù)雜人機(jī)協(xié)作任務(wù)。這一研究可謂為機(jī)器立“心”，讓AI(人工智能)賦能機(jī)器人“讀懂”人類價(jià)值觀。相關(guān)論文以“實(shí)時(shí)雙向人機(jī)價(jià)值對(duì)齊”為題刊發(fā)在最新一期的國(guó)際期刊《科學(xué)·機(jī)器人學(xué)》上。
據(jù)了解，當(dāng)今廣泛應(yīng)用的AI系統(tǒng)是一種被動(dòng)的智能，只能機(jī)械地按照人類給定的任務(wù)行事，缺乏像人類一樣的認(rèn)知和推理能力以及情感和價(jià)值觀。在缺“心”的情況下，AI很難理解人類真正的意圖及價(jià)值需求，自然也就難以獲取人類的信任、融入社會(huì)。
在發(fā)現(xiàn)之前的研究范式存在局限性之后，朱松純帶領(lǐng)研究團(tuán)隊(duì)轉(zhuǎn)換賽道，讓AI系統(tǒng)按照人的方式自主定義任務(wù)，“學(xué)習(xí)”人從自身的價(jià)值需求出發(fā)，由此為機(jī)器立“心”，讓AI學(xué)會(huì)人的價(jià)值函數(shù)，具有實(shí)時(shí)對(duì)齊當(dāng)前人類價(jià)值目標(biāo)的能力，探索出“小數(shù)據(jù)，大任務(wù)”的范式。
該研究團(tuán)隊(duì)提出一個(gè)基于即時(shí)雙向價(jià)值對(duì)齊模型的可解釋AI系統(tǒng)，讓機(jī)器通過與人類的即時(shí)交互并通過相應(yīng)反饋來推斷人類用戶的價(jià)值目標(biāo)，并通過“解釋”將其決策過程傳達(dá)給用戶，以了解機(jī)器人作出判斷的價(jià)值依據(jù)。研究結(jié)果表明，該學(xué)習(xí)模型可在復(fù)雜協(xié)作任務(wù)中提高人機(jī)協(xié)作效率，進(jìn)而提升人機(jī)信賴關(guān)系，實(shí)現(xiàn)真正自主智能，在邁向通用AI的道路上更進(jìn)一步。