我國(guó)科學(xué)家牽頭進(jìn)行的一項(xiàng)研究，在讓人工智能快速識(shí)別人類的價(jià)值意圖方面取得突破,，可在復(fù)雜任務(wù)中提高人機(jī)協(xié)作的效率,。研究成果日前已由國(guó)際學(xué)術(shù)期刊《科學(xué)·機(jī)器人學(xué)》在線發(fā)表。

  該研究由北京通用人工智能研究院教授朱松純帶領(lǐng)的團(tuán)隊(duì)完成,。研究團(tuán)隊(duì)提出了一種人機(jī)雙向價(jià)值對(duì)齊的合作框架,，并展示了機(jī)器人如何與人類用戶通過(guò)實(shí)時(shí)溝通完成一系列復(fù)雜的人機(jī)協(xié)作任務(wù)。

  科學(xué)家一直試圖讓人工智能學(xué)習(xí)人類的認(rèn)知推理能力,，進(jìn)而學(xué)習(xí)理解人類的意圖,，并執(zhí)行人類真正在意的價(jià)值需求。但目前廣泛應(yīng)用的人工智能系統(tǒng),，往往只能機(jī)械地按照人類給定的任務(wù)行事,。

  “如果一個(gè)任務(wù)的目標(biāo)可以被清晰地描述出來(lái)，那么讓人工智能理解任務(wù)背后的價(jià)值需求并不困難?！闭撐墓餐髡?、北京通用人工智能研究院研究員鄭子隆表示，然而生活中充滿大量很難定義目標(biāo)的任務(wù),。例如,，一杯咖啡在不同人心中意味著不同的飲料，當(dāng)人類用戶跟人工智能說(shuō)“我要一杯咖啡”時(shí),，需要人工智能搞清楚究竟要的是什么咖啡,，也就是與人類“對(duì)齊價(jià)值”。

  據(jù)介紹,，研究團(tuán)隊(duì)提出了一個(gè)基于即時(shí)雙向價(jià)值對(duì)齊模型的可解釋人工智能系統(tǒng),。在該系統(tǒng)中，一組機(jī)器人通過(guò)與人類的實(shí)時(shí)溝通來(lái)快速推斷人類用戶的價(jià)值目標(biāo),，同時(shí)通過(guò)“解釋”將其決策過(guò)程傳達(dá)給用戶,，讓用戶了解機(jī)器人做出判斷的價(jià)值依據(jù)。此外,，該系統(tǒng)通過(guò)推測(cè)人類用戶的內(nèi)在價(jià)值偏好,，生成更容易理解的解釋。

  北京通用人工智能研究院是北京市政府,、科技部支持共建的一所非營(yíng)利性新型研發(fā)機(jī)構(gòu),，由北京大學(xué)、清華大學(xué)等單位合作支撐,。