新聞中心

實(shí)時(shí)更新飛瑞敖最新動(dòng)態(tài),了解飛瑞敖

構(gòu)建通用人工智能的良性價(jià)值生態(tài)

發(fā)布時(shí)間 :2024-03-03

習(xí)近平總書記曾強(qiáng)調(diào)指出,“人工智能是人類發(fā)展新領(lǐng)域”。當(dāng)前,人工智能領(lǐng)域科技創(chuàng)新異常活躍,一大批前沿成果陸續(xù)突破并帶動(dòng)全球人工智能創(chuàng)新的新一輪熱潮。其中,以大模型為代表的人工智能技術(shù)取得了重大突破,拉開了通用人工智能時(shí)代的序幕。大模型在模型能力、應(yīng)用范圍、智能程度等方面最具代表性,經(jīng)歷了統(tǒng)計(jì)語(yǔ)言模型、神經(jīng)語(yǔ)言模型和預(yù)訓(xùn)練模型等階段的發(fā)展,以超大規(guī)模的參數(shù)在工程化加載后展現(xiàn)出的內(nèi)容,讓人們看到了科技的又一次歷史性跨越。人工智能進(jìn)入通用人工智能時(shí)代后,各種“類人”和“超人”能力將持續(xù)涌現(xiàn),自主性、通用性和易用性快速提升,成為經(jīng)濟(jì)社會(huì)發(fā)展的新型技術(shù)底座。

首先,通用人工智能將對(duì)經(jīng)濟(jì)、就業(yè)、教育、生活方式等方面產(chǎn)生深遠(yuǎn)影響。通用人工智能時(shí)代將創(chuàng)造更多跨業(yè)態(tài)、多元化、高效率的商業(yè)模式,還將使一些工作自動(dòng)化并創(chuàng)造出新的就業(yè)機(jī)會(huì)和領(lǐng)域,進(jìn)而改變就業(yè)結(jié)構(gòu)。通用人工智能也將進(jìn)一步拓展教育空間,提升教育效果,優(yōu)化教育管理,促進(jìn)教育數(shù)字化發(fā)展,推動(dòng)教育現(xiàn)代化發(fā)展進(jìn)程。它還將使人們的工作、社交、醫(yī)療服務(wù)、娛樂(lè)等更加智能化、個(gè)性化。隨著大模型開始模擬人類從事廣泛的語(yǔ)言理解和內(nèi)容生成任務(wù),人們面臨著一個(gè)極具挑戰(zhàn)的問(wèn)題,即如何堅(jiān)持發(fā)展負(fù)責(zé)任的大模型,讓大模型的能力和行為與社會(huì)主義核心價(jià)值觀、全人類共同價(jià)值相一致,確保人類與人工智能協(xié)作過(guò)程中的安全與信任是關(guān)涉人工智能控制與人工智能安全的重要問(wèn)題。

其次,大模型目前存在一些突出問(wèn)題和潛在風(fēng)險(xiǎn),如用戶隱私安全問(wèn)題、大模型本身的技術(shù)問(wèn)題:規(guī)范博弈、目標(biāo)錯(cuò)誤泛化、惡意使用等問(wèn)題。對(duì)大模型進(jìn)行價(jià)值觀對(duì)齊可以更好地應(yīng)對(duì)大模型目前存在的一些突出問(wèn)題和潛在風(fēng)險(xiǎn),使大模型更加安全、可靠、實(shí)用。

再次,通用人工智能有望推動(dòng)人類社會(huì)邁向智能增強(qiáng)時(shí)代,將對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明產(chǎn)生更加深遠(yuǎn)的影響。在智能增強(qiáng)時(shí)代,人機(jī)共存,物理世界和虛擬世界將交互并行?!叭恕锢硎澜绲膬稍臻g”將轉(zhuǎn)換為“人——物理世界——智能機(jī)器——虛擬信息世界”的四元空間。機(jī)器的智能化能力不斷提高,有望補(bǔ)齊感知、記憶、推理、情感上的短板,并將逐步擁有自主決策、自主學(xué)習(xí)和自主調(diào)節(jié)等能力,越來(lái)越顯示出通用、類人、智慧的特征。人機(jī)交互技術(shù)將日益革新,將滿足情景感知的自動(dòng)化、實(shí)時(shí)化和個(gè)性化要求,在持續(xù)顛覆用戶體驗(yàn)的同時(shí)達(dá)到智能增強(qiáng)的目的,進(jìn)而產(chǎn)生超級(jí)智能和融合智能等新形態(tài)。而伴隨著人工智能技術(shù)的不斷發(fā)展,人工智能與人類社會(huì)高度綁定,幫助乃至代替人類完成各種任務(wù),這就更加需要人工智能能夠更好地反饋和適應(yīng)人類的反饋和需求,符合人類的道德準(zhǔn)則和價(jià)值觀念。

面對(duì)通用人工智能發(fā)展給世界帶來(lái)的巨大機(jī)遇和難以預(yù)知的各種風(fēng)險(xiǎn)與復(fù)雜挑戰(zhàn),習(xí)近平總書記提出:“要重視通用人工智能發(fā)展,營(yíng)造創(chuàng)新生態(tài),重視防范風(fēng)險(xiǎn)。”中方在第三屆“一帶一路”國(guó)際合作高峰論壇上提出《全球人工智能治理倡議》,將同各國(guó)加強(qiáng)交流和對(duì)話,共同促進(jìn)全球人工智能健康有序安全發(fā)展。聯(lián)合國(guó)安理會(huì)舉辦“人工智能給國(guó)際和平與安全帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)”高級(jí)別公開會(huì)議,呼吁設(shè)立監(jiān)管機(jī)構(gòu)來(lái)監(jiān)督人工智能并成立AI咨詢機(jī)構(gòu),為國(guó)際社會(huì)加強(qiáng)人工智能治理提供支持。加強(qiáng)人工智能治理,實(shí)現(xiàn)通用人工智能價(jià)值觀對(duì)齊是當(dāng)下亟待解決的重要問(wèn)題,一是要始終堅(jiān)持“以人為本”理念,以增進(jìn)人類共同福祉為目標(biāo),確保人工智能朝著有利于人類文明進(jìn)步的方向發(fā)展;二是要始終堅(jiān)持“智能向善”宗旨,遵守倫理規(guī)范與法律法規(guī),使其符合“和平、發(fā)展、公平、正義、民主、自由”的全人類共同價(jià)值追求,遵循社會(huì)主義核心價(jià)值觀,防止人工智能技術(shù)的惡用濫用;三是要積極加強(qiáng)人工智能技術(shù)持續(xù)創(chuàng)新,進(jìn)一步推動(dòng)人工智能技術(shù)發(fā)展;四是要積極發(fā)展人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用,在人類反饋的強(qiáng)化學(xué)習(xí)、有效干預(yù)訓(xùn)練數(shù)據(jù)、開發(fā)內(nèi)容過(guò)濾工具、推進(jìn)模型的可解釋性和可理解性等研究成果的基礎(chǔ)上,進(jìn)一步深化人工智能治理研究,提高人工智能治理的技術(shù)能力。

塑造正確的通用人工智能時(shí)代的價(jià)值觀,發(fā)展負(fù)責(zé)任的人工智能,促進(jìn)人工智能健康發(fā)展,需要政府、社會(huì)、企業(yè)、學(xué)術(shù)界等各方投入更多資源來(lái)推動(dòng)價(jià)值觀對(duì)齊研究與實(shí)踐,需要思想政治教育、哲學(xué)、計(jì)算機(jī)、倫理學(xué)、心理學(xué)、社會(huì)學(xué)等多學(xué)科共同參與,讓人們監(jiān)督、理解、控制人工智能的能力與人工智能的發(fā)展進(jìn)步齊頭并進(jìn),以確保人工智能能夠造福全人類和全社會(huì)。


分享到微信朋友圈 ×
思洋廣州網(wǎng)站建設(shè)公司

免費(fèi)咨詢

*姓名:
*手機(jī):
郵箱:
區(qū)域:
您的問(wèn)題:

感謝您的關(guān)注,您有任何問(wèn)題都可以在此留下信息,飛瑞敖會(huì)及時(shí)為您提供幫助。

提交