技術(shù)發(fā)展方面，隨著(zhù)謂詞推理、專(zhuān)家系統、知識樹(shù)和向量機學(xué)習等傳 統技術(shù)的發(fā)展日趨放緩，促使以聯(lián)結主義和概率統計等理論為基礎的深度 學(xué)習加速發(fā)展，邁入了以人工神經(jīng)網(wǎng)絡(luò )為基礎、以大模型為典型應用的新 發(fā)展階段。

在模型方面，大規模人工智能模型逐步成為業(yè)界主流。以生成式人 工智能為例，具備數百億參數的模型已非罕見(jiàn)，并隨著(zhù)模型規模增長(cháng)產(chǎn)生 了接近人類(lèi)的“高級”能力，使人們相信通用人工智能或將到來(lái)。 Stable Diffusion 、Midjourney等視覺(jué)生成模型具有類(lèi)似人類(lèi)的視覺(jué)創(chuàng )作能力， ChatGPT等文本生成模型具有高度近似人類(lèi)的語(yǔ)言推理和規劃等能力。有 研究認為，這些能力是隨著(zhù)模型參數達到數百億級別后逐漸產(chǎn)生的，雖其技術(shù)原理尚未明晰，但進(jìn)一步推動(dòng)了模型越來(lái)越大的技術(shù)趨勢。

在訓練方面，有人類(lèi)參與的指令微調技術(shù)是近年來(lái)人工智能的另一 大技術(shù)特點(diǎn)。指令微調主要有三種實(shí)現形式，以預訓練語(yǔ)言模型為例：一 是引入人工撰寫(xiě)的大量對話(huà)數據對模型進(jìn)行微調訓練；二是人工對微調后 模型面向同一提示詞生成的多個(gè)備選答案進(jìn)行價(jià)值排序，訓練價(jià)值評分模 型；三是在價(jià)值評分模型的獎勵信號下，微調模型進(jìn)行強化學(xué)習訓練，不 斷改進(jìn)模型的表現。通過(guò)該部分技術(shù)，可將在海量語(yǔ)料庫上訓練的模型與 復雜的人類(lèi)價(jià)值觀(guān)實(shí)現對齊，期望人工智能可以生成正確、有用、無(wú)害的 內容。