日前,天津大學和信創海河實驗室舉辦“大模型技術與評測研討會”,會上天津大學發布首份《大模型評測報告》,對國內外主流的14個大語言模型進行綜合能力評測,結果顯示,中美大模型正在形成兩強領跑的格局。
天津機器學習重點實驗室負責人、天津大學胡清華教授表示,“基礎智能模型有望重塑人工智能的發展模式,國內外大模型如雨后春筍般大量涌現。全面準確評價此類模型是推動和規范其健康發展的基礎,為使用者在選擇和應用大模型時提供參考。可以看到,百度文心一言在評測中展現了國產大模型的強大實力,中國的大語言模型在短期內取得巨大發展,正在逐步趕超國際類似的模型,甚至在某些指標上實現了局部超越。未來,期待國產大模型能夠取得更大突破,可以賦能社會經濟發展,助力我國科技高質量自立自強。”
參與本次評測的大模型包括GPT-4、ChatGPT gpt-3.5-turbo、Claude-instant、Sage gpt-3.5-turbo等國外大模型,以及百度文心一言、阿里通義千問、訊飛星火認知大模型、ChatGLM-6B、360智腦、MOSS-16B、MiniMax、baichuan-7B等國產大模型。評測使用一套涵蓋知識問答、語言表達、邏輯推理、常識問答、文本問答、機器翻譯等不同領域知識、包含多種題型的綜合性試題,通過多維度得分結果,清楚了解不同模型的擅長領域和綜合能力優劣。
天津大學方面發布,國產大模型以文心一言為代表,在知識問答、語言表達、邏輯推理、常識問答等方面表現出色。此外,本次評測中,文心一言在計算機、醫學、法律和教育等領域的得分率高,為大語言模型在相關行業的落地提供了技術基礎。