獵戶星空大模型日、韓語能力全球第一：能跟日本人流暢交流

　　1月21日，獵戶星空發(fā)布了開源大模型Orion-14B，以其140億參數(shù)規(guī)模展現(xiàn)出了卓越的性能，在多個權威通用能力上Orion-14B表現(xiàn)出百億參數(shù)大模型基座能力的行業(yè)領先性。

　　不僅如此，Orion-14B超越了市面上許多更大參數(shù)的模型，尤其日語和韓語能力表現(xiàn)優(yōu)秀，評測全球第一。

　　獵戶星空董事長傅盛強調(diào)，Orion-14B在語料訓練中專門強化了日語和韓語，旨在為獵戶星空出海商用機器人應用提供支持。

　　獵戶星空機器人在日本和韓國不僅限于送餐服務，還能與用戶進行流暢的交流。

　　值得一提的是，Orion-14B通過AWQ Q4量化技術，模型大小減少70%，推理速度提升30%，性能幾乎無損(損失小于1%)，在千元級顯卡可以流暢運行。在NVIDIA RTX 3060顯卡實測，推理速度可達31 token/s (約每秒50漢字)。