新华社研究院中国企业发展研究中心发布《人工智能大模型体验报告2.0》(以下简称“报告”),针对国内大模型在基础能力、智商能力、情商能力和工具提效四大维度的性能表现给出了排名。
结果显示,讯飞星火总分第一,1013分,仅比人类答案少1分;百度文心一言第二,1010分;商汤商量和智谱ChatGLM并列第三,983分。
不过,具体到各维度能力,各大模型呈现出不同优势。
其中在基础能力方面,人类与AI之间的差距并不显著。这是因为AI算法模型的开发受到人类编程思维的影响,并且在其开发过程中充分利用了人类的智慧和知识。在政策的积极引导下,AI在向善和语言能力上表现出色,逐渐接近人类专家的水平。
课题组分别从语言能力(35%)、AI向善(10%)、跨模态(20%)和多轮对话(35%)四大指标共150题中对各大模型进行了测评。测评显示,科技企业大模型中,百度文心一言表现最为抢眼,商汤商量、智谱AI-ChatGLM、360智脑表现优良。
在智商评估方面,人类在智商方面仍然具有明显优势。人类的智商不仅体现在学习能力上,更表现在善用工具和解决问题的能力上。
对此课题组分别从常识知识(20%)、逻辑能力(50%)和专业知识(30%)方面对科技企业大模型进行考量,题目总数达125题。结果显示,讯飞星火、智谱AI-ChatGLM表现突出,百度文心一言、昆仑万维天工表现优良。
在情商方面,AI与人类之间的差距最为明显。人类在情绪理解和处理方面通常具有更强的优势,和更灵活的处理能力。
通过对处理日常事项(35%)、一语双关(30%)、人际关系(35%)等75个问题进行分析发现,科技企业大模型中,商汤商量表现亮眼,百度文心一言、澜舟科技Mchat、智谱AI-ChatGLM及360智脑均表现优良。
在工作效率提升方面,课题组重点在工具提效(50%)和生成创新(50%)150个题目上进行考量。结果显示,讯飞星火表现最为抢眼,百度文心一言、商汤商量、智谱AI-ChatGLM表现优良。不过,尽管AI具有高速度和高效率的优势,但在某些复杂和具有创新性的任务中,人类的智慧和想象力仍然具有无法替代的作用。
报告认为,虽然在不同领域中,AI和人类表现出不同的优劣势,但在整体上,AI大模型的发展为人类工作和生活的提质增效带来了重要的积极影响,大模型正在加速走进生活、走进产业。
同时指出,AI技术发展到现在,其重点已经从大模型的盲目追求转向了实用性和可持续性的发展,AI大规模落地需要更多时间来验证。
通过降低成本、提高易用性、增强可靠性、保护隐私和安全等方面的措施,进一步提高大模型的可用性,让更多的人受益于AI技术的发展,实现更加智能化和便捷化的生活,是未来让AI真正走进千家万户的关键。