2024 高通边缘智能创新应用大赛聚焦不同细致划分领域的边缘智能创新应用落地,共设立三大热门领域赛道——工业智能质检赛道、智能边缘计算赛道和智能机器人赛道。本文为智能边缘计算赛道冠军项目《端侧大模型智能翻译机》的开发思路与成果分享。
聚焦边缘智能、边缘推理、边缘数据处理等关键技术,参赛者可选择智能摄像头、智慧零售、智慧城市、辅助驾驶、智慧座舱、边端大模型应用等行业进行项目落地。
端侧大模型翻译机基于搭载阿加犀边缘智能工具链的高通开发板,实现了支持多语种的离线语音识别和翻译,提升使用者真实的体验和隐私保护水平。
凭借大模型积累的行业翻译数据与专家知识,能更好地将专业术语和复杂名词准确表达,提升了翻译效率,更好地满足不同语言用户的需求,逐步扩大了应用场景。
⚪技术推动:深度学习和神经网络等先进的技术的应用不断演进,为语音识别和翻译等功能的性能提升提供了巨大空间,加之端侧模型部署与优化技术的持续不断的发展,使得离线语音识别应用可以在一定程度上完成更高的准确率和响应速度。
⚪平台支持:芯片的运算能力也在不断的提高,特别是类似高通QCS6490平台这样的高性能、低功耗芯片,为离线语音识别技术的发展提供了强大支持,为离线翻译领域带来了新的发展机遇。
⚪市场需求:目前行业的不管是耳机还是手持形态产品,识别和翻译的服务应用依然是云端为主,这天然就受到网络等其他因素的影响,参赛团队希望利用内部掌握的技术将模型和推断来优化,实现纯离线应用,不但可以避免网络的影响,也能保护用户的隐私,为用户更好的提供更加安全、高效的语音交互体验。
⚪平台优化:基于阿加犀边缘智能工具链,在高通QCS6490平台上进行端侧模型的部署与优化,使得系统在低功耗、高性能的环境下运行更加稳定。
⚪高性能体验:领先的RNNVAD 人声识别自动断句算法,经过智能训练后只识人声,在噪音环境下断句更精准,离线%,个别语种能够达到在线引擎的性能,翻译更高效准确。
⚪多语种支持:支持数十种语言与地区口音的识别和翻译,满足多种行业、垂直专业领域等不同场景中的用户需求。
⚪多场景应用:适用于跨国家庭、旅行旅居、教育、跨国商务应用、大型国际活动等多种场景中。