0
LG U+ CTO李相烨（左）与OptAI代表李在浩就Token优化合作合影。/LG U+

LG U+于2日表示，将与AI模型优化专业企业OptAI合作，着手研发能够提升AI运营效率的Token优化技术。

近年来，在AI产业中，以更少资源实现更高性能的技术正成为决定AI服务竞争力的核心因素。随着AI服务不断普及，GPU、电力等服务运营成本持续增加，因此，如何以更少资源提供同等水平的服务变得越来越重要。

LG U+与OptAI将顺应这一变化，着手研发能够提升AI运营效率的“Token优化”技术。Token是AI理解用户问题并生成回答时所处理的数据基本单位。Token优化是通过减轻AI模型负担或提高计算过程效率，使AI能够利用相同资源处理更多请求的技术。

LG U+将凭借实际AI服务运营经验负责技术验证与应用，OptAI则负责让AI模型运行更加轻量、快速的技术研发。双方计划结合各自的技术能力，在降低AI服务运营所需GPU和电力使用量的同时，提高响应速度和服务质量。

双方此前也在直接通过智能手机等设备运行AI的“端侧AI（On-device AI）”领域开展合作。LG U+曾对基于“EXAONE”的小型语言模型（sLM）应用轻量化技术，减少模型的计算量和规模，使其能够在智能手机专用AI半导体NPU上运行。在保持与传统CPU方式相同性能水平的同时，功耗降低78%，模型规模缩小82%。通过这一合作，双方已验证了在端侧AI环境下提高AI运营效率的技术能力。

双方还于1日联合举办了“Efficient AI Tech Seminar”，分享AI运营效率技术的最新研究趋势和产业应用案例，并就提升AI运营效率的技术发展方向展开讨论。AI半导体企业FuriosaAI、AI平台企业VESSL AI、韩国电子技术研究院（KETI）、汉阳大学等产学研领域专家参加了活动，围绕从AI模型优化、AI半导体到实际服务应用等内容，分享了提高AI运营效率的各种技术和案例。

目前正在开展的基于GPU的AI模型优化研究也已取得初步成果。双方通过根据实际服务环境改进AI模型生成回答时的计算过程，使同一GPU能够处理的Token数量较此前最多提高了4倍。

LG U+计划今后将相关技术分阶段应用于自有AI服务和大规模AI基础设施运营环境，持续提升AI运营效率。

LG U+ CTO李相烨表示：“AI竞争力不仅取决于单纯提升性能，更取决于能否利用相同资源高效处理更多Token。我们将与OptAI等不同合作伙伴扩大Token优化技术研究，并推动形成能够实际应用于服务的成果。”

OptAI代表李在浩表示：“在生成式AI时代，确保运营效率与实现高性能同样重要。我们将与LG U+共同进一步提升能够在实际服务环境中得到验证的AI优化技术，为提高AI产业效率作出贡献。”

安昭妍 记者