腾讯短文本对话专利获授权 回复文本更加丰富

天眼查App显示，腾讯科技(深圳)有限公司申请的“短文本对话方法、装置、设备及存储介质”专利获授权。

摘要显示，该方法包括：获取查询文本;调用基于语言模型的短文本对话模型对查询文本进行预测，得到回复文本;基于语言模型的短文本对话模型中设置有混合注意力层，混合注意力层同时包括自注意力机制和用于监督查询文本的注意力机制;输出回复文本。

该申请通过将S2S框架替换为基于语言模型的短文本对话模型，同时利用该模型中的混合注意力层对查询文本的隐层表示进行监督，使得短文本对话模型既能捕获长短距离依赖，也可以在预测时着重考虑查询文本的信息，能够生成语义上与查询文本密切相关，同时形式上较为丰富的回复文本。

关键词： 腾讯科技 腾讯专利 讯短文本对话 腾讯新专利获授权 S2S框架 语言模型