NLP - 词向量Word Vector（课外读物）

问题 1： 什么是词向量（Word Vector）？
回答： 词向量是一种将词语表示为数值向量的技术，通常用于自然语言处理（NLP）任务中，以便计算机能够理解和处理文本数据。

问题 2： 词向量在自然语言处理中的作用是什么？
回答： 词向量能够捕捉词语之间的语义关系，帮助模型更好地理解文本的上下文和含义，从而提升机器翻译、文本分类、情感分析等任务的性能。

问题 3： 如何生成词向量？
回答： 词向量通常通过训练语言模型生成，常用的方法包括Word2Vec、GloVe和FastText等，这些方法通过分析大量文本数据来学习词语的向量表示。

问题 4： Word2Vec、GloVe和FastText有什么区别？
回答： Word2Vec通过预测上下文或目标词来生成词向量，GloVe利用全局词频统计信息，而FastText则通过子词信息来处理未登录词，三者各有优缺点，适用于不同的场景。

问题 5： 词向量的维度对模型性能有什么影响？
回答： 词向量的维度决定了其表达能力的强弱，维度过低可能导致信息丢失，维度过高则可能增加计算复杂度并引入噪声，通常需要根据具体任务选择合适的维度。

问题 6： 词向量如何处理未登录词（Out-of-Vocabulary Words）？
回答： 一些方法如FastText通过子词信息来处理未登录词，而传统方法如Word2Vec和GloVe则无法直接处理，需要通过其他方式（如随机初始化或使用默认向量）解决。

问题 7： 词向量能否捕捉词语的语义关系？
回答： 是的，词向量能够捕捉词语之间的语义关系，例如通过向量运算可以找到“国王 - 男人 + 女人 = 女王”这样的类比关系。

问题 8： 词向量在实际应用中有哪些局限性？
回答： 词向量的局限性包括无法处理多义词、对未登录词的处理能力有限，以及在某些任务中可能无法充分捕捉复杂的语义关系。

问题 9： 如何评估词向量的质量？
回答： 词向量的质量可以通过内在评估（如词语类比任务）和外在评估（如在下游任务中的性能表现）来衡量。

问题 10： 词向量技术未来的发展方向是什么？
回答： 未来的发展方向包括结合上下文信息的动态词向量（如BERT）、处理多义词的更精细方法，以及与其他深度学习技术的进一步融合。