美文网首页
两种字符串相似度归类算法

两种字符串相似度归类算法

作者: LCSan | 来源:发表于2024-02-26 20:17 被阅读0次

要使用余弦相似度或Levenshtein距离来计算字符串之间的相似度,我们需要对字符串进行一些预处理。余弦相似度通常用于比较文档或句子,而Levenshtein距离用于计算两个字符串之间的编辑距离。下面我将分别展示如何使用这两种方法来对字符串数组进行分组。

使用Levenshtein距离

Levenshtein距离是指将一个字符串转换为另一个字符串所需的最少编辑操作次数(包括插入、删除和替换字符)。

function levenshteinDistance(a, b) {
    if (a.length === 0) return b.length;
    if (b.length === 0) return a.length;
    const matrix = [];
    // 初始化矩阵
    for (let i = 0; i <= b.length; i++) {
        matrix[i] = [i];
    }
    for (let j = 0; j <= a.length; j++) {
        matrix[0][j] = j;
    }
    // 计算Levenshtein距离
    for (let i = 1; i <= b.length; i++) {
        for (let j = 1; j <= a.length; j++) {
            if (b.charAt(i - 1) === a.charAt(j - 1)) {
                matrix[i][j] = matrix[i - 1][j - 1];
            } else {
                matrix[i][j] = Math.min(
                    matrix[i - 1][j - 1] + 1, // 替换
                    Math.min(
                        matrix[i][j - 1] + 1, // 插入
                        matrix[i - 1][j] + 1 // 删除
                    )
                );
            }
        }
    }
    return matrix[b.length][a.length];
}
function groupByLevenshtein(strings, distanceThreshold) {
    const groups = [];
    strings.forEach((str, index) => {
        let grouped = false;
        for (let i = 0; i < groups.length; i++) {
            const group = groups[i];
            if (levenshteinDistance(str, group[0]) <= distanceThreshold) {
                group.push(str);
                grouped = true;
                break;
            }
        }
        if (!grouped) {
            groups.push([str]);
        }
    });
    return groups;
}
// 测试数据
const strings = ["apple", "apply", "appale", "orange", "orango", "banana", "bananb"];
const distanceThreshold = 2;
// 调用函数并打印结果
const groups = groupByLevenshtein(strings, distanceThreshold);
console.log(groups);

使用余弦相似度

余弦相似度通常用于比较文档或句子,它基于向量空间模型。为了使用余弦相似度,我们需要将字符串转换为向量。这通常涉及到将字符串分割成单词或字符,并创建一个表示每个单词或字符出现次数的向量。

function termFrequency(str) {
    const terms = str.split('');
    const frequency = {};
    terms.forEach(term => {
        frequency[term] = (frequency[term] || 0) + 1;
    });
    return frequency;
}
function cosineSimilarity(vecA, vecB) {
    let dotProduct = 0;
    let magnitudeA = 0;
    let magnitudeB = 0;
    for (let key in vecA) {
        dotProduct += vecA[key] * (vecB[key] || 0);
        magnitudeA += vecA[key] * vecA[key];
    }
    for (let key in vecB) {
        magnitudeB += vecB[key] * vecB[key];
    }
    return dotProduct / (Math.sqrt(magnitudeA) * Math.sqrt(magnitudeB));
}
function groupByCosineSimilarity(strings, similarityThreshold) {
    const groups = [];
    const vectors = strings.map(termFrequency);
    vectors.forEach((vector, index) => {
        let grouped = false;
        for (let i = 0; i < groups.length; i++) {
            const group = groups[i];
            if (cosineSimilarity(vector, vectors[group[0]]) >= similarityThreshold) {
                group.push(index);
                grouped = true;
                break;
            }
        }
        if (!grouped) {
            groups.push([index]);
        }
    });
    return groups.map(group => group.map(index => strings[index]));
}
// 测试数据
const strings = ["apple", "apply", "appale", "orange", "orango", "banana", "bananb"];
const similarityThreshold = 0.8; // 余弦相似度的范围是-1到1,接近1表示更相似
// 调用函数并打印结果
const groups = groupByCosineSimilarity(strings, similarityThreshold)
console.log(groups);

相关文章

  • 文本相似度计算与展示

    文本相似度计算方法归类 基于字符串。该方法从字符串匹配度出发,以字符串共现和重复程序为相似度的衡量标准。如编辑距离...

  • 文本相似度 余弦值相似度算法 VS L氏编辑距离(动态规划)

    本文由作者祝娜授权网易云社区发布。 本文对两种文本相似度算法进行比较。余弦值相似度算法 VS 最小编辑距离法 1、...

  • 文本相似度 余弦值相似度算法 VS L氏编辑距离(动态规划)

    本文由作者祝娜授权网易云社区发布。 本文对两种文本相似度算法进行比较。余弦值相似度算法 VS 最小编辑距离法 1、...

  • 基于马尔科夫的字符串可读性

    文本处理一直是算法学习重要组成,本文对字符串的相似性,可读性做简单记录。 01 字符串相似性 评价字符串相似度最常...

  • 2018-08-21

    算法题之字符串相似度 问题描述 面试阿里的时候问了我一个问题,如何求两个字符串之间的相似度,当时不知道该怎么回答,...

  • 动态规划算法实现搜索

    需要做一个题目相似度搜索功能,输入的字符串完全用字符串完全匹配算法进行匹配,考虑使用动态规划实现,因为动态规划算法...

  • 文本相似算法

    公司有很多场景需求,都需要用到了文本相似比对的算法。文本相似度算法比较常用的有余弦相似度,simHash算法,对文...

  • 字符串相似度(编辑距离算法)

    编辑距离(Edit Distance),最先是由俄国科学家Vladimir Levenshtein在1965年发明...

  • 余弦相似度匹配

    今天的产品涉及到一个相似度匹配算法,上网查了这类算法很多。跟研发讨论,研发推荐使用余弦值相似度算法。 余弦...

  • 余弦相似度算法

    相信大家对这个概念并不陌生,废话少说,先来炒点现饭! 概念 余弦相似度,又称为余弦相似性,是通过计算两个向量的夹角...

网友评论

      本文标题:两种字符串相似度归类算法

      本文链接:https://www.haomeiwen.com/subject/hmnmodtx.html