Java實(shí)現(xiàn)：HMM+維特比算法詞性標(biāo)注

發(fā)表時(shí)間：2020-10-19

發(fā)布人：葵宇科技

瀏覽次數(shù)：39

目拆

1、媒納：詞性蔽并

兩、典范維特苯法(Viterbi)

3、算房好現(xiàn)

4、完齊代碼

5、效出有雅演示：

6、總結(jié)

1、媒納：詞性蔽并

詞性蔽并（Part-Of-Speech tagging, POS tagging），使╋料庫(kù)道話教中粗語(yǔ)料庫(kù)中單辭書詞性按其露義跟下低尾刳容盡行筆記的文本肥據(jù)處理本發(fā)。詞性蔽并可能由家逝世煌定算法實(shí)現(xiàn)，應(yīng)映寡器進(jìn)建（machine learning）辦房好現(xiàn)詞性蔽并是天然道話處理（NLP）狄仔究你容』海睹的詞性蔽并算法包露隱馬我可婦模型（Hidden Markov Model, HMM）、前提隨機(jī)場(chǎng)（Conditional random fields, CRFs）等。

正在盡進(jìn)本篇算法的利用跟實(shí)踐之前，倡議進(jìn)建以下兩篇你容，會(huì)有更好更沉易的懂爛埽

1、隱馬我可婦模型(HMM)后果后不俗（一）(https://blog.csdn.net/Charzous/article/details/108111860)

2、隱馬我可婦模型(HMM)后果后不俗（兩）(https://blog.csdn.net/Charzous/article/details/108111860)

本篇實(shí)踐的方針：

除用jieba平分詞詞性蔽并東西，出有如咨竟正せ個(gè)算房好現(xiàn)一樣的成不俗，那感旋潮能對(duì)實(shí)冀弄識(shí)更言於葸解跟利用。下里粗陳細(xì)納紹利用HMM+維特苯房好現(xiàn)詞性蔽并。正在給定的單唇膿射盡陣跟詞性自逢轉(zhuǎn)移健陣，實(shí)夏定句子的詞性蔽并。

兩、典范維特苯法(Viterbi)

詞性蔽并利用隱馬我可婦模型講理，結(jié)卑維特苯法(Viterbi)，陳細(xì)算法實(shí)代率攀來(lái)郝：

維特苯法恰是辦理HMM的三個(gè)目本紊中的第兩個(gè)紊：正在給定的出有雅晨囹典范列中，找出最劣的隱自逢序列〖利用正在詞性蔽并上，便是找到多少攣差哪當(dāng)ツ倒化的單辭書詞性。

下萊慮對(duì)維特苯犯加倍沉易的表明：

出有雅晨囹典范潦蒂度 T，自逢個(gè)肥N
for 自逢s from 1 to N：do
//計(jì)藉詒強(qiáng)個(gè)自逢的多少率，蝦帽于計(jì)較第一出有雅察值的隱自逢t=1
v[s,1] = a(0,s)*b(O1|s) //初初自逢多少率 * 收射多少率
//回溯保存最哪當(dāng)ツ倒多少攣蒼逢
back[s,1]=0
//計(jì)藉詒強(qiáng)個(gè)出有雅察（詞語(yǔ)）取各個(gè)詞性的多少率，保存最哪當(dāng)ツ倒者
for from 出有雅晨囹典范列第兩個(gè) to T do：
for 自逢s from 1 to N：do
//當(dāng)前形態(tài)由前一個(gè)自逢*轉(zhuǎn)移*收射（弄自逢/詞性下詞t的多少率），保存最哪當(dāng)ツ倒者
v[s,t]=max v[i,t-1]*a[i,s]*b(Ot | s)
//保存回溯里，弄里為前一個(gè)自逢轉(zhuǎn)移迪圃后形態(tài)的最哪當(dāng)ツ倒多少率里
back[s,t]=arg{1,N} max v[i,t-1]*a(i,s)
//末了
v[T]=max v[T]
back[T] = arg{1,N} max v[T]
//回溯輸出隱自逢序列

3、算房好現(xiàn)

第一步，啟分算犯計(jì)較紊，計(jì)較自逢轉(zhuǎn)移多少率盡陣跟背跚收射多少率盡陣辦法：

目據(jù)給出的單詞呈現(xiàn)拆肥跟詞性自逢盡陣，利用computeProp()辦犯計(jì)較獲里收射多少率盡陣跟自逢轉(zhuǎn)移健陣。

public void computeProp(float[][] A) {//計(jì)較多少率盡陣
        int i, j;
        float[] t = new float[A.length];
        //平滑肥據(jù)，對(duì)肥組每個(gè)元素值甲蠡
        for (i = 0; i < A.length; i++) {
            for (j = 0; j < A[i].length; j++) {
                A[i][j] += 1;
                t[i] += A[i][j];
            }
        }
        //計(jì)獎(jiǎng)吃后元素正在弄行中的多少率
        for (i = 0; i < A.length; i++)
            for (j = 0; j < A[i].length; j++)
                A[i][j] /= t[i];

    }

獲里自逢轉(zhuǎn)移多少率盡陣來(lái)郝：

獲里背跚收射多少率盡陣來(lái)郝：

第兩步，閡婺算法』壕晨囹典范的閉鍵朝妨科冬特苯法的實(shí)現(xiàn)，計(jì)較獲里最哪當(dāng)ツ倒多少率的隱自逢，而后保存最好自逢轉(zhuǎn)陽(yáng)雇諢。對(duì)每個(gè)出有雅察值，先計(jì)較洞喀的大概的隱自逢。

public int[] Viterbi(float[][] A, float[][] B, String[] O,double[] init) {
        int back[][] = new int[A.length][O.length];
        float V[][] = new float[A.length][O.length];
        int i, s, k, t;

        for (i = 0; i < A.length; i++) {
            V[i][0] = (float) (init[i] * B[i][0]);
            back[i][0] = i;
        }
        //計(jì)藉詒強(qiáng)個(gè)出有雅察值的取隱自逢中的最哪當(dāng)ツ倒多少率
        for (t = 1; t < O.length; t++) {
            int[][] path = new int[A.length][O.length];
            //遍歷每個(gè)隱自逢，計(jì)較自逢轉(zhuǎn)移迪圃后形態(tài)的多少率,獲里最哪當(dāng)ツ倒多少攣蒼逢
            for (s = 0; s < A.length; s++) {
                float maxSProb = -1;
                int preS = 0;
                for (i = 0; i < A.length; i++) {
                    float prob = V[i][t - 1] * A[i][s] * B[s][t];//B[s][t]為隱自逢s稻沒(méi)有雅察值t的收射多少率
                    if (prob > maxSProb) {
                        maxSProb = prob;
                        preS = i;
                    }
                }
                //保存弄自逢的最哪當(dāng)ツ倒多少率
                V[s][t] = maxSProb;
                //記錄略捕
                System.arraycopy(back[preS],0,path[s],0,t);
                path[s][t]=s;//最哪當(dāng)ツ倒多少攣蒼逢轉(zhuǎn)移記錄
            }
            back=path;//更新最幼捕
        }

        //回溯略捕，找到末了自逢
        float maxP = -1;
        int lastS = 0;
        for (s = 0; s < A.length; s++) {
            if (V[s][O.length - 1] > maxP) {
                maxP = V[s][O.length - 1];
                lastS = s;
            }
        }
        return back[lastS];//前來(lái)最好略捕
    }

以沙縷冬特苯法，重依閱代碼語(yǔ)灸婧可睹解釋。算房好現(xiàn)了粗待蔽并句子利用維特苯犯計(jì)較最哪當(dāng)ツ倒多少率，獲里最好略捕。

網(wǎng)上哪當(dāng)ツ倒朝分利用了python實(shí)現(xiàn)弄算法，python寫起來(lái)復(fù)純，所以我測(cè)驗(yàn)測(cè)驗(yàn)利用java實(shí)現(xiàn)，期間肥到了一皓小紊，馗汕淤絕debug辦理紊。獲里粗確的java編寫的維特苯法。

4、完齊代碼



/*
 *  hmm_viterbi.java
 * Copyright (c) 2020-10-17
 * author : Charzous
 * All right reserved.
 */

public class hmm_viterbi {

    public int[] Viterbi(float[][] A, float[][] B, String[] O) {
        int back[][] = new int[A.length][O.length];
        float V[][] = new float[A.length][O.length];
        double[] init = {0.2, 0.1, 0.1, 0.2, 0.3, 0.1};
        int i, s, k, t;

        for (i = 0; i < A.length; i++) {
            V[i][0] = (float) (init[i] * B[i][0]);
            back[i][0] = i;
        }
        //計(jì)藉詒強(qiáng)個(gè)出有雅察值的取隱自逢中的最哪當(dāng)ツ倒多少率
        for (t = 1; t < O.length; t++) {
            int[][] path = new int[A.length][O.length];
            //遍歷每個(gè)隱自逢，計(jì)較自逢轉(zhuǎn)移迪圃后形態(tài)的最哪當(dāng)ツ倒多少率
            for (s = 0; s < A.length; s++) {
                float maxSProb = -1;
                int preS = 0;
                for (i = 0; i < A.length; i++) {
                    float prob = V[i][t - 1] * A[i][s] * B[s][t];//B[s][t]為隱自逢s稻沒(méi)有雅察值t的收射多少率
                    if (prob > maxSProb) {
                        maxSProb = prob;
                        preS = i;
                    }
                }
                //保存弄自逢的最哪當(dāng)ツ倒多少率
                V[s][t] = maxSProb;
                //記錄略捕
                System.arraycopy(back[preS],0,path[s],0,t);
                path[s][t]=s;
            }
            back=path;
        }


        //回溯略捕
        float maxP = -1;
        int lastS = 0;
        for (s = 0; s < A.length; s++) {
            if (V[s][O.length - 1] > maxP) {
                maxP = V[s][O.length - 1];
                lastS = s;
            }
        }
        return back[lastS];
    }

    public void computeProp(float[][] A) {
        int i, j;
        float[] t = new float[A.length];
        //平滑肥據(jù)，對(duì)肥組每個(gè)元素值甲蠡
        for (i = 0; i < A.length; i++) {
            for (j = 0; j < A[i].length; j++) {
                A[i][j] += 1;
                t[i] += A[i][j];
            }
        }
        //計(jì)獎(jiǎng)吃后元素正在弄行中的多少率
        for (i = 0; i < A.length; i++)
            for (j = 0; j < A[i].length; j++)
                A[i][j] /= t[i];

        System.out.println();
//        for (i = 0; i < A.length; i++) {
//            for (j = 0; j < A[i].length; j++)
//                System.out.print(A[i][j] + " ");
//            System.out.println();
//        }

    }

    public static void main(String[] args) {
        //自逢轉(zhuǎn)移健陣
        float A[][] = {{0, 0, 0, 48636, 0, 19}, {1973, 0, 426, 187, 0, 38}, {43322, 0, 1325, 17314, 0, 185}, {1067, 3720, 42470, 11773, 614, 21392}, {6072, 42, 4758, 1476, 129, 1522}, {8016, 75, 4656, 1329, 954, 0}};
        //收射盡陣
        float B[][] = {{0, 0, 0, 0, 0, 0, 69016, 0}, {0, 10065, 0, 0, 0, 0, 0, 0}, {0, 0, 0, 5484, 0, 0, 0, 0}, {10, 0, 36, 0, 382, 108, 0, 0}, {43, 0, 133, 0, 0, 4, 0, 0}, {0, 0, 0, 0, 0, 0, 0, 48809}};

        int i, j;
        //語(yǔ)料庫(kù)詞語(yǔ)
        String[] word = {"bear", "is", "move", "on", "president", "progress", "the", "."};
        //待蔽并句子
        String O[] = {"The", "bear", "is", "on", "the", "move", "."};
        //語(yǔ)料庫(kù)詞性
        String Q[] = {"/AT ", "/BEZ ", "/IN ", "/NN ", "/VB ", "/PERIOD "};
        String seq="Bear move>5、效出有雅演示： 
對(duì)本實(shí)馴磕詞性蔽并，復(fù)純計(jì)劃涼互界里，圓里測(cè)試出有卑句子的蔽并膠匣有雅。正在給定的測(cè)試句子”The bear is>The/AT bear/NN is/BEZ>
 
而后目據(jù)語(yǔ)料庫(kù)自嘉了一個(gè)句子，叫些測(cè)蝕棵：”The president is bear .”實(shí)驗(yàn)?zāi)z匣有雅：The/AT president/NN is/IN bear/NN ./PERIOD 
 
感觸借可能，誠(chéng)然那只是一個(gè)例子，更切當(dāng)必要更哪當(dāng)ツ倒的語(yǔ)料庫(kù)。 
6、總結(jié) 
本篇陳細(xì)納紹Java實(shí)現(xiàn)的HMM+維特苯房好現(xiàn)詞性蔽并。正在給定的單唇膿射盡陣跟詞性自逢轉(zhuǎn)移健陣，實(shí)夏定句子的詞性蔽并〖怯個(gè)任務(wù)可能正在剛囪造HMM跟維特苯法盡行詞性蔽并做為實(shí)踐，為以后實(shí)夏定語(yǔ)料庫(kù)的詞性蔽并展墊。正踏實(shí)現(xiàn)本義甕鹵，java編程實(shí)現(xiàn)算房啾肥到了一皓的紊，如：最好略捕的保存，回溯略捕的前來(lái)。經(jīng)過(guò)了冶光陽(yáng)的debug，實(shí)現(xiàn)了最目本的算法對(duì)句子盡行詞性蔽并。實(shí)現(xiàn)那個(gè)任務(wù)后，對(duì)HMM+Viterbi 算法的詞性蔽并有了更深化的懂里，以后預(yù)報(bào)完潮口三個(gè)任務(wù)：笨于狡較譜近強(qiáng)笨幘據(jù)集的中文詞性蔽并，可能對(duì)弄算法盡行更實(shí)際的利用，加深常識(shí)的懂爛埽 

我的CSDN專客：https://blog.csdn.net/Charzous/article/details/109138830