• 让Java说话-用Java实现语音引擎


    分类: Java技术

    为应用程序加上语音能力有什么好处呢?粗略地讲,是为了趣味,它适合所有注重趣味的应用,比如游戏。当然,从更严肃的角度来讲,它还涉及到应用的可用性问题。注意,这里我考虑的不仅是可视化界面固有的不足,而且还有这样一些情形:一些时候,让双眼离开当前的工作很不方便,甚至是不合法的。比如,假设有一个带语音功能的浏览器,你就可以在外出散步或开车上班的同时,用听的方式浏览自己喜爱的网站。[@more@]为应用程序加上语音能力有什么好处呢?粗略地讲,是为了趣味,它适合所有注重趣味的应用,比如游戏。当然,从更严肃的角度来讲,它还涉及到应用的可用性问题。注意,这里我考虑的不仅是可视化界面固有的不足,而且还有这样一些情形:一些时候,让双眼离开当前的工作很不方便,甚至是不合法的。比如,假设有一个带语音功能的浏览器,你就可以在外出散步或开车上班的同时,用听的方式浏览自己喜爱的网站。

    ??从目前来看,邮件阅读器或许是语音技术更实际的应用,在JavaMail API的帮助下,这一切已经可能。邮件阅读器可以定期地检查收件箱,然后用语音“You have new mail, would you like me to read it to you?”引起你的注意。按照类似的思路,我们还可以考虑一个带语音功能的提醒器,把它连接到一个日历应用:它会及时地提醒你“Don't forget your meeting with the boss in 10 minutes!”。

    ??也许你已经被这些主意吸引,或者有了自己更好的主意,现在让我们继续。首先我将介绍如何启用本文提供的语音引擎,这样,如果你认为语音引擎的实现细节过于复杂,就可以直接使用它而忽略其实现细节。

      一、试用语音引擎

    要使用这个语音引擎,你必须在CLASSPATH中加入本文提供的javatalk.jar文件,然后从命令行运行(或者从Java程序调用)com.lotontech.speech.Talker类。如果从命令行运行,则命令为:

    java com.lotontech.speech.Talker "h|e|l|oo"

    如果从Java程序调用,则代码为:

    com.lotontech.speech.Talker talker=new com.lotontech.speech.Talker();

    talker.sayPhoneWord("h|e|l|oo");

    现在,对于在命令行上(或者调用sayPhoneWord()方法时)提供的“h|e|l|oo”字符串,你或许有所不解。下面我就来解释一下。

    语音引擎的工作原理是把细小的声音样本连接起来,每一个样本都是人的语言发音(英语)的一个最小单位。这些声音样本称为音素(allophone)。每一个因素对应一个、二个或者三个字母。从前面“hello”的语音表示可以看出,一些字母组合的发音显而易见,还有一些却不是很明显:

    h -- 读音显而易见

    e -- 读音显而易见

    l -- 读音显而易见,但注意两个“l”被简缩成了一个“l”。

    OO -- 应该读作“hello”中的读音,不应读作“bot”、“too”中的读音。

    下面是一个有效音素的清单:

    a : 如cat
    b : 如cab
    c : 如cat
    d : 如dot
    e : 如bet
    f : 如frog
    g : 如frog
    h : 如hog
    i : 如pig
    j : 如jig
    k : 如keg
    l : 如leg
    m : 如met
    n : 如begin
    o : 如not
    p : 如pot
    r : 如rot
    s : 如sat
    t : 如sat
    u : 如put
    v : 如have
    w : 如wet
    y : 如yet
    z : 如zoo
    aa : 如fake
    ay : 如hay
    ee : 如bee
    ii : 如high
    oo : 如go
    bb : b的变化形式,重音不同
    dd : d的变化形式,重音不同
    ggg : g的变化形式,重音不同
    hh : h的变化形式,重音不同
    ll : l的变化形式,重音不同
    nn : n的变化形式,重音不同
    rr : r的变化形式,重音不同
    tt : t的变化形式,重音不同
    yy : y的变化形式,重音不同
    ar : 如car
    aer : 如care
    ch : 如which
    ck : 如check
    ear : 如beer
    er : 如later
    err : 如later (长音)
    ng : 如feeding
    or : 如law
    ou : 如zoo
    ouu : 如zoo (长音)
    ow : 如cow
    oy : 如boy
    sh : 如shut
    th : 如thing
    dth : 如this
    uh : u 的变化形式
    wh : 如where
    zh : 如Asian

    人说话的时候,语音在整个句子之内起落变化。语调变化使得语音更自然、更富有感染力,使得问句和陈述句能够相互区别。请考虑下面两个句子:

    It is fake -- f|aa|k

    Is it fake? -- f|AA|k

    也许你已经猜想到,提高语调的方法是使用大写字母。

    以上就是使用该软件时你需要了解的东西。如果你对其后台实现细节感兴趣,请继续阅读。

      二、实现语音引擎

    语音引擎的实现只包括一个类,四个方法。它利用了J2SE 1.3包含的Java Sound API。在这里,我不准备全面地介绍这个API,但你可以通过实例学习它的用法。Java Sound API并不是一个特别复杂的API,代码中的注释将告诉你必须了解的知识。

    下面是Talker类的基本定义:

    package com.lotontech.speech;

    import javax.sound.sampled.*;

    import java.io.*;

    import java.util.*;

    import java.net.*;

    public class Talker

    {

    private SourceDataLine line=null;

    }

    如果从命令行执行Talker,下面的main()方法将作为入口点运行。main()方法获取第一个命令行参数,然后把它传递给sayPhoneWord()方法:

    /*

    * 读出在命令行中指定的表示读音的字符串

    */

    public static void main(String args[])

    {

    Talker player=new Talker();

    if (args.length>0) player.sayPhoneWord(args[0]);

    System.exit(0);

    }
    sayPhoneWord()方法既可以通过上面的main()方法调用,也可以在Java程序中直接调用。从表面上看,sayPhoneWord()方法比较复杂,其实并非如此。实际上,它简单地遍历所有单词的语音元素(在输入字符串中语音元素以“|”分隔),通过一个声音输出通道一个元素一个元素地播放出来。为了让声音更自然一些,我把每一个声音样本的结尾和下一个声音样本的开头合并了起来:

    /*

    * 读出指定的语音字符串

    */

    public void sayPhoneWord(String word)

    {

    // 为上一个声音构造的模拟byte数组

    byte[] previousSound=null;

    // 把输入字符串分割成单独的音素

    StringTokenizer st=new StringTokenizer(word,"|",false);

    while (st.hasMoreTokens())

    {

    // 为音素构造相应的文件名字

    String thisPhoneFile=st.nextToken();

    thisPhoneFile="/allophones/"+thisPhoneFile+".au";

    // 从声音文件读取数据

    byte[] thisSound=getSound(thisPhoneFile);

    if (previousSound!=null)

    {

    // 如果可能的话,把前一个音素和当前音素合并

    int mergeCount=0;

    if (previousSound.length>=500 && thisSound.length>=500)

    mergeCount=500;

    for (int i=0; i

    {

    previousSound[previousSound.length-mergeCount+i]

    =(byte)((previousSound[previousSound.length

    -mergeCount+i]+thisSound[i])/2);

    }

    // 播放前一个音素

    playSound(previousSound);

    // 把经过截短的当前音素作为前一个音素

    byte[] newSound=new byte[thisSound.length-mergeCount];

    for (int ii=0; ii

    newSound[ii]=thisSound[ii+mergeCount];

    previousSound=newSound;

    }

    else

    previousSound=thisSound;

    }

    // 播放最后一个音素,清理声音通道

    playSound(previousSound);

    drain();

    }

    在sayPhoneWord()的后面,你可以看到它调用playSound()输出单个声音样本(即一个音素),然后调用drain()清理声音通道。下面是playSound()的代码:

    /*

    * 该方法播放一个声音样本

    */

    private void playSound(byte[] data)

    {

    if (data.length>0) line.write(data, 0, data.length);

    }

    下面是drain()的代码:

    /*

    * 该方法清理声音通道

    */

    private void drain()

    {

    if (line!=null) line.drain();

    try {Thread.sleep(100);} catch (Exception e) {}

    }

    现在回过头来看sayPhoneWord(),这里还有一个方法我们没有分析,即getSound()方法。

    getSound()方法从一个au文件以字节数据的形式读入预先录制的声音样本。要了解读取数据、转换音频格式、初始化声音输出行(SouceDataLine)以及构造字节数据的详细过程,请参考下面代码中的注释:

    /*

    * 该方法从文件读取一个音素,

    * 并把它转换成byte数组

    */

    private byte[] getSound(String fileName)

    {

    try

    {

    URL url=Talker.class.getResource(fileName);

    AudioInputStream stream = AudioSystem.getAudioInputStream(url);

    AudioFormat format = stream.getFormat();

    // 把一个ALAW/ULAW声音转换成PCM以便回放

    if ((format.getEncoding() == AudioFormat.Encoding.ULAW) ||

    (format.getEncoding() == AudioFormat.Encoding.ALAW))

    {

    AudioFormat tmpFormat = new AudioFormat(

    AudioFormat.Encoding.PCM_SIGNED,

    format.getSampleRate(), format.getSampleSizeInBits() * 2,

    format.getChannels(), format.getFrameSize() * 2,

    format.getFrameRate(), true);

    stream = AudioSystem.getAudioInputStream(tmpFormat, stream);

    format = tmpFormat;

    }

    DataLine.Info info = new DataLine.Info(

    Clip.class, format,

    ((int) stream.getFrameLength() * format.getFrameSize()));

    if (line==null)

    {

    // 输出线还没有实例化

    // 是否能够找到合适的输出线类型?

    DataLine.Info outInfo = new DataLine.Info(SourceDataLine.class,

    format);

    if (!AudioSystem.isLineSupported(outInfo))

    {

    System.out.println("不支持匹配" + outInfo + "的输出线");

    throw new Exception("不支持匹配" + outInfo + "的输出线");

    }

    // 打开输出线

    line = (SourceDataLine) AudioSystem.getLine(outInfo);

    line.open(format, 50000);

    line.start();

    }

    int frameSizeInBytes = format.getFrameSize();

    int bufferLengthInFrames = line.getBufferSize() / 8;

    int bufferLengthInBytes = bufferLengthInFrames * frameSizeInBytes;

    byte[] data=new byte[bufferLengthInBytes];

    // 读取字节数据,并计数

    int numBytesRead = 0;

    if ((numBytesRead = stream.read(data)) != -1)

    {

    int numBytesRmaining = numBytesRead;

    }

    // 把字节数据切割成合适的大小

    byte[] newData=new byte[numBytesRead];

    for (int i=0; i

    newData[i]=data[i];

    return newData;

    }

    catch (Exception e)

    {

    return new byte[0];

    }

    }

    这就是全部的代码,包括注释在内,一个大约150行代码的语音合成器。

      三、文本-语音转换

    以语音元素的格式指定待朗读的单词似乎过于复杂,如果要构造一个能够朗读文本(比如Web页面或Email)的应用,我们希望能够直接指定原始的文本。

    深入分析这个问题之后,我在本文后面的ZIP文件中提供了一个试验性的文本-语音转换类。运行这个类,它将显示出分析结果。文本-语音转换类可以从命令行执行,如下所示:

    java com.lotontech.speech.Converter "hello there"

    输出结果类如:

    hello -> h|e|l|oo

    there -> dth|aer

    如果运行下面这个命令:

    java com.lotontech.speech.Converter "I like to read JavaWorld"

    则输出结果为:

    i -> ii

    like -> l|ii|k

    to -> t|ouu

    read -> r|ee|a|d

    java -> j|a|v|a

    world -> w|err|l|d

    这个转换类是如何工作的呢?实际上,我的方法相当简单,转换过程就是以一定的次序应用一组文本替换规则。例如对于单词“ant”、“want”、“wanted”、“unwanted”和“unique”,则我们想要应用的替换规则可能依次为:

    用“|y|ou|n|ee|k|”替换“*unique*”

    用“|w|o|n|t|”替换“*want*”

    用“|a|”替换“*a*”

    用“|e|”替换“*e*”

    用“|d|”替换“*d*”

    用“|n|”替换“*n*”

    用“|u|”替换“*u*”

    用“|t|”替换“*t*”

    对于“unwanted”,输出序列为:

    unwanted

    un[|w|o|n|t|]ed (规则2)

    [|u|][|n|][|w|o|n|t|][|e|][|d|] (规则4、5、6、7)

    u|n|w|o|n|t|e|d (删除多余的符之后)

    你将看到包含字母“wont”的单词和包含字母“ant”的单词以不同的方式发音,还将看到在特例规则的作用下,“unique”作为一个完整单词优先于其他规则,从而“unique”这个单词读作“y|ou...”而不是“u|n...”。

      结束语:本文提供了一个可以随时运行的、方便的语音引擎,你可以在自己的Java 1.3应用中使用它。如果仔细分析一下代码,它还为你提供了一个用JavaSound API播放音频片断的实用教程。要让它变得真正有用,你应该考虑一下文本-语音转换技术,因为对于我前面提到的文本阅读应用来说,这是真正的支撑基础。要改善本文方案的效果,你必须构造出一个庞大的替换规则库,精心调整应用规则的优先次序。希望你比我更有毅力!

  • 相关阅读:
    关于import和from xx import xx
    Python中import机制
    定制化的IPython配置
    ajax请求封装函数
    ajax-----readyState总结
    console控制台的小问题
    http协议基本知识
    cookie猜数字游戏(下)------------以及cookie使用的不安全之处
    cookie猜数字游戏(上)---------------思路分析(踩坑)
    Cookie隐藏小广告
  • 原文地址:https://www.cnblogs.com/developer-ios/p/6114816.html
Copyright © 2020-2023  润新知