-
Notifications
You must be signed in to change notification settings - Fork 120
Commit
This commit does not belong to any branch on this repository, and may belong to a fork outside of the repository.
Co-authored-by: Nanashi. <[email protected]>
- Loading branch information
1 parent
38b6ebd
commit 67c0852
Showing
1 changed file
with
179 additions
and
0 deletions.
There are no files selected for viewing
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,179 @@ | ||
# VOICEVOX コア ユーザーガイド | ||
|
||
## VOICEVOX コアとは | ||
|
||
VOICEVOX の音声合成のコア部分で、VOICEVOX 音声合成が可能です。 | ||
|
||
コアを利用する方法は2つあります。動的ライブラリを使う方法と、各言語向けのライブラリを使う方法です。初心者の方は後者がおすすめです。 | ||
|
||
ここではまず環境構築の方法を紹介し、Python ライブラリのインストール方法を紹介します。その後、実際に音声合成を行う方法を少し細かく紹介します。 | ||
|
||
## 環境構築 | ||
|
||
### 実行に必要なファイルのダウンロード | ||
|
||
コアを動作させるには依存ライブラリである ONNX Runtime や、音声合成のための音声モデル(VVM ファイル)が必要です。これらはコア用の Downloader を用いてダウンロードすることができます。 | ||
|
||
[最新のリリース](https://github.com/VOICEVOX/voicevox_core/releases/latest/)から、お使いの環境にあった Downloader (例えば Windows の x64 環境の場合は`download-windows-x64.exe`)をダウンロードし、ファイル名を`download`に変更します。macOS や Linux の場合は実行権限を付与します。 | ||
|
||
```sh | ||
# 実行権限の付与 | ||
chmod +x download | ||
``` | ||
|
||
以下のコマンドで Downloader を実行して依存ライブラリとモデルをダウンロードします。DirectML 版や CUDA 版を利用する場合は引数を追加します。 | ||
|
||
```sh | ||
# CPU版を利用する場合 | ||
./download | ||
|
||
# DirectML版を利用する場合 | ||
./download --device directml | ||
|
||
# CUDA版を利用する場合 | ||
./download --device cuda | ||
``` | ||
|
||
`voicevox_core`ディレクトリにファイル一式がダウンロードされています。以降の説明ではこのディレクトリで作業を行います。 | ||
|
||
詳細な Downloader の使い方は [こちら](./downloader.md) で紹介しています。 | ||
|
||
### Python ライブラリのインストール | ||
|
||
> [!NOTE] | ||
> Downloader を実行すればコアの動的ライブラリもダウンロードされているので、Python ライブラリを用いない場合はこの章はスキップできます。 | ||
`pip install`で Python ライブラリをインストールします。使いたい OS・アーキテクチャ・デバイス・バージョンによって URL が変わるので、[最新のリリース](https://github.com/VOICEVOX/voicevox_core/releases/latest/)の`Python wheel`に合わせます。 | ||
|
||
```sh | ||
pip install https://github.com/VOICEVOX/voicevox_core/releases/download/[バージョン]/voicevox_core-[バージョン]+[デバイス]-cp38-abi3-[OS・アーキテクチャ].whl | ||
``` | ||
|
||
## テキスト音声合成 | ||
|
||
VOICEVOX コアでは`Synthesizer`に音声モデルを読み込むことでテキスト音声合成できます。まずサンプルコードを紹介し、その後で処理1つ1つを説明します。 | ||
|
||
### サンプルコード | ||
|
||
これは Python で書かれたサンプルコードですが、大枠の流れはどの言語でも同じです。 | ||
|
||
```python | ||
import asyncio | ||
from pprint import pprint | ||
from voicevox_core import OpenJtalk, Synthesizer, VoiceModel | ||
|
||
# asyncやawaitは必須です | ||
async def main(): | ||
# 1. Synthesizerの初期化 | ||
open_jtalk_dict_dir = "open_jtalk_dic_utf_8-1.11" | ||
synthesizer = Synthesizer(await OpenJtalk.new(open_jtalk_dict_dir)) | ||
|
||
# 2. 音声モデルの読み込み | ||
model = await VoiceModel.from_path("model/0.vvm") | ||
await synthesizer.load_voice_model(model) | ||
|
||
# 3. テキスト音声合成 | ||
text = "サンプル音声です" | ||
style_id = 0 | ||
wav = await synthesizer.tts(text, style_id) | ||
with open("output.wav", "wb") as f: | ||
f.write(wav) | ||
|
||
asyncio.run(main()) | ||
``` | ||
|
||
### 1. Synthesizer の初期化 | ||
|
||
辞書などを取り扱う`OpenJtalk`のインスタンスを引数に渡して`Synthesizer`を初期化します。`Synthesizer`は音声合成だけでなく、音声モデルを複数読み込んだり、イントネーションのみを生成することもできます。 | ||
|
||
### 2. 音声モデルの読み込み | ||
|
||
VVM ファイルから`VoiceModel`インスタンスを作成し、`Synthesizer`に読み込ませます。その VVM ファイルにどの声が含まれているかは`VoiceModel`の`.metas`で確認できます。 | ||
|
||
```python | ||
model = await VoiceModel.from_path("model/0.vvm") | ||
pprint(model.metas) | ||
``` | ||
|
||
```txt | ||
[SpeakerMeta(name='四国めたん', | ||
styles=[StyleMeta(name='ノーマル', id=2), | ||
StyleMeta(name='あまあま', id=0), | ||
StyleMeta(name='ツンツン', id=6), | ||
StyleMeta(name='セクシー', id=4)], | ||
speaker_uuid='7ffcb7ce-00ec-4bdc-82cd-45a8889e43ff', | ||
version='0.14.4'), | ||
SpeakerMeta(name='ずんだもん', | ||
... | ||
``` | ||
|
||
### 3. テキスト音声合成 | ||
|
||
読み込んだ音声モデル内の声でテキスト音声合成を行います。`Synthesizer`の`.tts`にテキストとスタイル ID を渡すと、音声波形のバイナリデータが返ります。 | ||
|
||
## イントネーションの調整 | ||
|
||
`Synthesizer`はイントネーションの生成と音声合成の処理を分けることもできます。 | ||
|
||
### AudioQuery の生成 | ||
|
||
まずテキストから`AudioQuery`を生成します。`AudioQuery`には各音の高さや長さが含まれています。 | ||
|
||
```python | ||
text = "サンプル音声です" | ||
style_id = 0 | ||
audio_query = await synthesizer.audio_query(text, style_id) | ||
pprint(audio_query) | ||
``` | ||
|
||
```txt | ||
AudioQuery(accent_phrases=[AccentPhrase(moras=[Mora(text='サ', | ||
vowel='a', | ||
vowel_length=0.13019563, | ||
pitch=5.6954613, | ||
consonant='s', | ||
consonant_length=0.10374545), | ||
Mora(text='ン', | ||
vowel='N', | ||
vowel_length=0.07740324, | ||
pitch=5.828728, | ||
consonant=None, | ||
consonant_length=None), | ||
Mora(text='プ', | ||
... | ||
``` | ||
|
||
### AudioQuery の調整 | ||
|
||
少し声を高くしてみます。`AudioQuery`の`.pitch_scale`で声の高さを調整できます。 | ||
|
||
```python | ||
audio_query.pitch_scale += 0.1 | ||
``` | ||
|
||
### 音声合成 | ||
|
||
調整した`AudioQuery`を`Synthesizer`の`.synthesis`に渡すと、調整した音声波形のバイナリデータが返ります。 | ||
|
||
```python | ||
wav = await synthesizer.synthesis(audio_query, style_id) | ||
with open("output.wav", "wb") as f: | ||
f.write(wav) | ||
``` | ||
|
||
`AudioQuery`で調整できるパラメータは他にも速さ`.speed_scale`や音量`.volume_scale`、音ごとの高さ`.accent_phrases[].moras[].pitch`などがあります。詳細は[API ドキュメント](https://voicevox.github.io/voicevox_core/apis/python_api/autoapi/voicevox_core/index.html#voicevox_core.AudioQuery)で紹介しています。 | ||
|
||
## ユーザー辞書 | ||
|
||
TODO。[OpenJtalk.use_user_dict](https://voicevox.github.io/voicevox_core/apis/python_api/autoapi/voicevox_core/index.html#voicevox_core.OpenJtalk.use_user_dict)辺りを使います。 | ||
|
||
## 動的ライブラリを使う場合 | ||
|
||
TODO。.so/.dll/.dylib ファイルがあるので直接呼び出します。[C++ Example](https://github.com/VOICEVOX/voicevox_core/tree/main/example/cpp)で流れを紹介しています。[API ドキュメント](https://voicevox.github.io/voicevox_core/apis/c_api/globals_func.html)も参考になります。 | ||
|
||
## 非同期処理 | ||
|
||
TODO。同じ音声モデルのインスタンスで同時に音声合成はできません(Mutex になっています)。仕様が変更されている可能性もあります。 | ||
|
||
内部で利用する ONNX Runtime が最適化処理を行っているため、パフォーマンス目的で非同期処理するのは効果がないことが多いです。 | ||
`Synthesizer`の`cpu_num_threads`を減らした状態であれば、長い音声を合成しているものにロックされずバランシングできるかもしれません。 |