特許ウォッチ

公開番号2025121515
公報種別公開特許公報(A)
公開日2025-08-20
出願番号2024016946
出願日2024-02-07
発明の名称修辞構造解析装置、修辞構造解析方法及びプログラム
出願人NTT株式会社,国立大学法人東京科学大学
代理人弁理士法人ITOH,個人,個人,個人
主分類G06F 40/35 20200101AFI20250813BHJP(計算;計数)
要約【課題】修辞構造解析の性能を向上させること。
【解決手段】修辞構造解析装置は、入力された文書を修辞構造解析するためのプロンプトを生成し、前記プロンプトをLLMに入力するように構成されている問い合わせ部と、前記LLMからの出力に基づいて修辞構造木を構築するように構成されている修辞構造木構築部と、を有する。
【選択図】図4
特許請求の範囲【請求項１】
入力された文書を修辞構造解析するためのプロンプトを生成し、前記プロンプトをＬＬＭに入力するように構成されている問い合わせ部と、
前記ＬＬＭからの出力に基づいて修辞構造木を構築するように構成されている修辞構造木構築部と、
を有することを特徴とする修辞構造解析装置。
続きを表示（約 990 文字）【請求項２】
前記問い合わせ部は、前記文書を形成するテキストユニットの系列の前記テキストユニットに対応する要素又は前記テキストユニットに基づく木構造に対応する要素を修辞構造解析のために格納するデータ構造に対する操作を問い合わせるための第１のプロンプト、前記データ構造において前記操作の対象とされる要素の核性を問い合わせるための第２のプロンプト、又は前記データ構造において前記核性に係る要素の談話関係を問い合わせるための第３のプロンプトを生成するように構成されており、
前記修辞構造木構築部は、前記第１のプロンプトを入力したＬＬＭからの出力に応じた操作を前記データ構造に対して実行し、前記第２のプロンプトを入力したＬＬＭから出力される核性と、前記第３のプロンプトを入力したＬＬＭから出力される談話関係を前記修辞構造木へ与えるように構成されている、
ことを特徴とする請求項１記載の修辞構造解析装置。
【請求項３】
前記データ構造は、シフト還元法によって修辞構造解析するためのキュー及びスタックであり、
前記問い合わせ部は、前記キュー及びスタックに基づいて前記第１のプロンプトを生成し、当該第１のプロンプトを入力したＬＬＭから出力される操作が還元を示す場合に、当該還元が実行される直前の前記スタックに基づいて前記第２のプロンプトを生成し、当該第２のプロンプトを入力したＬＬＭから出力される核性と、当該還元が実行される直前の前記スタックに基づいて前記第３のプロンプトを生成するように構成されている、
ことを特徴とする請求項２記載の修辞構造解析装置。
【請求項４】
入力された文書を修辞構造解析するためのプロンプトを生成し、前記プロンプトをＬＬＭに入力する問い合わせ手順と、
前記ＬＬＭからの出力に基づいて修辞構造木を構築する修辞構造木構築手順と、
をコンピュータが実行することを特徴とする修辞構造解析方法。
【請求項５】
入力された文書を修辞構造解析するためのプロンプトを生成し、前記プロンプトをＬＬＭに入力する問い合わせ手順と、
前記ＬＬＭからの出力に基づいて修辞構造木を構築する修辞構造木構築手順と、
をコンピュータに実行させることを特徴とするプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、修辞構造解析装置、修辞構造解析方法及びプログラムに関する。
続きを表示（約 2,400 文字）【背景技術】
【０００２】
［修辞構造木］
修辞構造解析では、文書をＥＤＵ（Elementary Discourse Unit）と呼ばれる文よりも小さい、節に相当するテキストユニットの系列データとみなし、これらを終端ノードがあらわし、ＥＤＵが形成するスパンの関係を非終端ノードがあらわす再帰構造を持った修辞構造木として表現する（図１参照）。図１においてＥＤＵであるｅ１～ｅ６（RST Discourse Treebank，WSJ 1100より）の内容は以下の通りである。
ｅ１：［Westinghouse Electric Corp. said］
ｅ２：［it will buy Shaw-Walker Co.]
ｅ３：［Terms weren't disclosed.］
ｅ４：［Shaw-Walker,］
ｅ５：［based in Muskegon, Mich.,］
ｅ６：［makes metal files and desks, and seating and office systems furniture.］
なお、本来、木は多分木として表されるが等価な完全２文木として表現可能である。図１において、終端ノードはＥＤＵ（ｅ）であり、非終端ノードはそれが支配する左右のスパンの核性、つまり核（Ｎ）であるか衛星（Ｓ）であるかを表す。Ｎ－Ｓであれば、左のスパンがＮ、右のスパンがＳとなる。Ｓ－Ｎであれば、右のスパンがＮ、左のスパンがＳとなる。Ｎ－Ｓ、Ｓ－Ｎの場合にはＳからＮへの談話関係ラベルが与えられ、Ｎ－Ｎの場合には２つのスパンの間の並列関係をあらわす等価な談話関係ラベルが与えられる。図１の例では、ｅ１はｅ２の衛星であり、それらの間の談話関係ラベルはＡｔｔｒｉｂｕｔｉｏｎである。また、ｅ３は、ｅ１とｅ２からなるスパンの衛星であり、それらの間の談話関係ラベルはＥｌａｂｏｒａｔｉｏｎである。
【０００３】
［修辞構造解析］
文書、つまりＥＤＵの系列が与えられた際に修辞木構造を推定する技術は、現在ではニューラルネットワークを用いて実現される。エンコーダのみの事前学習済み言語モデルを用いてスパンのベクトルを得たのち、（１）木構造推定（スパンの結合もしくは分割の決定）、（２）核性推定（Ｎ－Ｓ、Ｓ－Ｎ、Ｎ－Ｎのいずれかを選択）、（３）関係ラベル推定をニューラルネットワークにより実現する。
【０００４】
つまり、テキストスパン（ＥＤＵ系列）をベクトルへと変換する特徴抽出部と、特徴抽出部が出力したベクトルを受け取り、木構造推定、核性推定、談話関係ラベル推定を行う分類部からなる（図２参照）。図２において、ＦＦＮ
ａｃｔ
が木構造推定、ＦＦＮ
ｎｕｃ
が核性推定、ＦＦＮ
ｒｅｌ
が談話関係ラベルを担う。
【０００５】
図２はシフト還元法による修辞構造解析法を示している。シフト還元法では、スタックとキューを用いて、以下のシフト、還元操作（アクション）を繰り返して木を構築する。
シフト：与えられたＥＤＵ系列を格納したキューの先頭のＥＤＵをスタックに積む。
還元：スタックの上２つの要素（単一ＥＤＵあるいは木）を結合し、（２つの要素を兄弟とする）木を作りスタックの上に積む。
【０００６】
なお、還元時に核性、談話関係ラベルも推定する。
【先行技術文献】
【非特許文献】
【０００７】
Naoki Kobayashi and Tsutomu Hirao and Hidetaka Kamigaito and Manabu Okumura and Masaaki Nagata、"A Simple and Strong Baseline for End-to-End Neural RST-style Discourse Parsing"、Findings of the Association for Computational Linguistics: EMNLP 2022, pages 6754 - 6766 December
【発明の概要】
【発明が解決しようとする課題】
【０００８】
現在の事前学習済み言語モデルの開発は、エンコーダのみのものからデコーダのみのものへと焦点が移っており、大規模化が加速している。多くのエンコーダのみの事前学習済み言語モデルのパラメータ数は数百万程度であることに対し、デコーダのみの事前学習済み大規模言語モデル（以下、「ＬＬＭ」という。）のパラメータ数は数十億を超えることが多く、数百億を超えるものもある。一般的に、事前学習モデルを用いて自然言語処理のタスクを解く場合、パラメータ数が多い方が良い性能を期待できる。しかし、エンコーダのみの事前学習済み言語モデルとＬＬＭは仕組みに大きな違いがあり、既存の修辞構造解析技術における特徴抽出部の事前学習済み言語モデルをＬＬＭに置き換えるだけでは十分な性能を得ることができない。
【０００９】
本発明は、上記の点に鑑みてなされたものであって、修辞構造解析の性能を向上させることを目的とする。
【課題を解決するための手段】
【００１０】
そこで上記課題を解決するため、修辞構造解析装置は、入力された文書を修辞構造解析するためのプロンプトを生成し、前記プロンプトをＬＬＭに入力するように構成されている問い合わせ部と、前記ＬＬＭからの出力に基づいて修辞構造木を構築するように構成されている修辞構造木構築部と、を有する。
【発明の効果】
（【００１１】以降は省略されています）

関連特許