{"action":"opened","issue":{"url":"https://api.github.com/repos/Toshiki-Sasaki/papers/issues/50","repository_url":"https://api.github.com/repos/Toshiki-Sasaki/papers","labels_url":"https://api.github.com/repos/Toshiki-Sasaki/papers/issues/50/labels{/name}","comments_url":"https://api.github.com/repos/Toshiki-Sasaki/papers/issues/50/comments","events_url":"https://api.github.com/repos/Toshiki-Sasaki/papers/issues/50/events","html_url":"https://github.com/Toshiki-Sasaki/papers/issues/50","id":312874129,"number":50,"title":"Dynamic Fusion Networks for Machine Reading Comprehension","user":{"login":"Toshiki-Sasaki","id":23024426,"avatar_url":"https://avatars2.githubusercontent.com/u/23024426?v=4","gravatar_id":"","url":"https://api.github.com/users/Toshiki-Sasaki","html_url":"https://github.com/Toshiki-Sasaki","followers_url":"https://api.github.com/users/Toshiki-Sasaki/followers","following_url":"https://api.github.com/users/Toshiki-Sasaki/following{/other_user}","gists_url":"https://api.github.com/users/Toshiki-Sasaki/gists{/gist_id}","starred_url":"https://api.github.com/users/Toshiki-Sasaki/starred{/owner}{/repo}","subscriptions_url":"https://api.github.com/users/Toshiki-Sasaki/subscriptions","organizations_url":"https://api.github.com/users/Toshiki-Sasaki/orgs","repos_url":"https://api.github.com/users/Toshiki-Sasaki/repos","events_url":"https://api.github.com/users/Toshiki-Sasaki/events{/privacy}","received_events_url":"https://api.github.com/users/Toshiki-Sasaki/received_events","type":"User","site_admin":false},"labels":[],"state":"open","locked":false,"assignee":null,"assignees":[],"milestone":null,"comments":0,"created_at":"2018-04-10T11:03:02Z","updated_at":"2018-04-10T11:03:02Z","closed_at":null,"author_association":"OWNER","body":"Yichong Xu\r\nhttps://arxiv.org/pdf/1711.04964.pdf\r\n\r\n## Abstract\r\nこの論文では、読解問題のための新しいneural モデル、Dynamic Fusion Network(DFN)を提案します。\r\nDFNは、多戦略アテンション過程を使用するstate-of-the-artモデルとは異なります。\r\n多戦略アテンション過程では、passage、question、answerの候補は一緒にアテンションベクトルに結合されます。\r\n同時に、多段階推論モジュールで答えを生成すします。\r\n強化学習の使用で、passage, question, list of candidate answers の入力に対して、サンプル仕様network構成をもつDFNの過程は、ダイナミックに、アテンション戦略の決定と、とる推論ステップの決定により構成されます。\r\n実験では、DFNは挑戦的読解問題のタスクRACEで最高の結果を達成しました。\r\n詳細な経験的解析では、DFNが、他のモデルよりも効果的にquestion, passage, answer candidateから情報を要約したアテンションベクトルを提供できることを示しました。\r\n\r\n## ポイント\r\n理想的なアテンションや推論の戦略というのは、異なる質問に対して組織的に適応されるべきである。\r\nしかし、ほとんどのRCモデルは、静的なアテンションと推論の戦略を無差別に取っている。\r\n（その一つの理由として、タスクが1つのドメインであることが考えられる。\r\n例えば、CNN/DMはnews記事で、答えはpassage内に出現する。）\r\nReasonetと似たような視点で、取る推論ステップの数だけではなく、アテンションの方法の面でもダイナミックなモデルを提案する。\r\n\r\n推論方法は3つのカテゴリに分類できる。\r\n(1) シングルステップの推論\r\n(2) 固定された回数の複数ステップの推論\r\n(3) ダイナミックな複数ステップの推論\r\nそして、DFSはダイナミックな戦略を推論だけではなく、アテンションにも用いる。\r\n\r\n"}}
{"actor":{"display_login":"Toshiki-Sasaki"}}