「人狼」をプレイする人工知能とは？｜鳥海不二夫

不完全情報ゲームへの挑戦

2013年に「人狼知能プロジェクト」を立ち上げました。「人狼ゲーム」をプレイするAIを集合知的に開発するためのプラットフォームです。そろそろAIが将棋や囲碁のトッププロを超えそうだということが明らかになってきた時期でした。人工知能の発展に寄与してきたゲームプレイングAIの次のテーマとして、私が目を付けたのが人狼ゲーム。村人たちの中に潜んでいる人狼が誰なのかを推理し追放するゲームです。

囲碁や将棋といった盤面に全ての情報が公開されている「完全情報ゲーム」と違い、人狼ゲームは「不完全情報ゲーム」です。多くの情報がプレイヤーによって隠されているため、他のプレイヤーがどういう状態なのか分からない。会話をしながら相手の正体を見抜いていくコミュニケーションゲームなので、記号化できない情報がたくさんあります。高度なアルゴリズムが必要で、難易度が高い。また「だます」、「嘘を見抜く」、「説得する」といった能力が求められるため、会話を理解する新しい人工知能の開発のためにもよい題材になると考えました。

研究としては、ゲームの構造やどのようにプレイされているのかを理解するために、人狼ゲームサイトのデータ全てをスクレイピングしてデータベースを作り傾向を分析しました。当時は自然言語で会話する技術を使うことはハードルが高かったので、人狼用の簡易言語「人狼プロトコル」を用意して、ある程度記号化できるような状態に一回落とし込んでからAIにプレイさせるプラットフォームを開発。多くの人に参加してもらいたいと、2015年からはAI同士で対戦する「人狼知能大会」を開催してきました。最終的な目標は、人間と対面で楽しく対戦できる人狼知能を作ることです。

相手を説得し、信頼を得るゲーム

かなり先までを見据えた計画を立ててプロジェクトを進めてきましたが、ChatGPTなどの大規模言語モデル（LLM）の登場で環境が大きく変わりました。LLMを使うことで、自然言語的なレベルでは違和感がなくなっています。しかし、「いかに相手を説得して信頼を得るか」という、人狼ゲームの面白さで一番重要なポイントの部分ではまだまだ。プロトコル部分で培ったものをどう組み合わせていくのかということがこれからの課題だと考えています。

私はAIをどう社会に応用していくかといったことを研究してきました。人狼知能プロジェクトでは、いずれ来るAIが嘘をつく時代に備えて、人間とAIのあり方を明らかにしたいという思いもありました。想定していたのは「人間のためになる」と判断してつく嘘ですが、実際には、騙そうという意図もなく誤情報をもっともらしく生成する「ハルシネーション」が起きています。人狼でいうところの「説得」と「信頼」が揺らいでいます。現在の情報社会では信頼性を見極め、情報を取捨選択することが非常に重要ですが、情報の推薦システムなどにもAIが使われていたりする。何らかの意図をもったAIが導入されると、思考が歪められる可能性もあります。どう解決していけばいいのか。それが今の大きな社会課題で私も取り組んでいるところです。

『人狼知能 — だます・見破る・説得する人工知能』（鳥海不二夫ほか共著、森北出版、2016年）

人狼ゲームの詳細な説明から、自然言語処理やエージェントロボット開発などの研究まで「人狼知能プロジェクト」を紹介する一冊。