安全なAIをどう築くか：生成AIの透明性と説明責任、そして未来への影響

　東京大学先端科学技術研究センター（RCAST）経済安全保障インテリジェンス分野（ESIL）は、アジア生産性機構（APO）と共催で、OpenAI、国連大学、東京大学松尾・岩澤研究室の専門家を招聘した以下の公開シンポジウムを開催いたします。
 
安全なAIをどう築くか：
生成AIの透明性と説明責任、そして未来への影響
 
生成AIがビジネス・行政・教育・研究、そして日常生活に急速に浸透する中で、重要なのは単にAIの利活用をいかに加速させるかだけではありません。社会にとって安全で、透明性があり、アカウンタビリティを備え、公共の利益に資するAIをいかに構築し、適切に運用していくかが重要な課題となっています。OpenAIによる生成AIの悪用に関する安全性・インテリジェンス報告を含む、フロンティアAIをめぐる近年の動向は、高度なAIモデルがもたらす変革の可能性と同時に、影響工作・サイバーセキュリティ・重要インフラ・制度面での対応の遅れや格差といった新たなリスクを浮き彫りにしています。日本やインド太平洋地域の国々にとって、これらの課題は、経済安全保障・民主主義の強靭性・生産性・国際協力といった点に密接に結びついています。
 
本公開シンポジウムでは、産業界・国際機関・アカデミアの視点を交えながら、安全で責任あるAIをいかに実現していくかについて議論します。OpenAIの戦略インテリジェンス・分析チームを率いるトビアス・パイエル（Tobias Peyerl）氏は、高度なAIシステムの悪用防止や新たな脅威への対処を専門としており、これまでグローバルなリスク評価、脅威インテリジェンス、分野を越えたパートナーシップ構築に携わったほか、Googleおよび国連でも要職を歴任。国連大学学長であり国連事務次長を務めるチリツィ・マルワラ（Tshilidzi Marwala）教授は、AIガバナンスの枠組み、知識機関の役割、そしてAIが公共の利益に資するために必要な制度的条件に関する近年の取り組みを踏まえ、グローバル・ガバナンスと持続可能な開発の観点からの視座を提供します。また、東京大学松尾・岩澤研究室の李紫辉（Irene Li）特任講師は、信頼できるAI、多言語大規模言語モデルの評価、医療推論、包摂的なAI開発に関する研究を基盤とし、実世界での応用における信頼性とアカウンタビリティを考えるうえで重要な学術的視点を提供します。パネルディスカッションのモデレーターは、井形彬（東大先端研 特任講師）が務めます。
 
本シンポジウムは、APOのAIイニシアティブであるGenuine AI Action（GAIA）の一環として開催されます。AIの安全性とガバナンスをめぐる国際的な議論を、日本の政策的、経済的、社会的文脈の中に位置づけながら、生成AIのリスクに対応しつつ、その恩恵を社会がいかに活用していくことができるのかを考えます。
 
【開会挨拶】
インドラ・プラダナ・スィンガウィナタ（Indra Pradana Singawinata）
アジア生産性機構事務総長。官民両部門で20年にわたる豊富な知見を有する。直近では、インドネシア・インフラ保証基金（IIGF）のシニアバイスプレジデントを務める。IIGFは、インドネシアの官民連携計画のもとで実施されるインフラ事業に保証を提供する公的組織。インドネシア・トリサクティ大学で経済学の学士号、インドネシア大学で会計学の修士号を取得。日本の立命館アジア太平洋大学で博士号を取得。
 
【登壇者】
トビアス・パイエル（Tobias Peyerl）
OpenAI 戦略インテリジェンス・分析チーム責任者。高度なAIシステムの悪用や新たな脅威からの保護に取り組む。2024年のOpenAI参画以降、グローバルな計算資源インフラ、地政学的環境、国家安全保障をめぐるリスク評価を主導するとともに、外部パートナーとの連携を通じて安全性確保の能力強化を推進。以前はGoogleでIntelligence AnalysisおよびTrust Risk Governanceを率い、分野横断的なチームを指揮してプラットフォーム全体の安全リスク管理に従事。国連では政務官を務め、暴力的過激主義を防止するための国連行動計画に貢献。UC Berkeley、USC、UCLA、コロンビア大学でゲスト講義を行う。ジュネーブ高等国際・開発研究大学院で国際法の博士号を取得し、ハーバード・ロースクール、パリ政治学院、ニューヨーク大学、ベルリン・フンボルト大学で学ぶ。
 
チリツィ・マルワラ（Tshilidzi Marwala）
国連大学学長・国連事務次長。米国、英国、中国、南アフリカの大学で客員研究員・客員教授を歴任。学術、政策、マネジメント、国際分野で豊富な経験を有し、5件の特許を共同保有。専門は人工知能の理論と応用で、工学、社会科学、経済、政治、金融、医学など幅広い分野にまたがる学際的研究を行う。世界および各国の政策立案機関で委員等を務め、UNESCO、UNICEF、WHO、WIPOなどの国連機関とも協働。アメリカ芸術科学アカデミー、世界科学アカデミー、南アフリカ科学アカデミー、アフリカ科学アカデミーのフェロー。南アフリカ最高位の栄誉であるマプングブウェ勲章、南アフリカ科学アカデミー「Science-for-Society Gold Medal」などを受賞。2021年には、南アフリカIT専門家協会により「IT Personality of the Year」に選出。
 
李紫辉（Irene Li）
東京大学 松尾・岩澤研究室 特任講師。イェール大学（博士）。専門は大規模言語モデル（LLM）、多言語自然言語処理、信頼できるAI。特に医療推論と評価に重点を置いて研究を行う。低リソース環境や多言語環境を含む実社会での応用において、LLMの信頼性と安全性を高めるためのベンチマークやフレームワークを開発。2025年には、MIT Technology Reviewの「Innovators Under 35（Japan）」の一人に選出。
 
【モデレーター】
井形彬（東京大学先端科学技術研究センター 特任講師）
 
【備考】

• ・当日は危険物の持ち込みや会場内での飲食等が制限されます。ご来場された参加者の皆様におかれましては運営委員の指示に従っていただきます。ご了承ください。
• ・当日は受付でご本人確認をいたします。必ず写真付きの身分証（学生証，運転免許証など）をご持参のうえお越しください。セキュリティの関係上、ご本人様確認ができない場合にはご入場をお断りさせていただく可能性があります。

 
使用言語：英語