LLM時代のセキュリティリスク~研究最前線と実務への展開~ 【ハイブリッド開催】

11月

12
LLM時代のセキュリティリスク~研究最前線と実務への展開~ 【ハイブリッド開催】

主催 : 佐々木佑 / 関谷研究室

ハッシュタグ：#LLM_Security

募集内容	対面参加＠東京大学情報基盤センター無料先着順 26/30人オンライン参加 @zoom 無料先着順 104/150人
申込者	申込者一覧を見る
開催日時	2024/11/12(火) 18:30 ～ 20:30 Googleカレンダー icsファイル
募集期間	2024/10/05(土) 00:00 〜 2024/11/12(火) 20:30まで
会場	東京大学情報基盤センター214会議室東京都文京区弥生2-11-16　東京大学情報基盤センターマップで見る
参加者への情報	(参加者と発表者のみに公開されます)
出席登録	(イベント開始時間の2時間前から終了時間まで、参加者のみに公開されます)

イベントの説明

イベント概要

昨今のChatGPTの台頭に代表されるように, 大規模言語モデル(LLM)は様々なシーンで利用されるようになりました. しかし, 一方で, 安全性に対しての懸念が大きくなっております. 例えば, LLMが搭載されたアプリがサイバー攻撃を受けるリスクや, LLMが非倫理的な出力をするリスクが注目されるようになりました.

今回は, LLMを利用するにあたってのリスクを包括的にご説明するとともに, 研究最前線と実務への展開と銘打ちまして,

国立情報学研究所ではLLMの安全性を確保するためにどのようなプロジェクトを行っているのか
LLMへの攻撃に関する研究
LLMのリスクを軽減する具体的なソリューション
LLMアプリを開発するベンチャー企業でのセキュリティ実務

など, 様々な観点からLLMセキュリティを捉え, より具体的にLLMのリスクと対策を議論できればと思います.

こんな方におすすめ

LLMの導入を考えられている企業担当者様
LLMを社内に導入したが, セキュリティ上の観点から運用にお困りの企業担当者様
LLMセキュリティに興味をお持ちの研究者
LLMアプリ開発に関わるエンジニア・PdM・PM

タイムスケジュール

時間	内容	スピーカー
18:00 ~ 18:30	受付
18:30 ~ 18:35	オープニング	関谷勇司先生, 佐々木佑
18:35 ~ 18:50	LLMセキュリティについての概要	佐々木佑
18:50 ~ 19:05	国立情報学研究所LLM研究開発センター安全性WGでのお取り組みについて	関根聡先生
19:05 ~ 19:20	Jailbreakのための単純なブラックボックス手法	竹本和広先生
19:20 ~ 19:30	休憩
19:30 ~ 19:45	Jailbreak データセット収集アプリケーションの開発について	林祐太様
19:45 ~ 20:00	生成AIアプリケーションの継続的品質管理のためのワークフロー	劉弘毅様
20:00 ~ 20:15	LLMのハルシネーション・セキュリティ対策事例：大企業における生成AI導入の現場から	本田純平様
20:15 ~	ネットワーキング