【情報理工学部】コロキウム(談話会)を開催しました
2024.12.09
2024年11月11日(月)にスイス・ヌーシャテル大学のValerio Schiavoni教授をお招きして「Serving Models Fast, and Stealing them too!(機密実行環境による情報セキュリティ研究の最前線)」という題目で特別コロキウムを実施しました。
本講演では、情報システムの最新のセキュリティ機構である機密実行環境(TEE)やそれを用いた安全なアプリケーション実行環境、機械学習/AIモデルの不正コピー防止などの研究成果についてお話しいただきました。
本講演では、情報システムの最新のセキュリティ機構である機密実行環境(TEE)やそれを用いた安全なアプリケーション実行環境、機械学習/AIモデルの不正コピー防止などの研究成果についてお話しいただきました。
講演概要
講演者:Valerio Schiavoni氏(スイス・ヌーシャテル大学 教授)
題目:「Serving Models Fast, and Stealing them too!(機密実行環境による情報セキュリティ研究の最前線)」
AIにおいてモデルのトレーニングや管理は非常に重要な問題です。一方で、コストをかけてトレーニングしたモデルを窃取され不正に利用されるケースも多く見受けられるようになりました。この問題に関連して、本講演ではまず、AIのモデルをトレーニング、管理、デプロイを行う数種類のモデル提供フレームワークについて性能評価した実験結果について報告されました。
また、さまざまなシステムの仮定においてAIのモデル窃取が可能なシナリオについて、システムの構成、実験結果、不正使用された場合の影響などについて説明されました。
また、さまざまなシステムの仮定においてAIのモデル窃取が可能なシナリオについて、システムの構成、実験結果、不正使用された場合の影響などについて説明されました。