シミュレータのリスク
『ずいぶんと危ないものを作っていますね』 という趣旨のメールを匿名の方から受けた。 ああ、気づく人は気づくわけだよな。 そもそもこのAIシミュレータは『架空の閉鎖空間(サンドボックス)』で動かしているからこそ安全なのだ。…
続きを読む
AIセキュリティ企業シミュレーター(3)
ということで、シミュレータを作ってみた。 攻撃、防御、それを監視あるいは情報提供としてのRuntime基盤の3者構成を1台のPC上に構築する。 画面は、リアルタイムのシミュレーションがわかるものを目指したが、少し文字が小…
続きを読む
AIセキュリティ企業シミュレーター(2)
Attack Agent(攻撃)とSecurity Agent(防御)に戦わせるわけだが、PythonのコードやStreamlitの扱いに慣れていないため、ChatGPTで生成させようとしたが、Attack Agent( […]
続きを読む
AIセキュリティ企業シミュレーター(1)
ローカルAIセキュリティ企業シミュレーターを作ってみたが、予定調和っぽくてつまらない。もう少しAIが試行錯誤して独立したAI同士が”戦う”様子が見られるものを作ろう。 道具立ては同じにして、シミュレータ内部に複数の仮想企…
続きを読む
ローカルAIセキュリティ企業シミュレーター(5) ～デモ用フロントエンド～
フロントエンドの全体構成はこんな感じにする。 層 コンポーネント 責務 Presentation Streamlit Scenario入力、Start、AI Decision、Timeline、Result、Eviden […]
続きを読む
ローカルAIセキュリティ企業シミュレーター(4) ～AI Agent/LLM連携設計～
AI AgentとLLMの関係はこのようなものを想定している。 ■LLMの入出力 Agent RuntimeはRole・Scenario・現在Context・利用可能ToolをLLMへ渡し、LLMから構造化されたDeci […]
続きを読むローカルAIセキュリティ企業シミュレーター(3) ～デモ実行環境～
デモは外部クラウドを必須とせず、手元のWindows PCとeGPUで完結させる。 Local LLMはWindows上のLM StudioでGPU推論し、Simulation基盤はWSL2 / Docker Compo […]
続きを読むローカルAIセキュリティ企業シミュレーター(2) ～概要～
■何をシミュレートするのか 要素 再現する内容 企業 Company / User / Asset / Application / Tenantを持つ架空企業 Employee Agent 通常業務、問い合わせ、模擬デー […]
続きを読む
ローカルAIセキュリティ企業シミュレーター(1) ～概要～
せっかく小さなローカルAI環境を作ったのでローカルLLMや画像生成だけではもったいないので、セキュリティに関するシミュレータを構築することにした。 架空企業のIT環境でEmployee Agent・Attack Agen…
続きを読む