ChatGPT practical workflow

ChatGPT agentを使う前に確認すること｜操作権限・外部サイト・プロンプトインジェクション

ChatGPT agentは外部サイトや接続アプリを使う場面があるため、実行前の確認が重要です。メール、ファイル、アカウント設定などに関わる可能性がある操作は、人間が意図と範囲を確認します。

このページでわかること

ChatGPT agentの利用前に、操作権限や外部サイト上のリスクを確認したい人向けです。 ChatGPTの機能や提供範囲は変わることがあるため、本文では断定しすぎず、確認の流れとして整理します。

ChatGPTに任せやすいこと

サインインするサイトを確認する
有効にするアプリと扱うデータを確認する
共有、削除、送信、購入、設定変更を事前に止めて見る
外部ページやメールに混ざる悪意ある指示を警戒する

人間が確認するべきこと

高影響の操作は実行前に人間が確認する
OpenAI公式ヘルプで安全策と残るリスクを確認する
社内利用時は管理者ルールを優先する

やってはいけないこと

悪用手順を書く
完全防御を保証する
Agentで何でも自動処理できると書く

許可を出す前に書き出す4項目

次の4つを書き出します。書けない項目がある状態は、まだ任せる準備ができていない状態です。

終わったと言える条件：何ができていれば完了か。曖昧だと、途中の状態を完了として受け取ってしまいます。
触ってよい範囲：どのサイト、どのフォルダ、どのファイルまでか。範囲の外に出たら止める、と決めておきます。
させない操作：送信、購入、削除、権限の変更、支払い情報の入力。
失敗した時に戻す手順：戻す手順を書けないなら、そもそも任せる作業ではありません。

試す時は本番から始めない

いきなり本番のデータで試すと、確認する前に結果が出てしまいます。

複製で試す：同じ構成の練習用のフォルダやアカウントを用意します。
短い作業から試す：数手で終わる作業で動きを見てから、長い作業に広げます。
途中の判断を見る：結果だけでなく、どこで何を選んだかを見ます。結果が合っていても、経路が危ないことがあります。
認証が必要な部分は自分で行う：ログイン情報を渡す形にはしません。

慣れてくると範囲を広げたくなりますが、広げるのは戻せる操作の中だけにします。

関連ページ

FAQ

このページは何に使いますか？: ChatGPT agentの利用前に、操作権限や外部サイト上のリスクを確認したい人向けです。
どこまでなら任せてよいですか。: 失敗しても自分で戻せる範囲までです。戻す手順を書けない作業は、まだ任せる段階ではありません。
本番のデータで試してもよいですか。: 練習用の複製で動きを見てからにします。結果だけでなく、途中でどこを選んだかも確認します。