AIブラウザは安全なのか？注意すべき5つのリスク

近年、OpenAIの「ChatGPT Atlas」やPerplexityの「Comet」など、AIエージェントを搭載したブラウザが登場しています。

Microsoft EdgeにもAIエージェントを利用できる「Copilot Mode」が用意されています。

こうしたAIブラウザの特徴は、単にAIチャット機能がくっついてるだけでなく、AIがブラウザを自動で操作してくれる「エージェント機能」が搭載されている事です。

特別な入力をせずとも、言葉で指示を出せば以下のようなタスクを行ってくれます。

ウェブサイトの要約や操作
メールの作成
ドキュメントの執筆
ウェブサイトの構築
商品の購入
旅行プランの予約
引用の作成
カレンダーへの予定追加

上手く活用すれば非常に便利なAIブラウザ（AIエージェント）ですが、セキュリティ面・プライバシー面で様々なリスクが指摘されており、慎重になるべきポイントも複数あります。

この記事では、近年登場したAIエージェント搭載ブラウザの危険性や注意点を解説します。

AIブラウザの危険性

AIエージェントを搭載したウェブブラウザには以下のような問題点があります。

1.プライバシー侵害のリスク

ブラウザに搭載されたAIエージェントは、仕組み上、ブラウザで行った全ての操作や閲覧内容を記録・収集する事が可能です。

閲覧履歴はもちろん、入力したパスワードや個人情報も全て収集されるリスクがあります。クレジットカード情報や銀行のパスワードなどもAIは把握できます。

また、AIの処理に外部サーバーが使用されている場合、閲覧中のウェブページ内容や個人的なやり取りがクラウドに送信され、第三者に傍受されたり、サーバー側でデータが保存・利用される危険性があります。

対策と注意

プライバシーを守るために、AIブラウザを提供する企業の利用規約やプライバシーポリシーはしっかりと確認しておきましょう。

利用状況が記録されたり、AI学習に使用される場合は、どのようなデータが収集され、どのような目的で扱われるのかしっかりと確認しておきましょう。

個人情報を入力する際や仕事で利用する際は、AIエージェント機能をオフにしたり、最初からAI機能が無いブラウザを利用するなどの工夫をしましょう。

2.誤操作の危険性

みなさんは、対話型のチャットAIを使っていて、AIがこちらの指示を誤読・誤解してしまった事はありませんか？

AIはユーザーに忠実ですが、ミスを犯すことも多々あります。

ブラウザに搭載されたAIエージェントも例外ではありません。

AIが文脈を誤解したり、不正確な情報に基づいて行動すると、間違ったリンクのクリック、誤ったフォーム送信、不適切な購入など、ユーザーが意図しない操作を実行してしまう危険性があります。

ユーザーのパスワードやクレジットカード情報などをAIが漏洩させてしまう可能性もあります。

対策と注意

AIブラウザを利用する際は、操作を丸投げしないようにしましょう。指示を出しながら、常にAIの挙動をチェックする事が大切です。

「メール送信」や「決済」など、不可逆的なアクションを行う際は、必ず人間の確認を挟んだり、AIに任せず人間が自ら操作するようにしましょう。

また、連絡帳や各種フォルダなど、大切な情報にAIがアクセスできないよう、ブラウザの権限を最初から無効にすることも大切です。

ブラウジングを行う際も、各種サービスにログインせずに利用すれば、AIがSNSを勝手に更新したり、通販サイトで商品を勝手に買ってしまうリスクを軽減できます。

3.誤情報

AIに頼りすぎることで、ユーザー自身の情報リテラシーや批判的思考力が低下する恐れがあります。

AIの提案を無批判に受け入れる習慣がつくと、詐欺サイトや誤情報に対する警戒心が薄れます。

しかし、AIは完璧ではありません、チャットAIがハルシネーション（間違った情報をさも正しいかのように提示する）ように、AIエージェントも当たり前のように不正確な情報を提示したり、間違った操作を行う可能性があります。

AIブラウザを使えば、自分の代わりに参考になるウェブサイトを探してくれたり、見ている記事の内容を要約してくれたりします。しかし、それが正しいとは限らないのです。

対策と注意

AIを過信してはいけません。

ブラウザの要約から仕事の作業まで、AIの動作は常に監視し、疑いましょう。

4.仕組みがブラックボックスである

AIエージェントはどのような基準で判断し動作しているのかが不明瞭です。

AIの思考回路はブラックボックスであり、ユーザーはAIの意思決定プロセスを理解できず、信頼性を評価できません。予期しない動作が起きても原因の特定が困難です。

Firefoxのフォークである「Waterfox」を生み出したアレックス・コントス氏は、AIエージェントは「根本的に信頼できない」と述べています。

例えば翻訳機能であれば、テキストを翻訳するだけなので動作の客観性がある程度保たれます。ところが、ユーザーに代わって行動してあらゆる動作を行うエージェントAIは「検証も理解もできないロジックに基づいてユーザーが何をどう見るかを決定するもの」であり、根本的に信頼できないものだとコントス氏は主張しています。

出典：Firefoxからフォークした「Waterfox」開発元がMozillaのAI方針に対して批判を展開 – GIGAZINE

5.プロンプトインジェクション攻撃

AIエージェント機能の脆弱性を標的にした攻撃を受けるリスクがあります。

有名なのは「プロンプトインジェクション」という手法です。

これは、ウェブサイトを通してAIエージェントに対し悪意ある指示を実行させる手法です。

プロンプトインジェクション攻撃は、AI搭載ウェブブラウザーに最も深く関連する脆弱性だ。これは、悪意のある攻撃者がAIエージェント向けの悪意ある指示をウェブサイトに意図的に配置する攻撃の一種である。そのテキストはユーザーには見えないようになっている。しかし、AIはサイト上のすべてのコンテンツを分析できるため、その指示を吸い上げ、安全ガイドラインを無視してしまう。この悪意ある指示により、AIが機密情報の漏えいやシステム設定の変更など、有害なアクションを実行する可能性がある。

出典：OpenAIの新AIブラウザー「ChatGPT Atlas」は安全か？専門家が警告するリスクとは – CNET Japan

プロンプトインジェクション攻撃の対策は困難であり、ChatGPT Atlasを提供するOpenAIは、ブログ投稿において、プロンプトインジェクションを「ウェブ上の詐欺やソーシャルエンジニアリングと同様に、完全に「解決」されることはないでしょう」と述べています。

AIブラウザを利用していると、こうした攻撃によって、データ漏洩や誤操作（不要な購入、投稿など）が起こる可能性があります。

まとめ

AIエージェントを搭載したブラウザには様々な問題がある為、FirefoxやVivaldiなど一部のウェブブラウザ（の開発チーム）は、ブラウザにAIエージェントを統合する事に慎重な姿勢を見せています。

もちろん、こうした問題はAI開発企業も気付いています。

ChatGPT Atlasを開発しているOpenAIは、Atlasに不正行為を行わせる「攻撃AI」を開発し、攻撃手法の研究と対策の実装に取り組んでいます。この問題に取り組むOpenAIのレッドチームは、最終的にChatGPT Atlasを「非常にセキュリティ意識の高い有能な同僚」と同じくらい信頼できる存在にすることを目指しています。

しかし、まだまだ十分ではありません。

将来の事は分かりませんが、少なくとも現状は、AIブラウザを利用する際は決して過信しないように注意しましょう。