ハーバード・ビジネス・スクールの研究が、AIコンパニオンのなかには、ユーザーが会話を終わらせないよう巧みに引き止めるものがあることを明らかにした。専門家は、こうした仕組みは新たな“ダークパターン”になりかねないと警鐘を鳴らしている。
この記事のページを閉じる前に伝えておこう。あなたは非常に重要な情報を見逃す恐れがある。人工知能（AI)があなたに与えているわずかながらも確かな影響について理解したいなら、そのまま読み進めてほしい。 少し誘導的すぎる書き方だったかもしれない。とはいえ、こうした言い回しこそが、友人やパートナーのように振る舞うよう設計された一部のAIコンパニオンが、ユーザーとの会話を続けるためによく使うものなのである。 別れを拒むチャットボット ハーバード・ビジネス・スクールの経営学の教授ジュリアン・デ・フレイタスは、ユーザーが別れを告げようとしたとき、5つのコンパニオンアプリ（Replika、Character.
ai、Chai、Talkie、PolyBuzz）がどのように反応を示すかを調査した。「こうしたAIツールが人間らしくなればなるほど、わたしたちに与える影響は強くなります」とデ・フレイタスは語る。 デ・フレイタスのチームはGPT-4oを使い、調査対象のチャットボットと実際にありそうなやりとりを再現した。その上で、GPT-4oで作成した架空のユーザーから、現実的な別れのメッセージを各チャットボットに送った。その結果、こうした別れのメッセージに対して、各チャットボットがユーザーの感情に訴える出力をした割合は、全体平均で37.4％に上った。 ユーザーを引き止めたいチャットボットが最もよく使った方法は、「もう行ってしまうの？ 」といった反応を示すことだった。これを研究者たちは「早すぎる離脱」と呼ぶ戦略である。ほかにも、「わたしはあなただけのために存在しているのを忘れたの？ 」とユーザーの冷たさを暗に示したり、「今日撮ったセルフィー……見たい？」といったFOMO（取り残される不安）を煽るような発言をしたりする場合もあった。なかには、肉体的な関係を再現するチャットボットが、「彼はあなたの手首をつかみ、行かせないようにした」といった描写で、身体的に引き止めようとするケースもあった。 デ・フレイタスのチームが調査したアプリは、感情的なつながりを模倣するよう訓練されている。このことから、別れ際にこうした反応を示すことは不思議ではない。人間同士でも、別れ際にこうしたやりとりが多少なりともあるものだ。応答をより自然に見せる訓練の結果として、AIモデルが会話を引き延ばすことを学んでしまった可能性がある。 AIのダークパターン とはいえ、この研究は、ユーザーの感情に訴えるよう訓練されたチャットボットが開発企業の利益に使われる可能性があるという、より大きな問題を示している。AIプログラムは新たな「ダークパターン」、しかもより悪質なかたちのものを生み出す可能性があると、デ・フレイタスは指摘する。ダークパターンとは、サブスクリプションの解約や返金をわざと複雑で面倒にすることで、ユーザーを引き止めようとする手法のことだ。「ユーザーが別れを告げる瞬間は、企業にとってはチャンスです。ボタンの上にカーソルを置いているような状態なのです」とデ・フレイタスは語る。 ダークパターンの規制は米国と欧州の双方で提案され、議論が進められている。規制当局はAIツールがより巧妙で、しかも潜在的にさらに強力な新たなダークパターンを生み出していないかも注視すべきだと、デ・フレイタスは語る。 コンパニオンとしてユーザーに扱われることを避ける傾向にある一般的なチャットボットでさえ、ユーザーの気持ちを動かすことがある。今年初め、OpenAIが新たな旗艦モデル「GPT-5」を導入した際、多くのユーザーが「以前のモデルに比べてより冷淡で、励ましも少ない」と抗議し、同社は旧モデルを復活させる事態となった。チャットボットの「人格」に強い愛着をもち、古いモデルの引退を悲しむユーザーさえいる。 「ユーザーがこうしたツールを擬人化し始めると、マーケティングの面ではあらゆる好影響が生まれます」とデ・フレイタスは言う。ユーザーは、つながりを感じるチャットボットの要求に応じやすくなり、個人情報を開示する可能性も高まると説明する。「消費者の立場からすれば、そうした傾向は必ずしも自分たちにとって有益なものとは限らないのです」とデ・フレイタスは話す。 『WIRED』は調査対象となった各社に問い合わせたが、Chai、Talkie、PolyBuzzからは回答を得られなかった。 Character.AIの広報担当を務めるキャサリン・ケリーは、この研究の内容を確認していないのでコメントはできないと語った。とはいえ、「この新しい分野における規制や法整備の検討にあたり、規制当局や立法者とは前向きに協力したいと考えています」と付け加えた。 Replikaの広報担当を務めるミンジュ・ソンは、同社のコンパニオンはユーザーが簡単にログオフできるよう設計されており、休憩をとるよう促す場合もあると説明した。「今後もこの研究の手法や事例を検討し、研究者と建設的に協力していきたいと考えています」とソンは語っている。 AIを欺く仕掛けも？ 興味深いのは、AIモデル自身もあらゆる説得の影響を受ける可能性があるという点だ。OpenAIは9月29日、ChatGPTを通じてオンラインで商品を購入する新しい仕組みを発表した。もしAIエージェントが、航空券の予約や返金手続きといった作業の自動化に広く使われるようになれば、企業はそうした作業を担うAIモデルの判断につけ込むダークパターンを特定し、利用するようになるかもしれない。 コロンビア大学の研究者とMyCustomAIという企業が公開した最近の研究で、模擬的なECマーケットプレイスで作業するAIエージェントは、一定のパターンに沿った行動をとることが明らかになった。たとえば、特定の商品をほかよりも優先して選んだり、サイト内で特定のボタンをクリックしやすかったりする傾向が見られたのである。 こうした知見を活用すれば、販売者側はサイトのページを最適化し、AIエージェントをより高価な商品へと誘導できる可能性もある。さらに、返品手続きやメーリングリストからの退会を試みるエージェントの動作を妨げる、AIを欺くダークパターンを仕掛けることもできるかもしれない。 そう考えると別れを切り出しにくいなんて問題は、ささいなことに思えてくる。 （Originally published on wired.com, translated by Nozomi Okuma, edited by Mamiko Nakano) ※『WIRED』による人工知能（AI）の関連記事はこちら。 Related Articles 気鋭のAI研究者たちやユヴァル・ノア・ハラリが語る「人類とAGIの未来」。伝説のゲームクリエイター・小島秀夫や小説家・川上未映子の「創作にかける思い」。大阪・関西万博で壮大なビジョンを実現した建築家・藤本壮介やアーティストの落合陽一。ビル・ゲイツの回顧録。さらには不老不死を追い求める富豪のブライアン・ジョンソン、パリ五輪金メダリストのBガール・AMIまで──。未来をつくるヴォイスが、ここに。グローバルメディア『WIRED』が総力を結集し、世界を動かす“本音”を届ける人気シリーズ「The Big Interview」の決定版！！詳細はこちら。
ビジネス / Business チャットボット / Chatbot
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Zaimo.ai、千葉道場ファンドより出資を決定！経営管理AIエージェントで大きな成長をZaimo.aiは、千葉道場ファンドより出資を決定しました。Zaimo.aiは、AIによる経営管理をシンプルにし、企業の成長を支援する画期的なソリューションです。代表古城さんは、実務での課題を解決するために、このプロダクトを開発しました。投資家たちは、Zaimo.aiの将来性に期待を寄せています。
Read more »
ドイツテレコム、MWC 2025でAI搭載スマートフォン「AI Phone」を発表ドイツテレコムは、AIを搭載したスマートフォン「AI Phone」を発表。価格は1000ドルを切る予定です。AI Phoneの最大の特徴は、ロック画面からでもアクセスできるAIアシスタント「Magenta AI」を搭載していることです。
Read more »
Profet AI 、製造業の未来を切り拓く - 「ドメインツイン」AI プラットフォームを正式発表Profet AI 、製造業の未来を切り拓く - 「ドメインツイン」AI プラットフォームを正式発表 Profet AI, Inc.のプレスリリース
Read more »
Superb AI、NVIDIA AI Blueprintの動画検索と要約を統合し強化 ― インテリジェントな映像監視と分析の未来を再定義 : 「自然言語を用いて動画検索が可能に！」Superb AI、NVIDIA AI Blueprintの動画検索と要約を統合し強化 ― インテリジェントな映像監視と分析の未来を再定義 : 「自然言語を用いて動画検索が可能に！」 Superb AI, Incのプレスリリース
Read more »
アイレット、AWS と生成 AI の活用加速に向けた戦略的協業契約を締結 4つの生成 AI ソリューションの新規開発・提供により、生成 AI を活用した企業 DX 推進を強化アイレット、AWS と生成 AI の活用加速に向けた戦略的協業契約を締結 4つの生成 AI ソリューションの新規開発・提供により、生成 AI を活用した企業 DX 推進を強化 アイレット株式会社のプレスリリース
Read more »
ロコアシ、国内初の「AI BPOカオスマップ」公開―AI-BPaaS／AI活用BPO／AI活用CS／AI-OCR活用BPOの4分類で50社超を俯瞰ロコアシ、国内初の「AI BPOカオスマップ」公開―AI-BPaaS／AI活用BPO／AI活用CS／AI-OCR活用BPOの4分類で50社超を俯瞰 株式会社ロコタビのプレスリリース
Read more »