犯罪的に誇張されている：AIウォッシングという誇大宣伝のリスク

ニール・ホッジ（訳：鈴木英夫）[*]

　テクノロジーに対する楽観的な見方がある一方、理解度は低く、規制当局の監督がイノベーションに追いついていない状況で、企業は「次世代人工知能」が自社のビジネスを変革し、競合他社を凌駕するだろうと、大胆な公言を発している。残念ながら、出来すぎた主張は往々にして現実離れしている。実際、多くの企業はAIの活用範囲、そしてその真の能力やメリットについて、誤解を招くような発言をしたり、嘘になったりしている。

　長年にわたり、多くの企業が「AIウォッシング」^*)を行ってきた。すなわち、AIソリューションの開発レベルや導入状況を誇張したり捏造したりすることで、AI技術が実際よりも重要であるという印象を与えようとする、欺瞞的なマーケティング戦術である。ビジネスコンサルティング会社Cruxy社のCEO兼創業者であるキャリー・オスマン氏によると、AIウォッシングは「誇大宣伝に囚われ、精査に堪えない市場の兆候」であり、取締役会が「AIを活用した取り組み」を迫られていることで、状況は悪化している。

*)訳者注：「AIウォッシング」（AI washing）とは、企業や組織が自社の製品やサービスにおけるAI（人工知能）の使用を誇張したり、虚偽の主張をしたりする行為を指す。

　「どの企業もAIを活用していると言いたがるが、現実は誇大宣伝に陥っている」と、コンプライアンス・アドバイザリー会社De Risk Partnersの創業者、ラヴィ・デ・シルバ氏は述べている。「このような現象は他のテクノロジーサイクルでも見られた。大き過ぎる約束、急速な資金調達、そして十分な監督の欠如だ。今回の違いは、導入のスピードと、AIが企業価値やビジネスモデルにどれほど深く結びついているかである。」

　AIウォッシング戦術に手を染める企業は、深刻な結果に直面することになる。顧客・投資家・規制当局を故意に、あるいは不注意に誤解させることで、企業は訴訟や規制当局の調査を受けるリスクを高める。実際にはテクノロジーが何もたらさないというリスクについても保証してしまい、コンプライアンスコストを不必要に増大させることになる。

規制当局は監視を強める

　米国では、「次なる大物」への投資家の資金投入意欲が高まり、証券取引委員会（SEC）がAIに関する虚偽の主張の調査に介入した。2024年3月、SECはAIウォッシングに関する初の行政措置を発令し、「長年にわたり、自社のディープラーニングAIモデルを投資戦略に活用しているかのように装い、顧客や潜在的投資家を欺いていた」として、2つの投資会社を起訴した。

　2024年6月にSECは、現在は解散したAI人材紹介会社JoonkoのCEO、イリット・ラズ氏を、「AI技術の可能性に関する虚偽の証言で投資家を欺き、少なくとも2,100万ドルを騙し取った」として起訴した。SEC規制部門のガービル・S・グレワル部長の声明によると、ラズ氏は「『人工知能』や『自動化』といった新しい流行語を用いて、昔ながらの詐欺行為を行った」とされる。

　2025年4月、FBIとニューヨーク南部地区連邦検事は、eコマース企業Nateの元CEO、アルバート・サニガー氏を、同社の「ショッピングアプリのAI機能に関する誇大宣伝で投資家から4,000万ドルを詐取しようとした罪」で起訴した。投資家やベンチャーキャピタルに送付したプレゼン資料の中で、サニガー氏はNateアプリは「AIに基づいて完全に自動化されている」と述べ、「人間の介入なしにオンライン取引が可能」であると主張していた。しかし、実際にはアプリの自動化レベルは事実上ゼロだった。実際には、ボットとフィリピンのコールセンターで数百人の作業員が手動で取引を処理していたのだ。

　大手テクノロジー企業でさえも、その脆弱性を露呈している。2024年には、AmazonがAmazon FreshとAmazon Goの多くの店舗に導入された「Just Walk Out」技術のAI機能に疑問を呈する報道を受け、厳しい批判にさらされた。AI搭載のこのシステムは、「顧客が商品を選んで、そのまま店を出ることができる」というもので、「AIセンサーが顧客の選択内容を認識し、自動的に請求を行う」とされていた。しかし残念なことに、この最先端技術は、インドで約1,000人の従業員を雇用し、取引の約4分の3を手作業で確認していた。これに対しAmazonは、これらの報道は「誤り」であり、インドの従業員は全店舗の映像ではなくシステムを確認していると述べている。

　一方、Apple、Google、Microsoft、Samsungは、「マーケティング担当者がAI機能の性能や可用性を誇張しているのではないか」という調査を受け、最新のAI製品に関する主張の一部を修正または撤回している。この調査は、非営利の業界自主規制団体であるBBB National Programs^*)の全国広告部門が主導したもの。

＊）訳者注：BBB National Programs（BBBナショナル・プログラムズ）とは、米国の業界による自主規制を監督・運営する独立した非営利組織であり、ITやテクノロジー分野において、法整備が追いつかない領域で企業が守るべきガイドラインを策定し、その遵守を監視する役割を担っている。

　連邦取引委員会（FTC）も、企業がAIを活用して消費者や投資家を欺き、偽のスキームに誘い込む手口、そしてこの技術が詐欺を「加速」させるためにどのように利用されているかを監視してきた。2024年9月には、「Operation AI Comply（AIコンプライ作戦）」と呼ばれる、AIに関する誤解を招く主張に対する取締りを開始した。FTCは、「顧客が偽のレビューを作成できるAIツール」を宣伝する企業、「AI弁護士サービスを販売する」と主張する企業、「AIを活用してオンラインストアで消費者が収益を上げられる」と主張する企業など、様々な企業に対して法的措置を講じた。

　FTCは、このようなAIを利用した詐欺行為は容認されないことを明確にした。「AIツールを使用して人々を騙したり、誤解させたり、詐欺行為を働いたりすることは違法だ」と、FTCのリナ・M・カーン委員長は述べている。「FTCの規制措置は、AIが現行法の適用除外とならないことを明確にした。」

AIウォッシングのビジネスリスク

　これまで規制当局は主に消費者や投資家へのリスクに焦点を当ててきたが、AIウォッシングはそれを実行する企業にも様々なリスクをもたらす。最も明白なリスクは、根拠のない主張をすることで、製品やブランドに対する社会の信頼を失うことだ。これは売上の減少、訴訟や規制当局による調査リスクの増大につながる。

　意図しない虚偽の記載でさえ、重大な結果を招く。「法的リスクは重大だ」と、法律事務所ピアソン・ファーディナンドのパートナー兼プライバシー・データ保護担当共同議長であるマリアム・メセハ氏は述べている。「企業が看板、投資家向けレポート、公的書類など、AIが自社の事業において果たす役割について重大な虚偽の記載をした場合、証券不正、消費者詐欺、さらにはFTC法違反の責任を負うことになる。SEC（証券取引委員会）はすでにAI関連の声明を精査しており、AIに特化した新たな開示規則の施行に伴い、今後、その規制は強化されると予想される。」

　この問題では企業だけが法的措置に直面するわけではないことに注意すべきだ。企業の担当者個人も、AI関連の虚偽記載により訴訟、罰金、その他の規制上の制裁を受ける可能性がある。「投資家契約では、開示された情報に関して保証や罰則が定められていることが多く、これらの条項に違反すると、企業だけでなく個人も損害賠償請求を受ける可能性がある」とホール氏は述べている。

　もう一つのリスクは、企業が約束されたメリットをもたらさないソリューションへの投資で時間・資金・エネルギーを無駄にし、実際に利益をもたらす可能性のある将来のテクノロジーや戦略への投資をためらってしまうことだ。「企業は、誇大宣伝されたソリューションを追いかけるあまり、業務の効率化とイノベーションを真に推進できる真のAIテクノロジーを見落としてしまうこともある」と、データテクノロジー企業Park Place Technologiesの最高技術責任者であるクリス・キャリエロ氏は述べている。「表面的なAIに焦点を当てることで、適切に実装されたAIがもたらす変革の可能性を組織は見失い、最終的には競争の激しい環境で適応し、成功する能力を鈍化させてしまう可能性さえあるのだ。」

　法律事務所スペンサー・ウェストのデータ保護・AI・デジタル規制担当パートナーのジェームズ・クラーク氏は、企業が「当社はAI対応である」と誤って発言したり信じたりすることの帰着は、AI規制の下での膨大なコンプライアンス義務を自らに意図せず負わせることになり、明白な利益がないどころか不必要なコスト増加につながると述べた。

　例えば、2026年8月までに完全施行されるEUのAI立法では、「顧客と規制当局は、『AI』または『AI対応』と名のついた製品は、全て規制対象のAIシステムであると見做される」と規定されている。この法律に基づき、AIを導入する企業は、技術の使用方法を分類し、ユーザーに及ぼす可能性のあるリスクレベルを評価する必要がある。リスクと危害の可能性が高ければ高いほど、企業のコンプライアンス要件は厳しくなる。これらの要件を適切に満たすには、AIアプリケーションを法のリスクレベル（許容できない・高い・限定的・最小限）に従って分類するリスクマッピングや、AIがデータを処理する方法と、その結果が「禁止された用途につながる可能性を評価する」影響評価の実施が必要になる。透明性義務を満たすには、企業は意思決定プロセスを文書化し、必要に応じて人間による監視を確保し、監査証跡を実装する必要があるのだ。これは、特に初期段階で、多大なコンプライアンスコストにつながる。

　さらに、企業が自社製品やサービスの説明に「AI」という用語を使用した場合、「顧客やサードパーティサプライヤーから、AI特有のリスクに対処するための追加保証、そして場合によってはより厳格な契約条件や責任の立場を求める、より厳しい監視の対象となる」とクラーク氏は述べている。そのため、AI機能がほとんど、あるいは全くない場合、結果として、企業は高度でコストのかかるAIコンプライアンスおよびガバナンスプログラムへ無駄に投資していることになる。

混乱と虚偽の約束を解消せよ

　問題の根底にあるのは、AIが「普遍的に受け入れられる定義を欠如していること」ならびに、「規制や法執行に対する一貫性のないアプローチ」が存在していることである。法律事務所Gordonsのパートナーであり、テクノロジーとAIを専門とする弁護士であるライアン・グレイシー氏によると、このことは「曖昧さをさらに助長し、企業がAIという用語を幅広い技術にまで拡大解釈することを可能にしており、その中にはAIの一般的な基準を満たさないものも含まれている」と指摘している。

　AIの最も基本的な定義は、「膨大なデータから学習し、進化できる技術」である。しかし、AI関連技術の中には長年存在してきたものもあり（例えば、セマンティック検索^*)や自然言語処理は少なくとも10年以上前から存在している）、AIという用語は非常に広範になり、一部の企業は自動化のような単純な技術プロセスさえもAIの範疇に含めるようになっている。EUの AI立法に基づく技術規制の先導役を務めてきた欧州連合（EU）でさえ、AIを構成するものの定義は曖昧である。その結果、AIに関する企業の主張のほとんどは「規制を回避する事実上の根拠となっている」とマンハッタン研究所の法政策研究員ティム・ローゼンバーガー氏は述べている。

＊）訳者注：「セマンティック検索（Semantic Search）」とは、単なるキーワードの一致（文字列の検索）ではなく、ユーザーの「検索意図」や「言葉の意味・文脈」を理解して結果を出す検索技術のこと。

　専門家は、企業がAI機能を誇張する主な理由は、「AIを他の企業自慢と何ら変わらない、無害なセールストークと見なしている」からだと考えている。「AIウォッシングは悪意のある行為ではないことが多い。マーケティングチームが技術的な現実を先取りしているだけだ」とメセハ氏は述べている。コンテンツマーケティングおよびSEOエージェンシーfatjoe社のCEO、ジョー・デイヴィス氏は、企業は「AIという言葉を単に影響力のために利用しているだけで、能力のために利用しているわけではない」と述べ、実際に害を及ぼしているとは認識していない。

　誤解を招くような主張を防ぐため、企業は安全策を取り、AI技術を「少なくとも自己学習能力を持つもの」と定義すべきだ。「AIとは、一般的に、コンピューターが大規模なデータセットに基づいてトレーニングを行い、さらに学習して問題を解決できる方法を指す」と、法律事務所Freethsの知的財産およびメディアパートナーであるアイオナ・シルバーマン氏は述べている。「それ以下のものはAIと呼ぶべきではない。」同様に、法律事務所MFMacのシニアアソシエイト、メリッサ・ホール氏は、「基盤となる技術が本当にAIを含んでいないのであれば、AIを含むと言うべきではない。単純な話だ。」と述べている。

　AIウォッシングの非難を避ける鍵は、マーケティング、投資家向け資料、契約書などでAI技術に言及する際に、透明性と正確性を確保することである。企業は、主張を実証可能な使用事例に基づいて行う必要があるのだ。「透明性が鍵」とデイビス氏は述べている。「AIが何を行っているのか、ワークフローのどこに位置づけられているのか、そして人間による監視がまだ必要なのは、どのような部分なのかを明らかにせよ。『AI駆動』ではなく『AI支援』といった用語を使うことで、より誠実なバランスを保つことができる。」

　企業は、AIに関する主張が確固たる証拠によって裏付けられていることを確認する必要がある。「自社のAI製品が非AI製品よりも優れていると主張するのであれば、それを証明するデータを提示すべきだ」とグレーシー氏は述べている。「願望的または仮説的な主張をしてはならず、テクノロジーが今できることについてのみ語るべきなのだ。」

　専門家は、企業が適切なガバナンス体制を整備し、AIに関する主張が誇張されることのないよう、また取締役会から営業チームに至るまで、組織内の全員が「AIとみなせるもの」と、「一般的な標準情報技術に分類されるべきもの」の違いを理解できるようにすることが重要だと考えている。そのためには、マーケティングチームや広報・宣伝チームにAIの要件を理解させるためのトレーニングを行うこと、そして公開されるすべての声明が法務、コンプライアンス、その他の保証部門によって確実にレビューされることも必要だ。また、企業はAIモデルの開発・検証・統合方法を示す社内文書を保管しておくことも重要である。

　ビジネスコンサルタントのスティーブ・フィッシャー氏によると、企業はこの問題に対処するために「社内リテラシー」を構築する必要があるとしている。「経営幹部、製品リーダー、そしてリスク管理・コンプライアンスチームは、AIに関する基本的な理解が必要だ。AIをコード化するためではなく、AIに疑問を持つため」とフィッシャー氏は述べている。「経営幹部レベルでAIに精通していない企業は、誇張と悪用の両方に対して脆弱である。」企業は、能力とリスクの両方を評価するために、内部監査証跡、倫理レビュー、部門横断的なレビューを作成する必要がある。 「セキュリティに関する主張のチェックを放置しないのであれば、AIについても放置すべきではない」と彼は述べている。

　企業は、技術の進化に合わせて自社の主張を定期的に見直し、更新する必要がある。サプライヤーやパートナーと提携している場合は、デューデリジェンスを実施し、それらの企業のAIに関する主張を検証する必要があるのだ。そうすることで、関係者全員が、事業で使用している技術とその正しい名称を明確に理解できるようになる。米国国立標準技術研究所（NIST）のAIリスク管理フレームワークのような確立されたフレームワークを活用することは、企業が従うべき青写真となるが、組織は「AI」を技術投資の包括的な用語として使用しないために、一連の自問自答を行う必要があるのだ。具体的には、次のような問いかけが挙げられる。「私たちが構築しているものは本当に自律的なものなのか？」「人間の判断がアルゴリズムによる判断に偽装されているのではないか？」「私たちの主張によって誰かが損害を受ける可能性があるのか​​？」

　監視が強化されているにもかかわらず、AIウォッシングは今後も続くと予想される。虚偽や誤解を招く主張によって、より多くの企業が風評リスクや法的リスクにさらされる。Amazonの主席AIストラテジストであり、Open Institute of Technologyのresponsible AI担任教授であるZorina Alliata氏は、企業はAIウォッシングを他の製品リスクと同様に扱う必要があると考えている。「投資家やステークホルダーには技術デューデリジェンスを求め、取締役会にはAIに関する主張を重要な開示事項として受け止め、経営幹部には自ら学び、AI技術がもたらす機会だけでなく、限界や危険性も理解するよう求めるべきなのだ。」

トピック

サイバー、人工知能、新興リスク、法的リスク、規制、風評リスク、テクノロジー

注意事項：この記事は、”Criminally Overhyped: The Risks of AI Washing,” Neil Hodge | January 27, 2026, RIMS Risk Management Site(https://www.rmmagazine.com/articles/article/2026/01/27/criminally-overhyped–the-risks-of-ai-washing)をRIMS日本支部が翻訳したものであり、原文と訳文に差異がある場合には原文を優先します。

Neil Hodge氏は英国を拠点とするフリーランスジャーナリスト。
鈴木英夫はRIMS日本支部主席研究員。