AI プロジェクトを成功裏に管理する方法

ニール・ホッジ[*]

　競争と生き残りを急いでいる企業は、より多くの製品やサービスを提供して存続するために、人工知能やその他の新興技術に希望を託している。しかし、AIはビジネスに多大なメリットをもたらし、潜在的に大きなチャンスを生み出せる一方で、この技術には根本的な問題が一つある。それは、AIの成功はプロジェクトの背後にいる人々が何をしているのかを理解しているかどうかにかかっているということである。

　多くの企業は、AIに多額の資金を投じてきた。そうする必要があると期待されているからである。しかし、金銭的な支出が成功を保証するわけではない。実際、投資を誤ると会社に大きな損害を与え、解決にさらに多くの費用がかかる可能性がある。

　2024年6月、ファーストフード チェーンのマクドナルドは、100を超えるレストランで使用していたAIベースの自動注文受付サービスを中止した。このシステムが、ベーコンをトッピングしたアイスクリーム、数百ドル相当のチキンナゲット、バターとケチャップの袋などの注文を誤って作成し、そのすべてがソーシャルメディアで公開されたためである。同社は早くからAIに信頼を寄せており、2019年にコスト削減の一環としてこの技術を採用したいと発表し、2年間IBMの音声認識ソフトウェアを試用してきた。マクドナルドはこうした技術が同社の将来の一部であり続けると主張しているが、これまでのところ5年間の計画と投資が期待どおりの結果をもたらしておらず、成功を確実にするためにはさらに多くの資金が必要となるようである。

　企業がAIを適切に実装していないか、結果の監視を怠っているという最近の注目すべき事例は他にもある。昨年5月、英国の小売業者ホーム・バーゲンズが使用した顔認識ソフトウェアが、顧客を既知の万引き犯と誤認し、スタッフが彼女のバッグを検査して敷地から連れ出し、チェーン店への出入り禁止にした。AIソフトウェアプロバイダーのフェイスウォッチは、後にその誤りを認めた。2024年2月、エア・カナダは、チャットボットが乗客に、(購入時ではなく)帰りの航空券を購入した後でも、親戚の葬儀に出席するための「弔問割引」を申請できると誤って伝えたため、乗客に損害賠償を支払うよう命じられた。航空会社は、バーチャル・アシスタントが提供した誤解を招く情報について責任を問われることはないと主張しようとしたが、審判所は、エア・カナダが「チャットボットが正確であることを保証するための、合理的な注意を払わなかった」として、乗客の主張に同意した。

　他のテクノロジーと同様に、AIは素晴らしいツールになり得る。しかし、多くの企業はAIを既存のテクノロジーと統合するのに苦労し、その有効性と影響を適切に監視できず、AIが何をすべきかを見失っている。

投資収益率を確保する

　専門家は、AIプロジェクトの投資収益率は現在非常に低く、約70%が概念実証段階を通過できていないと警告している。これは、多くのAI実装が実現不可能、ないしは非現実的で、最初から失敗する運命にあることを意味する。AIガバナンスソフトウェア企業モデルオップCEOピート・フォーリーによると、リーダーの50%以上がAI支出の投資収益率を測定または把握できていないという。さらに同氏は、「AIがどのように使用されているか、そして組織内でのリスクを特定できるCEOは2%未満だ」と述べた。

　専門家によると、問題の一部は組織が、テクノロジーが理論的には達成できることに驚いて仕様変更に屈して、適切な管理なしに予算を膨らませ、ほとんど「我を忘れてしまっている」ことにある。しかし、クラウド通信企業トウィリオの戦略・運用担当取締役シッダールト・ラムシンハニーは、企業は他のビジネスプロジェクトと同じようにAI実装を行うべきだと述べる。「テクノロジーが最先端だからといって、プロジェクト管理の基本を忘れてはいけません」と同氏は述べる。

　ラムシンハニーは、組織はまず、テクノロジーがビジネスニーズに合致していることを確認し、AIが何をするか、その成功と影響を主要業績評価指標(KPI)でどのように測定できるかについて明確な目標を設定する必要がある、と述べた。よくある間違いは、プロジェクトチームがAI実装(特に大規模なもの)の利点を現実的かつ客観的に評価するのではなく、誇張して語る傾向があることである。これは、経営陣がすでに予算にゴーサインを出しているために起こることもありうる。

　「企業の世界では、経営陣が主要プロジェクトに賛同するということは、Cレベルの幹部はプロジェクトが成功し、大きな投資収益率をもたらし、戦略に沿っていると考えていることを意味します」とラムシンハニーは述べた。「テクノロジーが成果を上げないと最初に取締役会に報告する人がいるでしょうか。人々は恐怖から、良いニュースだけを報告し、悪いニュースを隠す傾向があります。だからこそ、最初から明確な目標とKPIを設定することが非常に重要なのです。」

　AIプロジェクトには、データサイエンティスト、ドメインエキスパート、ビジネスリーダーを含む部門横断的なチームが関与することも重要である。この共同アプローチにより、プロジェクトは多様な視点と専門知識の恩恵を受けることができる。「AIの実装をIT部門に任せて、そこが独力で主導権を握って管理するのはよくある間違いです」とラムシンハニーは言う。「IT部門はテクノロジーを導入できますが、ビジネスケースやテクノロジーがビジネスを推進しているかどうかを考えるわけではありません。それは経営陣の仕事です。」

　プロジェクトを最初から順調に進めるには、潜在的なリスクを特定し、その影響を評価し、軽減戦略を策定するための堅牢なリスクマネジメント・フレームワークを導入することが不可欠である。プロジェクト全体を通じて定期的なリスク評価を実施し、新興リスクが速やかに対処されるようにする必要がある。一方、迅速で反復的な開発アプローチを採用することで、AIモデルの継続的なテストと改良が可能になる。「これにより、プロジェクトライフサイクルの早い段階で問題を特定して対処し、大規模な障害のリスクを軽減できます」とラムシンハニーは言う。また、企業は失敗したAIプロジェクトの徹底的な事後分析を実施し、根本的な原因を特定する必要がある。「原因が技術的な問題、データ品質の問題、ビジネス目標との不一致のいずれに起因しているかは問いません」と同氏は付け加えた。「これは、将来のプロジェクトで同様の落とし穴を回避するための戦略を策定するのに役立ちます。」

　AIプロジェクトの中心では、常にデータ品質に重点を置く必要がある。データはAIの原動力であり、それを効果的に処理することは譲れないことである。企業は、堅固なデータ・インフラストラクチャとガバナンス・プラクティスにリソースを投入する必要がある。「AIプロジェクトに着手する前に、企業はデータ品質を評価する必要があります」とラムシンハニーは述べた。「最初のステップは、クリーンなデータを確立し、データソースの透明性を確保することです。データ品質が低いと、AIモデルの有効性が大幅に低下し、不正確な結果や多額の規制罰金につながる可能性があります。」

適切なツールを選択する

　AI市場は常に成長しており、製品の価格、複雑さ、適応性、互換性はさまざまである。したがって、企業はAIに処理させたい主要なタスクについて話し合う必要がある。たとえば、企業が特定のタスクを実行するためだけにAI製品を必要としているのであれば、幅広い機能を備えたAI製品を購入しても意味がない。

　ビジネス コンサルタント会社ヘキサゴン・コンサルタンツ最高経営責任者スー・ウイリアムズは、最初から適切なツールを選択することが重要だと述べている。「AIが目的を達成するための適切な方法であると確信したら、利用可能なAIツールとテクノロジーを評価して、定義されたタスク向けに設計されたものを選択してください」と彼女は述べている。「拡張性、既存のシステムとの互換性、統合のしやすさを検討してください。」

　企業はイノベーションと実用性のバランスを取る必要もある。「ソリューションが実装可能であり、単なる理論的な概念ではないことを確認してください」と彼女は述べている。「ユーザーは、実用的でワークフローにすぐに役立つAIソリューションを採用する可能性が高くなります。」

　一般的な意見に反して、企業はAIを採用するのに多額の資金を必要とはしない。実際、企業は支出について慎重になるべきだと、AIを使用する人材紹介会社スペクトラム・サーチの最高技術責任者ピーター・ウッドは言う。同氏は企業に対し、「小規模から始め」、AIがプロセスをどのように変えるかを問うようアドバイスしている。たとえば、AIによってWebサイトへの訪問者が増えるのか、売上が伸びるのか、納期が短縮されるのかなどである。「最初から多額の投資をする必要はありません。既存のものにAIを追加するだけです」と同氏は言う。「早い段階で目に見えるメリットが得られると思われる分野を選び、そのプロセスから良い点も悪い点も学んでください」。

　多くの専門家は、最初から過剰な支出を避け、テクノロジーが実現できるものについて過度に楽観的にならないことが最善であることに同意している。「AIは単にビジネス上の問題に活用できるもう一つのツールであり、すべてのツールがすべてのプロジェクトに適しているわけではありません」と、テクノロジー コンサルタント会社アルターのデータ分析ソリューション担当取締役リソン・マーフィーは警告している。むしろ、組織のデータ処理ワークフローに強固な基盤を確立し、プロセス内にいくつかのモデルを統合するほうが、ばらばらで整理されていないデータの上にAIモデルを重ねるよりも優れた戦略である。「AIモデルは、与えられたデータと答える質問に基づいてのみ価値を提供し、効果を発揮します」と同氏は述べた。「データが不完全であったり、解決しようとしている課題があまりにも漠然としすぎたりすると、ユーザーも組織もフラストレーションを感じ、AIの実装、あるいはAI全体を失敗した取り組みと見なすことになります。」

失敗の一般的な原因を回避する

　マーフィーは、AIプロジェクトの半分が失敗していて、その原因は3つのAI「摩擦点」にあると考えている。「組織的摩擦」はAIプロジェクトで最も一般的な障害の一つであり、部門、チーム、個人が計画に適切に対応していない(または計画を支持していない)場合や、計画を実現するためのスキル、トレーニング、経験が不足している場合に発生する。一方、「技術的摩擦」は、ハードウェア、ソフトウェア、クラウドリソース、ベンダーなどのITインフラストラクチャの副産物である。これらの要素が合わさってボトルネックとなり、プロジェクトのスピード、規模、範囲が制限されることがよくある。テクノロジーの摩擦を軽減するためには、企業は組織のビジネスアプローチを支援し、ITインフラストラクチャとも互換性のあるAIソリューションを探す必要があるとマーフィーは言う。最後に、「財務上の摩擦」は、厳しい予算、限界に達したリソース、投資収益率を急ぐことから生じる。これは、組織が、データ分析、柔軟なライセンスを持つAIテクノロジー、よりスケーラブルで導入しやすいソリューションなど、より適切な代替手段を使用するのではなく、テクノロジーを支援できないレガシーシステムにAIの取り組みを追加しようとすることが多いためである。

　適切なテストの欠如と、テストフェーズで発見された問題の解決での失敗も、AIプロジェクトの失敗の主な原因である。自動ソフトウェアテスト会社エヌフォーカス・テスティン最高経営責任者ライアン・ジェームズによると、チームは、稼働前に正常に動作することを確認するために必要なテストを実施せずにAIツールを実装することがよくある。「初期導入時にサードパーティの開発会社やシステム・インテグレーターと社内チームの間にギャップが生じた場合、そのテクノロジーが意図したメリットをもたらすことはほぼ不可能になる可能性があります」と彼は言う。

　プロジェクト管理では、導入期間全体を通じて厳格なテストを検討する必要があるとジェームズは言う。「品質保証の原則と実践がプロジェクトの最後まで残されることが多すぎます」と彼は説明した。「これは損害を与える可能性があります。初期導入時にエラーや問題が発生した場合、それらの問題が他の場所で重大な衝突にエスカレートする可能性があるためです。十分に早い段階でテストしないと、プロジェクトが遅れ、計画より遅れる可能性があります。なぜなら、それらの問題は、プロジェクトが稼働する前に修正する必要があるからです。」

　企業はまた、修正が容易でコストもかからないときに問題を発見するために、定期的にテストする必要がある。「テスト、テスト、そしてまたテストしてください」とソフトウェア開発会社ブルームフィルターCEOエリック・サーバリングハウスは言う。「AIを段階的にリリースしてください。各バージョンを注意深くチェックし、広くリリースする前に調整してください。この反復的なアプローチは、バグの検出とパフォーマンスの微調整に役立ちます。すべてを書き留め、そこから教訓を得て、将来のAIプロジェクトをより良く、より効率的にするために活用してください。」

現実世界での成功を実現する

　結局のところ、成功するAIプロジェクトの核心は、それを使用する人々にとって機能するかどうかである。「技術ソリューションを開発する人々は、自分が作成しているものに非常に興奮しています」と、AI監視および遠隔警備会社クラウアストラクチャー創設者リック・ベントレーは述べている。「問題は、最終的にそれを使用するのは彼らではないため、その技術は、それがどのように組み立てられたかに興味のない人々にとって機能する必要があることです。つまり、常に使う人が想定するように機能する必要があるのです。」

　ユーザー・エクスペリエンスとユーザー・インターフェイス(UXとUI)が鍵である。「AIは社内のスタッフではなく、実際のユーザーでテストする必要があります」とベントレーは語る。玩具小売業者フィッシャー・プライスの最初のAI音声認識ベースの電子学習補助装置の開発に携わったとき、チームは若い母親とその子供たちを連れてプロトタイプを試用している。

　「期待していたほどうまくいきませんでした」とベントレーは語る。「最初の子供がおもちゃを使いに来ましたが、音声プロンプトに従わなかったのです。母親と玩具会社のスタッフがおもちゃを正しく使うように指導しようとしましたが、うまくいきませんでした。次の子供も同じでした。次の子供も。そしてその次の子供も。ここでの教訓は私に残りました。ユーザーは常に私たちの製品を「間違った」方法で使用します。私たちの仕事は、ユーザーが使いたい方法で製品が機能するようにすることであって、私たちがユーザーに使用してもらいたい方法ではありません。」

　エラーの処理も重要である。「AIは推測するのが大好きです」とベントレーは語る。「良いニュースは、AIが推測にどれだけ自信があるかを喜んで教えてくれることです」。よく引用される例の一つは、AIが犬の写真にタグを付けたものを見て、その動物が犬であることは90%確実だが、猫である可能性は10%確実であると述べることである。

　「100%正確なものなどありません」と同氏は言う。「99.9%の確率で正しいAIプログラムでも、0.1%の確率で間違います。AIが何百万、何十億もの使用頻度があるとすれば、それは何千、何百万もの間違った答えになりえます。事前に考えておく必要があります。AIが間違っている場合ではなく、AIが間違っている場合に起こり得る最悪の事態は何か、AIが及ぼす害はどの程度か、ということです。食物アレルギーがない限り、マクドナルドのベーコン トッピング アイスクリームは誰にも害を及ぼさないので、AIを完全に停止させるのではなく、問題を迅速に修正して同じ失態が繰り返されないようにとどめることで対応できます。一方、遠隔医療のAI医師が風邪に対して医師による自殺支援を勧めるのは、当然のことながら、すぐに撤回し、広く周知する必要がある恐ろしいシナリオです。」

　ベントレーは、現実には、企業は「AI製品が実際に準備できる前に、常にユーザーにリリースする必要がある」と述べている。秘訣は、ユーザーからのフィードバックを得てエラーを見つけ、エラー・イベントを記録してできるだけ早く修正し、「そこから学んだことをできるだけリアルタイムに近い形でシステムに組み込む」ことである。

　これは、人間が関与することを意味する。「人間がAIの作業を監督する必要があります」と同氏は述べる。「顧客からのフィードバックを取り入れるのがいいかもしれません。ユーザーのエッジケースを調べるのもいいかもしれないし、AIが答えにあまり自信がないのに答えを返しているときの結果を見ることもいいかもしれません。いずれにせよ、問題が見つかったら(必ず見つかるでしょう)、システムを迅速に改善する必要があります。」

　AIはビジネスの成功を実現したり、推進したりするのに役立つ。ただし、AIが適切に組み込まれていて、最大限に活用する方法を企業が知っているとれば、AIは役に立つのである。そうでなければ、AIの導入は経済的負担となり、大きなビジネスリスクになる可能性がある。企業は、テクノロジーがすぐに効果を発揮できる分野を真剣に検討し、成功を測定するためのベンチマークを確立する必要がある。そうしなければ、資金だけでなく評判も失う可能性がある。

トピック
人工知能、知的財産、評判リスク、テクノロジー

注意事項：本翻訳は“How to Manage AI Projects Successfully ”, Risk Management Site (https://www.rmmagazine.com/articles/article/2025/01/28/how-to-manage-ai-projects-successfully ) January 2025をRIMS日本支部が翻訳したものです。原文と和訳に相違があるときには、原文を優先します。本文中は敬称略です。

ニール ホッジは英国を拠点とするフリーランス ジャーナリスト。