「すべてを自動化しよう」――これはAIに関わる人がよく耳にする言葉です。しかし、AIは高速かつ効率的であっても、常識や共感、判断力にはまだ欠けています。このガイドでは、どの業務をAIに任せ、どれを人間が担うべきかを明確に見極める手助けをします。

最初の練習： あなたの会社で繰り返し行われている作業を1つ選んでください。その業務を例に読み進めましょう。

安全 vs. 危険：AI活用の両面性

アクション： 選んだ業務を適切な列に配置してください。意外な位置でしたか？自動化前に期待値を見直しましょう。

AIのミスが引き起こす問題

クリック一つで取り消せないミスもあります。

• 重大な損害： 本来承認すべき融資の否決、医療データの誤認。

• ブラックボックス化： なぜ誤作動したか誰も説明できない。

• 悪評と罰則： 信用喪失、ユーザー離れ、規制当局からの制裁。

• コスト増： 不完全なAI導入の修正費用は非常に高額。

AIに任せる前の「3-2-1ルール」

1. 失敗の重さ： ミスは致命的か、それとも些細な問題か？
2. 巻き戻し： 「Ctrl+Z」で簡単に取り消せるか？
3. 説明の明確さ： なぜその判断に至ったか記録があるか？

3つすべてに安心できるなら自動実行可能。不安があるなら人間の監視が必要です。

練習： 選んだ業務に「3-2-1ルール」を適用し、人間の介入が必要か判断しましょう。

良いAI活用例

スーパーとバナナ
明日売れるバナナ数をAIで予測。外れても割引で廃棄を防げる。コスト低＆修正簡単。

→ 過去データを使って在庫予測と節約効果を可視化。

写真整理アプリ
アプリが「セルフィー」「ペット」「領収書」を自動分類。犬を猫と間違えても、ユーザーが簡単に修正。

→ 社内画像の分類プロトタイプを作り、精度を検証してみましょう。

注意すべき（または慎重に使うべき）例

医療処置をAIだけで決定
病院がAIに治療法を任せる。誤りは命に関わる危険あり。

→ 最終判断は医師が行うべき。AIはあくまで提案役に。

自動解雇システム
生産性が低いとAIが判断し、背景や健康状態を無視して社員を解雇。

→ AIは兆候の検出まで。判断は必ず人間が。

安全に使うために

• 重要な決定には人間の判断を。

• 継続的な監視： 苦情が増えたらモデルを見直し。

• ユーザーへの透明性： AIの関与と異議申立て方法の明示。

• データ更新： 古いモデルは精度低下の元。

• 価値に集中： 単純作業を自動化し、人の共感が必要な部分は守る。

3段階の監視構造

レベル1 – アシスタント
AIが提案 → 人間が決定。
例：メールの下書き生成
→ 節約した時間と受け入れ率を測定。

レベル2 – コパイロット
AIが実行、でも信頼度が低いときは警告。
例：チケット振り分け
→ 信頼度の下限とアラート設定を。

レベル3 – 自動操縦
AIが完全自動で処理、異常時のみ通知。
例：クラウドサーバーの自動スケーリング

AIは繰り返し作業を高速化できますが、命・権利・評判が関わる時、人の共感こそが不可欠です。「3-2-1ルール」と階層的な監視、ダッシュボードの活用で、人のためにAIを働かせましょう。

Natalia Mera

ソフトウェアプロジェクト管理の専門家    @Natalia Mera