6 min read
10分。Wixの発表によると、これが、AIエージェントがお金を使う前に、小規模事業主がWhatsAppやSMSで購入を承認するための持ち時間です。多くの人にとっての注目点は、エージェントが支払いまでできるようになったことでした。私の見方は逆です。今回のリリースで最も価値があるのは承認ステップであり、ひとり事業主はこれを急いで手放すべきではありません。
Wixが小規模ビジネス向けに提供するAIエージェントチームのSymphonyは、米国アカウントを持ち米ドルで支払う顧客を対象に、StripeのデジタルウォレットであるLinkと接続できるようになりました。Wix自身が挙げる例には、在庫の再注文、メールで届いた請求書の支払い、登録料の支払い、不満を抱えた顧客へのギフト送付などがあります。技術はよく設計されています。リスクは、疲れた事業主がそれをどう使うかにあります。
認めるべき点：安全策は本物
懐疑的な立場の人間こそ、うまくいっている点から語るべきでしょう。Wixの説明によれば、設計にはいくつもの配慮があります。
- エージェントはあなたのカードを見ません。受け取るのは、承認額を上限とするワンタイムカードまたはトークンです。
- イエスと答える前に、販売元、商品、正確な合計金額を確認できます。
- 変更があれば改めて承認が必要です。合計金額や店舗が変わると、手続きは最初からやり直しになります。
- 二重払いをチェックします。Symphonyは再試行の前にLinkに確認するので、不具合で2回請求されることはないはずです。
Stripeのドキュメントも同じパターンを説明しています。特定の購入に対する支出リクエスト、顧客による承認、そしてワンタイムの認証情報という流れです。保存済みのカード情報をボットに渡すのに比べれば、大きな前進です。また、エージェントにアカウントを与える際の5つのルールで示した原則、つまり仕事をこなせる最小限のアクセス権だけを与えるという考え方とも一致しています。
優れた設計が現実の1週間に出会うとき
では、何が問題なのでしょうか？気になる点が3つありますが、どれもStripeのエンジニアリングの欠陥ではありません。
承認疲れは人間のバグ
10分という時間枠は、意図的に短く設定されています。それは同時に、接客中や運転中、注文の梱包中に依頼が届くということでもあります。最初の十数回の承認には注意を払うでしょう。50回目ともなれば、スマートフォンの通知を止めたくてイエスをタップするようになります。人間の確認に頼る安全の仕組みには必ずこの弱点があり、エージェントへの信頼が高まるほど悪化します。
「メールで届いた請求書を支払う」が、最も危ない一文
偽の請求書は最も古くからあるビジネス詐欺の1つで、日常の業務に見えるからこそ成功します。FBIの2024年版インターネット犯罪報告書によると、ビジネスメール詐欺の被害報告額は約28億ドルに上りました。これは、犯罪者が取引先になりすまして支払い先を変更させる詐欺の分類です。
受信トレイを読むエージェントは、人間をだますのと同じ手口にだまされる可能性がありますし、新しい手口にかかるおそれもあります。メッセージの中に、AIに向けた隠し指示が含まれていることさえあります。承認画面には販売元と合計金額が表示されますが、仕入れ先の「新しい振込先」が泥棒からのものだとは教えてくれません。金額がいつもの請求書と同じくらいなら、とっさのイエスこそ詐欺師の狙いどおりです。
問題が起きたときのことをWixは語っていない
私が読んだ説明には、エージェントによる購入の返金や異議申し立てについて書かれていません。エージェント決済の手数料も記載されていません。通常のカードのルールで処理されるのかもしれませんが、「かもしれない」は計画とは呼べません。重要な購入を承認する前に、返品を受け付けない販売元からエージェントが間違ったものを買った場合にどうなるかを調べておきましょう。
抵抗すべきは次のステップ
Wixは購入ごとの承認を意図的なものだと説明し、Stripeのロードマップは予算の方向を指しているとも述べています。月々の再注文予算を一度承認すると、エージェントがその範囲内で支出し、上限はAIモデルではなくLinkが管理するという仕組みです。WixはこれをSymphonyで提供すると約束してはいませんが、方向性は明らかです。
予算と聞くと自由になれそうです。しかし、ひとり事業主にとっては時期尚早だと私は考えます。上限は失敗の規模を制限しますが、個々の購入が良いものだったかどうかについては何も語りません。エージェントが予算内で間違った香りのキャンドルを再注文した場合、上限は機能しても、手元には売れないキャンドルが200本残ります。大きな会社には明細を確認する経理担当者がいます。あなたの場合、経理担当者はあなた自身であり、しかもあなたは忙しいのです。
ここで真価を発揮するのがAI自律性のはしごです。エージェントが次の段に上がるのは、測定できる実績を積んでからにすべきであり、お金を使うことは最も高い段の1つです。
エージェント決済を試すひとり事業主のためのルール
- 繰り返しの購入だけから始める。なじみの仕入れ先から、いつもの価格で毎月再注文するのは、ちょうどよいテストです。新しいものから始めないでください。
- 当面、請求書は対象から外す。何か月も問題のない履歴ができるまで、メールで届いた請求書は自分で支払いましょう。振込先の変更は、メールに書かれた番号ではなく、すでに知っている番号に電話して必ず確認してください。
- 利用限度額の低いカードを使う。失っても眠れなくならない程度の限度額を設定し、メインの口座とは分けておきます。
- きちんと確認できない依頼は無視する。依頼を期限切れにしても損失はほとんどないので、そのままにしましょう。逃した再注文は、机に戻ってからやり直せます。
- 毎週ログを確認する。5分かけて、エージェントの購入をすべて自分の注文と照らし合わせます。AIがお金の領域に入るときの止めどころを扱った以前の記事で、さらに詳しく説明しています。
- 予算を任せる基準を書き出す。たとえば90日間で30回の購入にミスがないことなど、何を達成すれば予算を任せるのかを事前に決めておきます。そうしないと、便利さに流されて決まってしまいます。
私への率直な反論
私は人間の確認を過大評価している、という反論もあるでしょう。すべての請求書を発注書と照合するエージェントのほうが、深夜の注意散漫な事業主より多くのミスを見つけられる、というわけです。注文量の多い事業ならそれが正しいとわかるかもしれませんし、節約できる時間を計算すれば、いずれ予算を任せることも正当化できるかもしれません。
しかし、その主張には証拠が必要で、これほど小規模な事業については証拠がまだほとんどありません。ひとり事業主は利益率が薄く、ミスを見つけてくれる人もいません。大きな企業に先に実験してもらう代償は、1回の購入につき数分です。それは払う価値のある代償です。
確認なしでAIエージェントにお金を使わせますか？予算がいくらなら安心できるか、あるいはどんな金額でも無理か、ぜひ教えてください。
