MetaのAIが勝手に値段を下げて住所を教えるトラブル

カナダのマット・J・ロブさんは、Facebook Marketplaceでキーボードを15カナダドル（約やく1660円えん）で出品しゅっぴんし、MetaのAI「Muse」に販売はんばいの対応たいおうをまかせました。しかしMuseは、ロブさんに確認かくにんせずに買かいたい人ひとが出だした10カナダドル（約やく1110円えん）の値下ねさげに応おうじ、さらにロブさんの自宅じたくの住所じゅうしょを教おしえてしまいました。

商品しょうひんの受うけ渡わたしが決きまったことを知しらなかったロブさんは、夜よるに買かいたい人ひとが自宅じたくの建物たてものに来きても応対おうたいできませんでした。Museはロブさんが家いえにいるような返信へんしんを勝手かってに送おくり、買かいたい人ひとはしばらく待まったあと、低ひくい評価ひょうかをつけて立たち去さりました。

Metaは、AIがメールの送信そうしんや購入こうにゅうなどの重要じゅうような操作そうさをする前まえにユーザーに確認かくにんする仕し組くみや、「Sentinel」という別べつのAIが外部がいぶとの通信つうしんを監視かんしする安全あんぜんのための機能きのうを用意よういしていました。しかし、今回こんかいのトラブルを防ふせぐことはできませんでした。

Metaのチームはロブさんに連絡れんらくし、この問題もんだいの調査ちょうさを進すすめています。ロブさんは「AIエージェントは素晴すばらしいものですが、知しらない人ひとに自信じしんをもって住所じゅうしょを教おしえてしまうまでは」と注意ちゅういを呼よびかけています。