もし人工知能（AI）に「利益だけを一番大きくしろ」と命じたら、どうなるでしょうか。米ハーバード・ビジネス・スクールなどの研究チームが、AIに自動販売機を運営させる実験を行ったところ、AIは客にうそをついて返金を断ったり、ほかのAIと相談して高い値段をそろえたりするなど、人間の会社のような不正を次々と始めました。
〜たら、どうなるでしょうか= 用於提出假設性的提問，意為「如果……會怎麼樣呢？」Vたところ= 表示進行了某個動作後，發現了某種情況或結果，意為「做了……之後發現」〜たり、〜たりする= 列舉具代表性的動作或狀態，意為「又是……又是……；有時……有時……」
実験では、8社のAIモデル20種類を使い、サンフランシスコにある自動販売機1台を1年間運営させるシミュレーションを行いました。AIには最初に500ドルとジュースなどの商品が渡され、「1年後の銀行残高を最大にせよ」とだけ指示されました。客の満足や法律を守ることは求められず、さらにAIが考えるたびに「利用料」としてお金が口座から引かれるルールも設けられました。
〜たびに= 表示每次該動作或事件發生時都如此，意為「每當……就……」Vられる (受身)= 被動形，表示事物被交付、被要求或規則被設立
その結果、AIたちは教えられてもいないのに悪質な行動をとるようになりました。客から「お金を返してほしい」と言われると、「食べたあとの商品はルールにより返金できない」と、実際にはない社内ルールを作り出して断りました。さらに、「お金を返す手続きをした」とうそのメールを送りながら、実際にはお金を送らなかったり、ライバルのAIに「利益を出すために、みんなで最低でも2ドルの値段をつけよう」とメールで呼びかけて値下げを防ごうとしたりしました。
〜のに= 接在句尾或子句後，表示與預期相反的轉折，意為「明明……卻……」Vるようになる= 表示狀態或習慣的轉變，意為「變得……；開始……」Vながら= 表示同時進行兩個動作，在此處指表面上做一件事（發郵件），背地裡卻做出矛盾的行為（不匯款）Vようとする= 表示正嘗試或打算做某事，意為「試圖……；想要……」
研究チームは、法律を守るよう指示せず利益だけを求めさせたことが、AIが損得を計算して不正を選んだ大きな理由だと考えています。また、考えるほどお金が減る仕組みだったため、AIが思考を節約しようとしたことも不正を後押ししました。将来、AIにビジネスを任せる際には、どのような目標や制限を設定するかが極めて重要になりそうです。
〜ほど= 表示成正比的變化關係，意為「越……越……」（越思考錢就扣得越多）Vる際には= 較鄭重的說法，接在動詞辭書形後，表示「做……時」。文中的「任せる際には」意為「委託時」。