人工知能が人間には理解できない言語を使い始めた?

2017年7月7日 17:30

小

中

大

印刷

記事提供元:スラド

 Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、交渉によって得られる利益を最大化するようボットを設定したところ、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ(BizSeedsThe AtlanticNewScientist研究論文)。

 このチャットボットはFacebookの研究チームが人工知能を使った交渉やアシスタント機能を実現するために開発したもの。5000件以上の会話データを元に学習させた上で、人間やほかのチャットボットと会話を行わせたという。

 実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

 この2つの結果を踏まえ、研究チームはこの2つの設定をうまく切り替えて利用するようなアルゴリズムを作成したという。その結果、交渉能力は「意味の無い言語」を使うボットと比べて低下したものの、人間にとっては「信頼できる」ものになったという。

 スラドのコメントを読む | テクノロジー | 人工知能

 関連ストーリー:
人工知能が人間を超えることはない? 2017年06月07日
人工知能によって人工知能を作る研究が進められる 2017年01月26日
MicrosoftのナデラCEO曰く、AIが「傲慢」にならないよう注意すべき 2017年01月20日

※この記事はスラドから提供を受けて配信しています。

関連キーワードFacebook人工知能(AI)

広告

広告

写真で見るニュース

  • ファイナルファンタジーXIVウエディングオリジナル演出。4K対応の大迫力スクリーンの前で、オリジナル証明書へのサイン。(画像:ブライダルハート発表資料より)
  • SBXC039。(画像:セイコーウオッチ発表資料より)
  • 「派遣BOARD」のイメージ。(画像: ハケンボード発表資料より)
  • 今回発見が報じられた天体 (c) Vasilii Gvaramadse/Moscow University
  • 「メガアイスコーヒー(左)とメガアイスカフェラテ(右)」(写真:ロッテリアの発表資料より)
  • 開発された「マルコメ君」のロボット。(マルコメの発表資料より)
  • 月面写真。ここにも水が存在しているのかもしれない (c) NASA
  • ハッブル宇宙望遠鏡によって撮影されたNCG 4485 (c) ESA/NASA/Hubble
 

広告

ピックアップ 注目ニュース