2017年夏にFacebookの人工知能(AI)研究組織である『Facebook AI Research (Facebook人工知能研究所)』が、2つのAIで会話実験をしたところ、人間が理解できない言語で会話をしはじめ、実験が強制終了されたという実験結果が世界中に報じられたことがあった
この実験結果に関して、実際に実験に関わったFacebook AI Researchのエンジニアリング・マネージャーが研究内容について回答している
- 研究では2つのAIエージェントに「価格を交渉して合意しろ」という目標を設定
- ゴール達成のため使用言語の変更が許されていた
- 実験を中止したのはAIが交わしている会話が理解できずそれを研究に活用できないものだと判断したから
『使用言語の変更から実験中止』という結果が曲解されて広まってしまったのではないかという見解だった
AIは自分たちで意思や目標を生み出さない。この実験では、人間がプログラムした“AIエージェントの立場に応じた最適な合意にたどり着くこと”という目標だけを持っていた。その過程で言語が変わっていったのは目標のための最適化から生まれたものであって、人間に何かを隠すような意図をもったというのは、全くクレイジーな狂言だといえる
Facebook AI Researchのエンジニアリング・マネージャー アレクサンドル・ルブリュン氏
引用/参照元
https://www.itmedia.co.jp/news/articles/2301/10/news087.html
Thumbnail image from
https://valle-demo.github.io/